Jeszcze w szkole średniej pracował najpierw w Thom McAn farbując buty damskie, a następnie w sklepie męskim Anderson-Little, gdzie sprzedawał garnitury. Jako student college’u, pracował w niepełnym wymiarze godzin w Louis Boston. Abboud stwierdził: „Louis Boston był ogromną częścią mojej kariery. Naprawdę wylądowałem w świecie bardzo efektownego stylu, pięknych ubrań, po prostu w świecie tego, czym była międzynarodowa moda. Gdyby to się nigdy nie wydarzyło, to cała reszta by się nie wydarzyła.” Abboud został kupcem w Louis Boston w wieku 23 lat. W ciągu dwunastu lat pełnił funkcję kupca, merchandisera, a w końcu koordynatora ds. promocji i reklamy.
Abboud dołączył do Ralpha Laurena w 1981 roku, zostając ostatecznie zastępcą dyrektora ds. projektowania odzieży męskiej. Uruchomił swoją własną markę wiosną 1987 roku. W 1988 roku, JA Apparel został stworzony jako joint venture między Abboud i GFT (Gruppo Finanziario Tessile) USA.
W 1991 roku Abboud pracował z dyrektorem mody Peter Speliopoulos. Abboud był pierwszym projektantem, który zdobył nagrodę CFDA jako Najlepszy Projektant Menswear dwa lata z rzędu. Wiele z Abboud słynnych przyjaciół są również jego klienci, w tym amerykańskiego trębacza i kompozytora Wynton Marsalis, autor i były TV News Anchor Tom Brokaw, a były Boston Red Sox shortstop Nomar Garciaparra.
Abboud sprzedał swoje znaki towarowe i nazwę do JA Apparel za 65 milionów dolarów w 2000 roku. Firma została przejęta przez firmę private-equity J.W. Childs Associates za 73 mln dolarów w 2004 roku, a Abboud opuścił JA Apparel w 2005 roku.
Abboud uruchomił nową linię o nazwie Jaz w 2007 roku. On również stworzył Black Brown 1826 linii dla Pana & Taylor domu towarowego w 2008 roku. Rok 2008 oznaczał również otwarcie pierwszych sklepów Abboud w China.
W 2010 roku, Abboud został dyrektorem kreatywnym HMX, właściciela marek Hart Schaffner Marx i Hickey Freeman. HMX złożył ofertę kupna JA Apparel za 90 milionów dolarów w 2011 roku. W grudniu 2012 roku został głównym dyrektorem kreatywnym Men’s Wearhouse. Podczas zatrudniania Abbouda jako dyrektora kreatywnego, Men’s Wearhouse Inc. (obecnie Tailored Brands Inc.) ponownie nabyła znak towarowy Abboud i JOE by Joseph Abboud w 2013 r.
Po odzyskaniu prawa do swojej marki w 2013 r., Abboud uruchomił e-commerce, otworzył flagowy sklep na Madison Avenue i wyprodukował pełnowymiarowe pokazy mody.
W marcu 2020 r. firma WHP Global nabyła znaki towarowe do marki Joseph Abboud od Tailored Brands. Z kolei Tailored Brands zawarł z WHP Global umowę licencyjną na dalsze prawa do sprzedaży i wynajmu odzieży Joseph Abboud i wybranych akcesoriów w Stanach Zjednoczonych i Kanadzie.