Během střední školy pracoval nejprve u Thoma McAna, kde barvil dámské boty, a poté v pánském obchodě Anderson-Little, kde prodával obleky. Jako student vysoké školy pracoval na částečný úvazek u Louise Bostona. Abboud prohlásil: „Louis Boston byl velkou součástí mé kariéry. Skutečně jsem se ocitl ve světě velmi okouzlujícího stylu, krásných šatů, prostě ve světě toho, co znamenala mezinárodní móda. Kdyby se to nikdy nestalo, pak by se nestalo ani to ostatní.“ Abboud se ve 23 letech stal nákupčím ve společnosti Louis Boston. Během dvanácti let působil jako nákupčí, merchandiser a nakonec koordinátor propagace a reklamy.
Abboud nastoupil v roce 1981 k Ralphu Laurenovi a nakonec se stal zástupcem ředitele pro design pánských oděvů. Na jaře 1987 uvedl na trh vlastní značku. V roce 1988 vznikla společnost JA Apparel jako společný podnik Abbouda a GFT (Gruppo Finanziario Tessile) USA.
V roce 1991 Abboud spolupracoval s módním ředitelem Peterem Speliopoulosem. Abboud byl prvním návrhářem, který získal cenu CFDA jako nejlepší návrhář pánské módy dva roky po sobě. Mezi Abboudovy zákazníky patří i řada jeho slavných přátel, včetně amerického trumpetisty a skladatele Wyntona Marsalise, spisovatele a bývalého moderátora televizních zpráv Toma Brokawa a bývalého shortstopera Boston Red Sox Nomara Garciaparry.
Abboud v roce 2000 prodal své ochranné známky a jméno společnosti JA Apparel za 65 milionů dolarů. V roce 2004 společnost koupila soukromá kapitálová společnost J.W. Childs Associates za 73 milionů dolarů a v roce 2005 Abboud společnost JA Apparel opustil.
Abboud v roce 2007 uvedl na trh novou řadu s názvem Jaz. V roce 2008 také vytvořil řadu Black Brown 1826 pro obchodní dům Lord &Taylor. V roce 2008 byly také otevřeny Abboudovy první obchody v Číně.
V roce 2010 se Abboud stal kreativním ředitelem společnosti HMX, která vlastní značky Hart Schaffner Marx a Hickey Freeman. V roce 2011 podala společnost HMX nabídku na koupi společnosti JA Apparel za 90 milionů dolarů. V prosinci 2012 se stal hlavním kreativním ředitelem společnosti Men’s Wearhouse. V době, kdy Abboud pracoval jako kreativní ředitel, společnost Men’s Wearhouse Inc. (nyní Tailored Brands Inc.) v roce 2013 znovu získala ochranné známky Abboud a JOE by Joseph Abboud.
Po získání zpět zákonných práv na svou značku v roce 2013 Abboud založil elektronický obchod, otevřel vlajkový obchod na Madison Avenue a produkoval plnohodnotné módní přehlídky.
V březnu 2020 získala společnost WHP Global ochranné známky značky Joseph Abboud od Tailored Brands. Společnost Tailored Brands následně uzavřela se společností WHP Global licenční smlouvu na pokračující práva na prodej a pronájem oděvů a vybraných doplňků značky Joseph Abboud v USA a Kanadě.