A középiskola alatt először Thom McAn-nál dolgozott női cipők festésével, majd az Anderson-Little férfiboltban, ahol öltönyöket árult. Főiskolásként részmunkaidőben a Louis Bostonban dolgozott. Abboud kijelentette: “A Louis Boston hatalmas szerepet játszott a karrieremben. Tényleg a nagyon elbűvölő stílus, a gyönyörű ruhák világában landoltam, egyszerűen abban a világban, amiről a nemzetközi divat szólt. Ha ez nem történik meg, akkor a többi sem történt volna meg”. Abboud 23 évesen lett a Louis Boston felvásárlója. Tizenkét év alatt beszerzőként, árufeltöltőként, majd végül a promóció és reklám koordinátoraként dolgozott.
Abboud 1981-ben csatlakozott a Ralph Laurenhez, ahol végül a férfi ruhatervezés társigazgatója lett. Saját márkáját 1987 tavaszán indította el. A JA Apparel 1988-ban jött létre Abboud és a GFT (Gruppo Finanziario Tessile) USA közös vállalkozásaként.
1991-ben Abboud Peter Speliopoulos divatigazgatóval dolgozott együtt. Abboud volt az első tervező, aki két egymást követő évben is elnyerte a CFDA legjobb férfi ruhatervezőnek járó díját. Abboud számos híres barátja is a vásárlója, köztük Wynton Marsalis amerikai trombitás és zeneszerző, Tom Brokaw író és korábbi tévéhíradós, valamint Nomar Garciaparra, a Boston Red Sox korábbi shortstopja.
Abboud 2000-ben 65 millió dollárért eladta védjegyeit és nevét a JA Apparelnek. A vállalatot 2004-ben a J.W. Childs Associates magántőke-befektető cég vásárolta meg 73 millió dollárért, Abboud pedig 2005-ben távozott a JA Apparelből.
Abboud 2007-ben új, Jaz nevű kollekciót indított. A Lord & Taylor áruház számára 2008-ban megalkotta a Black Brown 1826 vonalat is. A 2008-as év egyben Abboud első üzleteinek megnyitását is jelentette Kínában.
2010-ben Abboud lett a Hart Schaffner Marx és a Hickey Freeman márkák tulajdonosa, a HMX kreatív vezetője. A HMX 2011-ben ajánlatot tett a JA Apparel megvásárlására 90 millió dollárért. 2012 decemberében a Men’s Wearhouse vezető kreatív igazgatója lett. Miközben Abboudot kreatív igazgatóként alkalmazta, a Men’s Wearhouse Inc. (ma Tailored Brands Inc.) 2013-ban visszavásárolta az Abboud és a JOE by Joseph Abboud védjegyet.
Azt követően, hogy 2013-ban visszaszerezte a márkájához fűződő jogokat, Abboud e-kereskedelmet hozott létre, megnyitotta a Madison Avenue zászlóshajó üzletét és teljes körű divatbemutatókat rendezett.
2020 márciusában a WHP Global megvásárolta a Joseph Abboud márka védjegyeit a Tailored Brands-től. A Tailored Brands viszont licencszerződést kötött a WHP Global-lal a Joseph Abboud ruházati cikkek és kiválasztott kiegészítők értékesítésének és bérbeadásának folyamatos jogairól az Egyesült Államokban és Kanadában.