Kouluaikana hän työskenteli ensin Thom McAnilla värjäämässä naisten kenkiä ja sitten Anderson-Littlen miestenliikkeessä, jossa hän myi pukuja. Yliopisto-opiskelijana hän työskenteli osa-aikaisesti Louis Bostonissa. Abboud totesi: ”Louis Bostonilla oli suuri merkitys urallani. Jouduin todella glamourisen tyylin maailmaan, kauniisiin vaatteisiin, vain siihen maailmaan, mistä kansainvälisessä muodissa oli kyse. Jos tätä ei olisi koskaan tapahtunut, muuta ei olisi tapahtunut.” Abboudista tuli 23-vuotiaana Louis Bostonin ostaja. Kahdentoista vuoden aikana hän toimi ostajana, kauppiaana ja lopulta myynninedistämisen ja mainonnan koordinaattorina.
Abboud siirtyi Ralph Laurenin palvelukseen vuonna 1981, ja hänestä tuli lopulta miesten vaatteiden suunnittelun apulaisjohtaja. Hän lanseerasi oman merkkinsä keväällä 1987. Vuonna 1988 perustettiin JA Apparel Abboudin ja GFT:n (Gruppo Finanziario Tessile) USA:n yhteisyrityksenä.
Vuonna 1991 Abboud työskenteli muotijohtaja Peter Speliopoulosin kanssa. Abboud oli ensimmäinen suunnittelija, joka voitti CFDA:n palkinnon parhaana miestenvaatesuunnittelijana kahtena vuonna peräkkäin. Monet Abboudin kuuluisista ystävistä ovat myös hänen asiakkaitaan, kuten amerikkalainen trumpetisti ja säveltäjä Wynton Marsalis, kirjailija ja entinen tv-uutisankkuri Tom Brokaw sekä entinen Boston Red Soxin lyhytsyöttöpelaaja Nomar Garciaparra.
Abboud myi tavaramerkkinsä ja nimensä JA Apparel -yhtiölle 65 miljoonalla dollarilla vuonna 2000. Yksityinen sijoitusyhtiö J.W. Childs Associates osti yrityksen 73 miljoonalla dollarilla vuonna 2004, ja Abboud jätti JA Apparelin vuonna 2005.
Abboud lanseerasi uuden Jaz-nimisen malliston vuonna 2007. Hän loi myös Black Brown 1826 -malliston Lord & Taylor -tavaratalolle vuonna 2008. Vuonna 2008 avattiin myös Abboudin ensimmäiset myymälät Kiinassa.
Vuonna 2010 Abboudista tuli Hart Schaffner Marx- ja Hickey Freeman -brändien omistajan HMX:n luova johtaja. HMX teki tarjouksen JA Apparelin ostamisesta 90 miljoonalla dollarilla vuonna 2011. Joulukuussa 2012 hänestä tuli Men’s Wearhousen luova johtaja. Abboudin toimiessa luovana johtajana Men’s Wearhouse Inc. (nykyisin Tailored Brands Inc.) hankki Abboud- ja JOE by Joseph Abboud -tavaramerkit takaisin vuonna 2013.
Saatuaan takaisin laillisen oikeuden tuotemerkkiinsä vuonna 2013 Abboud perusti sähköisen kaupankäynnin, avasi Madison Avenuen lippulaivamyymälän ja tuotti täysimittaisia muotinäytöksiä.
Maaliskuussa 2020 WHP Global osti Joseph Abboud -tavaramerkin tavaramerkit Tailored Brandsilta. Tailored Brands puolestaan teki WHP Globalin kanssa lisenssisopimuksen, joka koskee jatkuvia oikeuksia myydä ja vuokrata Joseph Abboudin vaatteita ja valikoituja asusteita Yhdysvalloissa ja Kanadassa.