Monet matematiikan alat alkoivat tutkimalla reaalimaailman ongelmia, ennen kuin taustalla olevat säännöt ja käsitteet tunnistettiin ja määriteltiin abstrakteiksi rakenteiksi. Esimerkiksi geometria on saanut alkunsa reaalimaailman etäisyyksien ja pinta-alojen laskemisesta; algebra sai alkunsa aritmeettisten ongelmien ratkaisumenetelmistä.
Abstraktio on matematiikassa jatkuva prosessi, ja monien matemaattisten aiheiden historiallisessa kehityksessä näkyy eteneminen konkreettisesta abstraktiin. Esimerkiksi antiikin kreikkalaiset ottivat ensimmäiset askeleet geometrian abstrahoinnissa, ja Eukleideen elementit on varhaisin säilynyt dokumentti tasogeometrian aksioomista – vaikka Proklos kertookin, että Khioksen Hippokrates oli jo aiemmin laatinut aksiomatismin. Descartes otti 1600-luvulla käyttöön kartesiolaiset koordinaatit, jotka mahdollistivat analyyttisen geometrian kehittämisen. Lobatševski, Bolyai, Riemann ja Gauss, jotka yleistivät geometrian käsitteitä kehittääkseen ei-euklidista geometriaa, ottivat uusia askeleita abstrahoinnissa. Myöhemmin 1800-luvulla matemaatikot yleistivät geometriaa entisestään ja kehittivät muun muassa n-ulotteista geometriaa, projektiogeometriaa, affiinista geometriaa ja äärellistä geometriaa. Felix Kleinin ”Erlangenin ohjelmassa” yksilöitiin lopulta kaikkien näiden geometrioiden perimmäinen teema ja määriteltiin jokainen näistä geometrioista sellaisten ominaisuuksien tutkimiseksi, jotka ovat muuttumattomia tietyn symmetriaryhmän alla. Tämä abstraktiotaso paljasti yhteyksiä geometrian ja abstraktin algebran välillä.
Matematiikassa abstraktio voi olla eduksi seuraavilla tavoilla:
- Se paljastaa syviä yhteyksiä matematiikan eri alojen välillä.
- Tunnetut tulokset jollakin alueella voivat antaa viitteitä arveluihin jollakin muulla siihen liittyvällä alueella.
- Tekniikoita ja menetelmiä yhdeltä alueelta voidaan soveltaa todistamaan tuloksia toisilla toisiinsa liittyvillä alueilla.
- Kuvioita yhdestä matemaattisesta kohteesta voidaan yleistää muihin samankaltaisiin objekteihin samassa luokassa.
Toisaalta abstrahoinnista voi olla myös haittaa sikäli, että hyvin abstrakteja käsitteitä voi olla vaikea oppia. Abstraktioiden käsitteelliseen omaksumiseen saattaa tarvita jonkinasteista matemaattista kypsyyttä ja kokemusta. Näin ollen yksi Montessorin matematiikan opetuksen perusperiaatteista on rohkaista lapsia siirtymään konkreettisista esimerkeistä abstraktiin ajatteluun.
Bertrand Russell kirjoittaa teoksessaan The Scientific Outlook (1931), että ”tavallinen kieli on täysin sopimaton ilmaisemaan sitä, mitä fysiikka todella väittää, koska arkielämän sanat eivät ole riittävän abstrakteja. Vain matematiikka ja matemaattinen logiikka voivat sanoa niin vähän kuin fyysikko aikoo sanoa.”