La decisione di creare l’AAU fu presa in un incontro dei capi delle istituzioni africane di istruzione superiore tenuto a questo scopo all’Università di Khartoum, in Sudan, nel settembre 1963. L’Associazione Internazionale delle Università assistette nella pianificazione e nell’organizzazione amministrativa di questo incontro e fu invitata a cooperare con il Comitato provvisorio che fu istituito per redigere una costituzione per l’AAU.
Una conferenza di fondazione a cui parteciparono i capi o i rappresentanti senior di 34 università africane fu tenuta all’Università Mohammed V di Rabat, Marocco, il 12 novembre 1967. La seconda conferenza generale dell’AAU si tenne all’Università Lovanium di Kinshasa nel novembre 1969 e furono eletti nuovi funzionari e un nuovo consiglio esecutivo che entrarono in carica nel 1970. Il governo del Ghana vinse successivamente la gara per ospitare l’AAU – e il segretariato dell’AAU è stato ospitato in Ghana dal 1970. Con un numero iniziale di 34 membri, l’Associazione ha ora più di 360 membri, che attraversano la lingua e altre divisioni.
L’Associazione ha fornito una piattaforma per la ricerca, la riflessione, la consultazione, i dibattiti, la cooperazione e la collaborazione su questioni relative all’istruzione superiore. Ha fornito una serie di servizi ai suoi membri e ha servito l’istruzione superiore africana in vari modi. Ha stabilito e accresciuto il suo ruolo nelle cinque sub-regioni dell’Africa ed è quindi in grado, con ragionevole preavviso, di riunire gruppi di esperti in settori rilevanti dalle sub-regioni.
L’Associazione possiede una capacità unica di riunire i leader istituzionali dell’istruzione superiore e i responsabili politici di tutte le parti del continente e su questioni chiave relative all’istruzione superiore africana e allo sviluppo, come dimostrato nel workshop WTO/GATS tenutosi in Ghana nell’aprile 2004. Inoltre, l’Associazione fornisce la leadership nell’identificazione delle questioni emergenti e il supporto per discuterle e facilitare un’adeguata azione di follow-up da parte dei suoi membri, dei partner e degli altri stakeholder.