La decisión de crear la UCA se tomó en una reunión de directores de instituciones africanas de enseñanza superior celebrada con este fin en la Universidad de Jartum, Sudán, en septiembre de 1963. La Asociación Internacional de Universidades colaboró en la planificación y organización administrativa de esta reunión y fue invitada a cooperar con el Comité Interino que se creó para redactar los estatutos de la UCA.
El 12 de noviembre de 1967 se celebró en la Universidad Mohammed V de Rabat (Marruecos) una conferencia fundacional a la que asistieron los directores o altos representantes de 34 universidades africanas. La segunda Conferencia General de la UCA se celebró en la Universidad de Lovanium, en Kinshasa, en noviembre de 1969. Posteriormente, el Gobierno de Ghana ganó la licitación para acoger la UCA, y la Secretaría de la UCA se encuentra en Ghana desde 1970. Con un número inicial de 34 miembros, la Asociación cuenta ahora con más de 360, más allá de las divisiones lingüísticas y de otro tipo.
La Asociación ha proporcionado una plataforma para la investigación, la reflexión, la consulta, los debates, la cooperación y la colaboración en temas relacionados con la educación superior. Ha prestado una serie de servicios a sus miembros y ha servido a la educación superior africana de diversas maneras. Ha establecido e incrementado su papel en las cinco subregiones de África y, por lo tanto, es capaz, con una antelación razonable, de reunir equipos de expertos en los campos pertinentes de las subregiones.
La Asociación posee una capacidad única para convocar a los líderes institucionales de la educación superior y a los responsables políticos de todas las partes del continente y sobre cuestiones clave relacionadas con la educación superior africana y el desarrollo, como se demostró en el taller de la OMC/AGCS celebrado en Ghana en abril de 2004. Además, la Asociación lidera la identificación de las cuestiones emergentes y el apoyo para debatirlas y facilitar la acción de seguimiento adecuada por parte de sus miembros, socios y otras partes interesadas.