L'Institut a été créé, à l'initiative du juge Abdulqawi A. Yusuf, sous les auspices de la Fondation africaine pour le droit international (http://www.afil-fadi.org) et en coopération avec le gouvernement de la République-Unie de Tanzanie.
L'UNION AFRICAINE
Le 30 janvier 2012, la création de l'Institut a été approuvée par l'Assemblée des chefs d'État et de gouvernement de l'Union africaine. L'Assemblée a souligné le "l'importance stratégique " de l'Institut en tant qu'institution panafricaine " vouée à offrir un enseignement supérieur et une recherche en droit international et en droit de l'Union africaine nécessaires au développement de l'Afrique ". L'Assemblée a également reconnu "l'importance du rôle que l'Institut jouera dans le renforcement de la capacité des facultés de droit et des juristes africains à traiter des divers aspects du droit international et du droit de l'Union africaine" (Décision 405 (XVIII), Décision relative à la création d'un Institut africain de droit international à Arusha, en République-Unie de Tanzanie.).
LES NATIONS UNIES
Un an plus tard, le 14 janvier 2013, c'était au tour de l'Assemblée générale des Nations unies de saluer la création de l'Institut. L'Assemblée générale a également encouragé le Secrétariat de l'ONU à coopérer avec l'Institut par l'intermédiaire de la Division de la codification de son Bureau des affaires juridiques (résolution 67/91 (Programme d'assistance des Nations Unies aux fins de l'enseignement, de l'étude, de la diffusion et d'une compréhension plus large du droit international, paragraphe 20.). Depuis lors, l'Assemblée générale réitère chaque année son encouragement à la Division de la codification à coopérer avec l'Institut africain de droit international (voir par exemple la résolution 74/185 du 27 décembre 2019, paragraphe 22).