最高權力機構為理事會，由各成員國委派理事和副理事各1名組成。理事壹般由各國財政部或經濟部部長擔任，理事會每年舉行壹次。理事會的執行機構為董事會，***9名成員，由理事會選舉，任期3年。董事會每月舉行1次會議。經常性業務工作由銀行行長負責。行長由董事會選舉，任期5年，在董事會指導下開展工作。另設副行長1名，協助行長工作。
此外，為滿足該行貸款資金的需要，先後設立了以下合辦機構：
①非洲開發基金，1972年在經濟合作與發展組織援助下設立。由該行和22個非洲以外的工業發達國家出資。其宗旨與職能是協助非洲開發銀行對非洲29個最貧窮的國家貸款，重點是農業、鄉村開發、衛生、教育事業等。此項基金對非洲國家提供長達50年的無息貸款（包括10年寬限期），只收取少量手續費。其業務由非洲開發銀行管理，其資金來源於各成員國認繳的股本。
②尼日利亞信托基金，成立於1976年，由該行和尼日利亞政府***同建立。主要目的是與其他基金合作，向成員國有關項目提供貸款。期限25年，包括最長為5年的寬限期。
③非洲投資與開發國際金融公司，1970年11月設立，總公司設在瑞士日內瓦。目的是促進非洲企業生產力的發展。股東是國際金融公司以及美國和歐洲、亞洲各國約100家金融和工商業機構。法定資本5000萬美元,認繳資本1259萬美元。
④非洲再保險公司，1976年2月建立，1977年1月開始營業。其宗旨是加速發展非洲保險業。總公司設在拉各斯。法定資本1500萬美元，該行出資10%。