Мкапа нарадзіўся ў 1938 годзе ў паўднёвай частцы Танганьікі. Скончыў універсітэт Макерэрэ ва Угандзе ў 1962 годзе. Ён таксама навучаўся ў Калумбійскім універсітэце, дзе ў 1963 годзе атрымаў ступень магістра ў галіне міжнародных спраў. Узначальваў місію Танзаніі ў Канадзе ў 1982 годзе і ў Злучаных Штатах Амерыкі ў 1983—1984 гадах. Быў міністрам замежных спраў з 1977 па 1980 і з 1984 па 1990 год.
У 1995 годзе Мкапа быў абраны прэзідэнтам на фоне антыкарупцыйнай кампаніі і пры моцнай падтрымцы былога прэзідэнта Джуліуса Ньерэрэ.
Другі пяцігадовы тэрмін Мкапа на пасадзе прэзідэнта завяршыўся ў снежні 2005 года.