Początki obecności oo. jezuitów na Mokotowie, wiążą się z otwarciem w 1935 r. Domu Pisarzy Towarzystwa Jezusowego przy ulicy Rakowieckiej w Warszawie. Budynek zajmowany przez Dom powstał z fundacji papieża Piusa XI (proj. Andrea Boni). W Domu funkcjonowała kaplica i to właśnie w niej złożono relikwie św. Andrzeja Boboli, przywiezione do Polski po dokonanej w Rzymie 17 kwietnia 1938 r. kanonizacji.
Podczas powstania warszawskiego w murach Domu zostało zamordowanych kilkudziesięciu Polaków, w tym kilkunastu jezuitów.
W dniu 1 stycznia 1953 r. Prymas Stefan Wyszyński erygował parafię pw. św. Andrzeja Boboli. Rozpoczęto też starania o uzyskanie zezwolenia na budowę kościoła parafialnego. Początkowo władze wydały zgodę, anulowały ją jednak w 1958 r. Na kolejną zgodę trzeba było czekać ponad 20 lat - uzyskano ją 19 maja 1980 r. i niezwłocznie przystąpiono do budowy kościoła. W czerwcu tego samego roku Prymas Stefan Wyszyński poświęcił plac pod budowę kościoła, zaś 16 maja 1981 r. uroczyście wmurowano, pochodzący z Janowa Poleskiego - miejsca męczeńskiej śmierci św. Andrzeja Boboli - kamień węgielny, który poświęcił Jan Paweł II.
Kościół powstawał etapami (kościół dolny, kościół górny). 13 maja 1989 r. do nowej świątyni przeniesiono relikwiarz Świętego, umieszczając go na honorowym miejscu przed ołtarzem głównym; 24 listopada 1991 r. dokonano konsekracji całego kościoła, kończąc tym samym okres budowy i rozpoczynając działanie Sanktuarium.