1924-ben vetődött fel a sziklatemplom építésének gondolata, amikor egy magyar zarándokcsoport Lourdes-ban járt. Eredetileg a Gellért-hegy déli oldalán lévő elhagyott, rossz hírű Szent Iván barlangot szerették volna engesztelő szentéllyé megépíteni. Később azonban a barlang természetes üregét a hegy belsejében robbantásokkal kialakított mesterséges barlangrésszel bővítették ki. A templom építését dr. Lux Kálmán tervei alapján 1931 tavaszára fejezték be. 1939-től lengyel menekültek ezrei érkeztek Magyarországra, akik nagy számban látogatták a Sziklakolostort. 1950-ben a kommunista rendszer felszámolta a szerzetesrendeket Magyarországon. 1951 húsvéthétfőjén az Államvédelmi Hatóság betört a sziklatemplomba, a szerzeteseket egyetlen éjszaka alatt teherautókra rakták és elszállították. A templom bejárata feletti sziklaoromra 1936-ban állított kivilágított fakeresztet 1951-ben ledöntötték, az 1960-as évek elején pedig a templom bejáratát is befalazták. A rendszerváltáskor a Pálos Rend a sziklatemplomot visszakapta, újboli felszentelésére 1992. június 6-án került sor.