Gereja ini dibangun di atas tempat yang dipercayai sebagai tempat di mana Tuhan Yesus mengajarkan doa Bapa Kami. Gereja Pater Noster adalah salah satu gereja yang dibangun oleh serbuan bangsa Persia pada tahun 614 SM. Penghancuran berikutnya, mengakibatkan munculnya respon dari gereja dan kerajaan-kerajaan di Eropa, yang kemudian mengirimkan tentara salib pada abad ke-12 untuk merebut Tanah Perjanjian dan membangun kembali semua gereja yang telah diruntuhkan. Tetapi, setelah kekalahan ksatria perang salib, lagi gereja termasuk gereja ini dihancurkan dan dikuasai oleh penguasa Muslim. Pada Tahun 1868, lokasi ini dibeli oleh seorang bangsawan, Putri Aurelia de Bossi de la Tour d’Aurvegne dan disumbangkan untuk Perancis. Jika kita masuk ke dalam maka pada dinding dinding tembok bagian luar terdapat banyak doa Bapa Kami dlaam berbagai bahasa. Doa Bapa Kami dalam bahasa Indonesia sendiri dibuat pada tahun 1986 di tempat ini.