I. e. 587-ben Elő-Ázsia legnagyobb birodalmának uralkodója, Nabukudurriuszur megostromolta a várost. Leromboltatta Salamon templomát, a zsidókat pedig birodalma fővárosába, Babilonba hurcoltatta. A babiloni fogságból visszatért zsidó száműzöttek i. e. 520 körül újjáépítették a templomot, és ez az épület több mint 500 évig fennállt, miközben Izrael élén egymást váltották az idegen uralkodók. I. e. 19-ben Salamon templomát ismét átépítették, ezúttal Nagy Heródes megbízásából, akinek neve örökre összeforrt a betlehemi gyermekgyilkossággal. A Biblia szerint Heródes elrendelte, hogy minden fiúcsecsemőt öljenek meg Betlehemben, mert hírt kapott egy gyermek születéséről, akiből idővel a zsidók királya lesz. A heródesi templom i. sz. 70-ig állt fenn, amikor a rómaiak - egy zsidó felkelést követően - földig rombolták.

Napjainkra Heródes templomából mindössze a nyugati fal maradt meg, amely a zsidók számára a földkerekség legszentebb helye. Közismertebb neve - Siratófal - a zsidók ama szokásából ered, hogy a szent fal előtt imádkozva siratják száműzött hittestvéreik sorsát és a templom lerombolását. A buzgó imádkozók egy része könyörgésekkel telerótt papírlapot csúsztat a fal hasadékaiba, azaz a szent templomba, abban a hitben, hogy esdeklő szavaik egyenesen Istenhez szállnak.

Miután a moszlimok megfosztották a zsidókat a szent sziklától, szükségük volt egy másik szent helyre hitük gyakorlásához. Az Óváros nyugati részében álló masszív falat választották erre a célra, amelyet az óta Siratófalnak hívnak. A hagyomány szerint hatalmas alapkövei Salamon templomából valók, valójában azonban Heródes helyreállított és kibővített templomából származnak.

A zsidó vallás hívei a fal előtt siratták meg a templom lerombolását, s itt emlékeznek a babiloni fogság keserveire. Kis cédulákra írták imáikat vagy azoknak a nevét, akikért imádkoztak, és ezeket a kövek közti résekbe gyömöszölték. Kb. negyedmillió zsidó látogat el a Falhoz évenként húsvétkor, a szukót idején és a hetek ünnepén.

A Siratófalról készült fotók gyakran félrevezetőek, mert általában csak sötét ruhás hászid zsidó férfiakat örökítenek meg, pedig a valóságban az egész világról érkeznek ide zsidó nők és férfiak egyaránt, hogy a Falnál imádkozhassanak. Az egyetlen feltétel, hogy a férfiak nem léphetnek fedetlen fővel a Falhoz, és a nemeket az ortodox zsidó előírások szerint elkülönítik egymástól. A zarándokok ima után a Fal előtti téren csoportokba verődnek, hogy ismerőseikkel, barátaikkal találkozzanak.

A Sziklamecset és a heródesi templom nyugati falának egymásmellettisége jelképes módon fejezi ki a nagy világvallások együttélését Jeruzsálemben. A szent falnál az ortodox zsidók rendszeresen tartanak esküvőket és bar nicva (a 13 éves és 1 napos fiúk vallási értelemben vett felnőtté válását) megünneplő szertartásokat.