Около 200 г. до н. э. Иудею и Иерусалим захватила Сирийская эллинистическая империя, где царствовала династия Селевкидов. Селевкидский царь Антиох IV Эпифан ввел чрезвычайно жестокие законы, направленные на насильственное приобщение евреев к греческой культуре. Соблюдение субботы и многих других еврейских обычаев было запрещено под страхом смерти. Антиох сменил также состав священников в Храме, поставив во главе их эллинизированного еврея по имени Менелай. В ответ на возмущение евреев Антиох разрушил городские стены Иерусалима, возвел внутри города крепость Акра, где разместился греческий гарнизон, разграбил храмовые сокровища, а Храм приказал превратить в святилище Зевса Олимпийского.
Все это привело к тому, что в 167 г. до н. э. вспыхнуло еврейское восстание, известное как восстание Маккавеев (Хасмонеев). В декабре 164 г. Иегуда Маккавей захватил Храмовую гору, устранил из Храма следы языческого культа и восстановил его нормальное функционирование. В связи с этими событиями установлен еврейский праздник Ханука (буквально – «новоселье» или «очищение»).
В правление малолетнего Антиоха V Евпатора евреям была пожалована свобода вероисповедания, и Менелай был смещен с поста первосвященника. По условиям перемирия крепость Акра оставалась в руках сирийского гарнизона. Вскоре, однако, военные действия возобновились, но лишь в 141 г. до н. э. силы Шисона Хасмонея вступили в Акру и положили конец чужеземному присутствию в Святом городе. Иерусалим стал столицей Хасмонейского царства. Было восстановлено его значение как религиозного центра евреев Эрец-Исраэля и диаспоры.
В городе стали бурно развиваться ремесла и торговля, возводились монументальные постройки.
В 64 г. до н. э. селевкидская Сирия была присоединена к римскому государству. Вмешательство римлян в дела Иудеи стало лишь вопросом времени. Воспользовавшись войной за престолонаследие, войска римлян под предводительством Помпея в 63 г. до н. э. подошли к Иерусалиму. Приверженцы старшего сына Саломеи Александры, Гиркака II Иоханана, открыли перед Помпеем городские ворота, но на Храмовой горе римляне натолкнулись на ожесточенное сопротивление, которое было сломлено только после трехмесячной осады. Римляне ворвались в Храм, Помпей вошел в святая святых, однако храмовые сокровища оставил в неприкосновенности.