Обветшавший Иерусалимский храм не гармонировал с новыми великолепными зданиям, которыми Ирод украсил свою столицу. Примерно в середине своего царствования Ирод принял решение о переустройстве Храмовой горы и о перестройке самого Храма, надеясь этим актом приобрести расположение не любившего его народа.

Кроме этого он руководствовался желанием исправить те повреждения, которые он сам причинил на святом месте при завоевании города.

Похвальное желание реставрировать Храм слилось в планах Ирода с его честолюбивым стремлением создать себе в истории славу царя Соломона, и в то же время, пользуясь реставрацией Храма, усилить надзор за ним, что было достигнуто строительством, в полицейских целях, крепости во дворе Храма и устройством подземных ходов.

В соответствии с текстом «Иудейской Войны» (Иосиф Флавий, «Иудейская Война» V, 11:4) строительные работы начались на 15-ом году царствования Ирода, то есть в 22 году до н. э. «Иудейские Древности» (Иосиф Флавий, «Иудейские Древности» XV) сообщают, однако, что осуществление проекта началось на 18-ом году царствования Ирода, то есть в 19 году до н. э., но не исключено также и то, что в своих трудах Флавий руководствовался двумя разными способами отсчёта лет правления Ирода.

Чтобы не вызвать народного гнева и волнений, царь приступил к реставрации Храма лишь после заготовки необходимых для строительства материалов и окончания всех подготовительных работ. Были приготовлены около тысячи телег для транспортировки камня. Тысяча священников была обучена строительному мастерству для того, чтобы они могли произвести всю необходимую работу во внутренней части Храма, куда разрешено входить только священникам. Были приняты необходимые меры, чтобы во время работ обыкновенные службы в Храме не прекращались.

Объём работ был колоссальным, и они продолжались в течение 9,5 лет. Работы по перестройке самого корпуса Храма продолжались 1,5 года, после чего он был освящён; в течение ещё 8 лет Ирод с большим энтузиазмом занимался переделкой дворов, возведением галерей и устройством внешней территории (Иосиф Флавий, «Иудейские Древности» XV, 11:5).

Работа по отделке и доработке отдельных частей здания Храма и строительство в системе дворов на Храмовой горе продолжалось ещё долгое время после Ирода. Так, ко времени, когда, согласно Евангелиям, в Храме проповедовал Иисус, строительство продолжалось уже 46 лет (Иоан 2:20). Строительство было окончательно завершено лишь при Агриппе II, в период правления наместника Альбина (62-64 гг. н. э.). То есть, всего за 6 лет до разрушения Храма римлянами в 70 году (Иосиф Флавий, «Иудейские Древности» ХХ, 9:7).

Итак, строительство нового храма началось в 20 году до н.э. и продолжалось 83 года. Это было поистине великолепное сооружение. Как писал Иосиф Флавий, при восходе солнца храм блистал так ярко, отражая солнечные лучи, что никто не мог смотреть на него, а издали он выглядел как сверкающая снегами горная вершина.

Все сооружения были украшены белым мрамором и золотом, и даже шипы на крыше храма, устроенные для того, чтобы голуби не садились на нее, были золотыми.

Тем не менее, несмотря на все изменения, которые были внесены в храмовый комплекс Иродом и священниками, которые значительно расширили здание самого Храма, обновлённый Храм не стал новым Третьим Иерусалимским храмом, а продолжал называться, как и Храм Зоровавеля, Вторым Иерусалимским храмом (ср. Иосиф Флавий, «Иудейские Древности» ХV, 11; Иосиф Флавий, «Иудейская Война» V, 5; Против Апиона I, 22).

Основными источниками сведений о Храмовой горе и Храме являются трактаты Мишны «Миддот» и «Тамид» и некоторые другие тексты Талмуда и Мидрашей, а также детальное описание здания Храма Иосифа Флавия в его трудах «Иудейские Древности» (XV, 11) и «Иудейская Война» (V, 5:1-6). Ещё одним источником является Новый Завет, в котором также содержится описание Храма. Однако, поскольку остаётся неясным когда Евангелия были записаны, они, как правило, считаются менее надёжным источником, по сравнению с Иосифом Флавием, который сам был священником в Иерусалиме и непосредственно участвовал в храмовой службе. Помимо этого существуют многочисленные археологические свидетельства, полученные в результате раскопок на участках к югу и к западу от Храмовой горы. Они дополняют сведения, взятые из литературных источников, о внешних территориях Храмовой горы, о галереях и воротах Храма. Однако, при реконструкции самого здания Храма, исследователи вынуждены целиком полагаться на описания, содержащиеся в литературных источниках, поскольку непосредственно на Храмовой горе археологические раскопки никогда не проводились.

По своей площади реставрированный Иродом Храм достиг тех размеров, которые были указаны Храмом Соломона, сохранив в своём плане и общих формах его особенности. При его строительстве использовался главным образом белый камень, ворота и многие из украшений были отделаны серебром и золотом (Иосиф Флавий, «Иудейская Война» V, 223). Талмуд утверждает, что «тот, кто не видел Храма Ирода, никогда в жизни не видел красивого здания» (Талмуд, Баба Батра 4а).

Прежде всего, Ирод удвоил площадь Храмовой горы (144 тыс. м2, периметр — 1550 м). Подобные размеры были достигнуты за счет строительства двух мощных поддерживающих стен: южной стены, длиной 280 метров, и западной стены, длиной 485 метров, из камней весом до 100 тонн. Работы на Храмовой горе полностью изменили топографию местности данного участка. Различия в высоте были преодолены с помощью срыва высоких участков, заполнения котловин грунтом и камнями и строительством системы арок, помещения под которыми служили также хранилищами и подземными переходами. Территория Храмовой горы имела теперь вид четырехугольника, по форме похожего на трапецию. Поддерживающие ее стены вздымались на высоту около 30 метров над уровнем улиц, примыкавших к горе с юга и запада. Участок западной стены, который служит местом молитвы в наши дни («Стена плача»), является лишь небольшим фрагментом западной стены того времени.

Наружные стены Храма были значительно исправлены. В некоторых местах, особенно по углам, в военных целях были построены башни. Стены были настолько широки, что они представляли достаточно места для целых военных отрядов[Иосиф Флавий, «Иудейская Война» II, 12:1; IV, 9:12; VI, 3:1-2; VI,5:1-2; Иосиф Флавий, «Иудейские Древности» ХХ, 8:2].

На западной стене, обращённой к городу, располагалось специальное священническое крыло, имевшее значение нынешних минаретов в мечетях; с юго-западного её угла звуками трубы возвещали о наступлении Субботы или праздника (Иосиф Флавий, «Иудейская Война» IV, 9:12; Надпись на одном из отесанных камней, которые упали вниз во время разрушения Храма, гласит «место для трубления» или «для возвещения Субботы».).

Снаружи к стене — по меньшей мере, к её юго-западной части — примыкала площадь, состоявшая из нескольких уровней, соединенных ступенями; под самыми низкими уровнями этой площади были сделаны помещения для лавок торговцев.

Два моста вели к восточной стене Храмовой горы. О её высоте, увеличивавшейся ещё проходящим внизу ущельем, Флавий говорит, что она могла вызвать головокружение у смотревших сверху.

Хотя изнутри наружные стены Храма были гораздо ниже, чем снаружи, их высота была весьма значительна и, насколько можно судить по высоте упиравшихся в неё галерей, доходила до 35 локтей и более. Вдоль этих стен с внутренней стороны непрерывной линией проходили галереи, состоявшие на восточной, западной и северной сторонах из двух пролётов или аллей (Иосиф Флавий, «Иудейские Древности» XV, 11:3; Иосиф Флавий, «Иудейская Война» V, 5:2) мраморных колонн, 25 локтей высоты, расположенных тремя рядами. Пол в галереях был составлен из разноцветных мраморных плиток (Иосиф Флавий, «Иудейская Война» VI, 3:2), крыша состояла из кедровых балок. Так было выполнено Иродом древнее предписание «о трех рядах камней и одном ряде кедров» вокруг двора Храма. Для освещения внутренней части галереи служили большие окна в наружной стене, которые, при нападении неприятеля, использовались в качестве амбразур крепости (Иосиф Флавий, «Иудейская Война» IV, 9:12). Украшениями этих галерей были развешанные здесь военные трофеи (Иосиф Флавий, «Иудейские Древности» ХV, 11:3).

Северная и западная галерея были, вероятно, военными портиками, так как они имели непосредственную связь с крепостью Антония, лежавшей на перекрёстке двух этих портиков. Эти две галереи были менее людны, чем восточная и южная: народ избегал приближаться к башне Антония. По временам здесь ставились военные патрули для наблюдения за народным движением, особенно в дни больших праздников (Иосиф Флавий, «Иудейские Древности» ХХ, 5:3; 8:11).

Восточная называлась притвором Соломона и служила для народных учителей местом учения и проповеди (Иоанн 10:23; Деян. 3:11; 5:12). Вполне возможно, что эта галерея выполняла функции синагоги.

Более сложного устройства была южная, наиболее отдалённая от Храма, галерея, которая имела четыре ряда колонн и три аллеи между ними. Она называется у Флавия «царской стоей» (галереей). О ней Иосиф Флавий пишет так: «это здание заслуживает того, чтобы рассказать о нём, больше, чем чтобы то ни было другое, находящееся под солнцем» (Иосиф Флавий, «Иудейские Древности» ХV). Из подробного описания Флавия следует, что это было величественное сооружение в форме базилики с четырьмя рядами колонн. Два центральных ряда делили пространство галереи на три отделения: просторный зал посередине и два узких коридора сбоку. С внешней стороны помещения располагались два дополнительных ряда колонн. Проведённые в этой части Храмовой горы раскопки подтверждают описание Флавия. Эта галерея предназначалась для торговцев и выполняла функции римского Форума.