
La Construcción de este nuevo templo se inició en el 537 A.C., después de una pausa, se reanudaron los trabajos en el 520 A.C. Cinco siglos después, este segundo templo fue renovado por Herodes I el grande alrededor del 20 A.C. Herodes I el Grande quiso devolver el esplendor al Templo, se ampliaron las explanadas adyacentes al templo, hasta alcanzar 15 hectáreas amuralladas entre los montes Moria y Sión.
La nueva estructura es referido algunas veces como el Templo de Herodes, pero también se le sigue llamando Segundo Templo ya que los rituales de sacrificios continuaban sin disminución durante todo el proceso de construcción.
En el 66 dC, la población judía se rebeló en contra del Imperio Romano. Cuatro años después, el 70 dC, las legiones romanas bajo las órdenes de Tito reconquistaron y luego destruyeron la mayor parte de Jerusalén y el Segundo Templo.