La 22 iulie 356 î.Hr., templul a ars într-un incediu, se spune că un om numit Herostratus a aprins focul, și că și el a murit în foc. Istoria acestui om este una din cele mai dramatice și pline de învățăminte din antichitate. El nu se deosebea prin nimic de semenii săi însă, în dorința de a se menține în conștiința oamenilor și în istorie, comite această crimă. De aici a luat naștere expresia "Slavă lui Herostrate" . Legenda spune că în noaptea în care templul a ars, s-a născut Alexandru cel Mare, iar Artemis a fost prea ocupată cu nașterea lui și nu a avut grijă de templu.

Alexandru a oferit oamenilor din Efes bani pentru a reconstrui templul, dar aceștia nu au acceptat. Construcția noului templu a început în anul 323 î.Hr, din banii efesenilor și a continuat timp de mai mulți ani. Acest templu era mult mai mare decât precedentul: 69 m lățime, 137 m lungime, dar numărul de coloane și înălțimea lor a rămas aceiași. Cultul zeiței Artemis era unul extrem de viu de aceea orașul a beneficiat de fonduri pentru a construit un mare templu.

În scrierile sale, istoricul Pausanias menționa faptul că în templul de la Efes exista o mare statuie a zeiței Artemis, dar existau și altele precum o veche statuie a zeiței Nyx realizată de către sculptorul Rhoecus în secolul al VI î.Hr. De asemenea sunt descrise coloanele acoperite cu aur și argint dar și picturile ce le reprezentau pe Amazoane, considerate a fii fondatoarele Efesului.

Templul este menționat și în scrierile creștinismului timpuriu, inclusiv în Noul Testament. Conform Faptelor Apostolilor, apariția primilor misionari creștini în Efes a cauzat o mare tulburare și revoltă în rândul cetățenilor.