Den ursprungliga Jewish Museum i Wien grundades 1896 och var det första museet i sitt slag i världen. Museet har funnits med stöd av "Sällskapet för insamling och bevarande av konst och historiska monument i judendomen." Han fokuserade på historia och kultur av judar i det österrikisk-ungerska imperiet. Hans samling av föremål och produkter från Palestina återspeglas också den politiska debatten om sionismen. Museet stängdes omedelbart efter ockupationen av Österrike av nazisterna. Under det senaste året av sin existens, hade det 6474 olika artiklar. År 1939 överfördes de till Etnologiska museet och andra institutioner.

De flesta av punkterna återfördes till det judiska samfundet i början av 1950-talet, men några lyckades bara tillbaka 1990 år. Många av utställningsföremålen var förlorat. När den nya judiska museet har en inventering, konstaterades det att hälften av de ursprungliga objekten hade försvunnit. Men resten av de saker är mycket sällsynta utställningar som representerar som objekt i vardagen, och unika material.

December 31, 1964 en liten judisk Museet invigdes en nybyggd byggnad på Tempelgasse, men fick nästan ingen uppmärksamhet. Efter 3 år har museet stängt.

Den första utställningen av den nya judiska Museum Wien öppnade 7 mars, 1990 i tillfälliga lokaler i kontor det judiska samfundet. En betydande del av utställningen består av en samling av Max Berger. År 1992 flyttade museet till sitt nuvarande hem i palatset Eskeles Doroteegasse. Museet öppnades ett år senare, år 1993. Biblioteket öppnades för allmänheten sedan 1994.

Sedan hösten 2011, museet öppnade sina dörrar efter en helrenovering, som själva byggnaden, och uppdatera den permanenta utställningen. Renoverat Judiska museet välkomnar besökare till nya belysningssystem, som gjordes i enlighet med den ursprungliga. Den permanenta utställningen i museet finns i tre zoner.