Přesné datum příchodu Židů do Starého Města pod Landštejnem neznáme. Nejstarší náhrobek na zdejším židovském hřbitově pocházel z roku 1610 (nejspíš není dochován), takže je možné předpokládat, že historie židovského obyvatelstva v tomto městečku počíná nejpozději v této době. Snad již v první polovině 17. století vznikla samostatná židovská náboženská obec, byla postavena dřevěná synagoga a již dříve byl založen výše zmíněný židovský hřbitov. Roku 1723 žilo v městečku jedenáct židovských rodin, roku 1783 osmnáct židovských rodin. Roku 1880 zde žilo 79 Židů (8,4 % obyvatel), roku 1900 pak 32 Židů (3,8 % obyvatel) a roku 1930 už jen 12 Židů (2,0 % obyvatel).
Židovské domy byly pravděpodobně od 17. století soustředěny na jednom místě v severní části městečka. Před polovinou 19. století bydleli Židé asi v patnácti domech, které stávaly přibližně mezi dnešní budovou obecního úřadu a potokem. Asi osm přízemních i patrových domů je dodnes dochováno v částečných přestavbách, mezi nimi také budova bývalé rituální lázně čp. 171 u potoka. První synagoga byla jako dřevěná postavena v 17. století. V polovině 19. století byla vystavěna nová zděná klasicistní synagoga, která k bohoslužbám sloužila zřejmě až do období první světové války. Zbořena byla bez pořízení stavební dokumentace roku 1959.
Cenný židovský hřbitov se nachází cca 600 metrů severně od náměstí na skalnaté vyvýšenině mezi loukami. Založen byl před rokem 1610 a roku 1863 byl naposledy rozšířen. Přestože je hřbitov doložen od počátku 17. století, v současné době je zřejmě nejstarším náhrobkem stéla Mendla, syna Jicchaka z roku 1727. Pohřbívalo se tu až do 30. let minulého století, z této doby se dochovalo i několik náhrobků. Za války byl hřbitov těžce poškozen nacisty a i po válce byl postupně devastován. V současné době je na ploše 1 295 metrů čtverečních dochováno asi 170 náhrobků, z márnice zůstaly jen nepatrné zbytky zdiva. Hřbitov je volně přístupný.