Muzeja aizsākumi meklējami 1918.gadā, kad, pateicoties pilsētas entuziastu centieniem, arheoloģisko izrakumu laikā Ludzas pilskalnā un Odu kalnā atrastās senlietas veidoja pirmo vēsturisko ekspozīciju.

Kopš 1956.gada muzejs atrodas 1812.gada Tēvijas kara ģenerālmajora Jakova Kuļņeva vecāku mājā ļoti gleznainā vietā Mazā Ludzas ezera krastā. Muzeja 7 ekspozīciju telpās, Brīvdabas un etnogrāfijas nodaļā un atklātajās krātuvēs izvietoti 5 tūkstoši eksponātu.

Vēl iespaidīgākas ir muzeja slēgtās krātuves, kur glabājas 40 tūkstoši priekšmetu, kas apkopoti 17 kolekcijās. 2016.gadā Ludzas Novadpētniecības muzejam izveidota jauna struktūrvienība - Ludzas Lielā sinagoga.