Muzeum Ziemi Rawskiej zostało powołane do życia uchwałą Prezydium Powiatowej Rady Narodowej w Rawie Mazowieckiej z dnia 26 listopada 1965 r. z inicjatywy Towarzystwa Przyjaciół Muzeum Ziemi Rawskiej.
Początkowo muzeum zajmowało komnaty odrestaurowanej Baszty Zamku Książąt Mazowieckich, następnie dla potrzeb placówki przekazano pomieszczenia dawnego kolegium jezuickiego ufundowanego przez braci Wołuckich, przylegającego do późnobarokowego Kościoła Niepokalanego Poczęcia Najświętszej Marii Panny.Otwarcia muzeum dokonano 22 lipca 1966 r., a działalność zainaugurowano wystawą „Dzieje Ziemi Rawskiej”.W 1981 r. muzeum zmuszone było opuścić zajmowane pomieszczenia na rzecz właściciela obiektu. Na nową siedzibę muzeum otrzymało willę przy ul. Łowickiej 26, gdzie mieści się do dziś. Uroczyste otwarcie w nowych wnętrzach nastąpiło 19 grudnia 1984 r. dwoma wystawami stałymi oraz wystawą czasową poświęconą twórczości rzeźbiarza ludowego Mieczysława Żeglińskiego.
W początkowym okresie muzeum posiadało trzy działy merytoryczne: archeologii, etnografii i historii, z czasem powiększyło się o dział numizmatyki, sztuki i bibliotekę.