Miejscowość Mały Płock została założona przez księcia mazowieckiego - Janusza I - pod koniec XIV wieku. W pierwszej połowie XV w. powstała parafia Mały Płock. Pierwszy dokument, świadczący o tym, że przy parafii egzystuje szkółka parafialna, pochodzi z XVI w.

Wiek XVII i XVIII przyniósł kryzys w oświacie. W tym czasie szkółka parafialna w Małym Płocku nie istnieje, ale nauczanie prowadzą bakałarze.

W XIX w. utworzony został dozór szkolny, złożony z miejscowego proboszcza i dwóch wójtów gmin: Mały Płock i Rogienice Wielkie. Mimo braku budynku zatrudniony był przez proboszcza nauczyciel, który otrzymał nominację na nauczanie w szkole parafialnej od Komisji Rządowej Wyznań Religijnych i Oświecenia Publicznego. Program nauczania obejmował naukę religii, moralności, czytanie, pisanie, rachunki.

Po powstaniu styczniowym na terenie wsi istniała szkoła z obowiązującym językiem rosyjskim. Sytuacja zmieniła się po odzyskaniu niepodległości w 1918 r. Wprowadzono obowiązek szkolny dla dzieci w wieku 7 -14 lat. Na terenie gminy powstały szkoły 3 - klasowe w Kątach, Rakowie, Kołakach, Rogienicach Wielkich, Chludniach, Cwalinach Dużych.

W Małym Płocku rozpoczęła działalność szkoła siedmioklasowa. W 1931 r. powołano komitet budowy szkoły, który zgromadził środki i materiały na wzniesienie budynku szkolnego. Już w 1932 r. we wrześniu dzieci rozpoczęły naukę w nowej siedzibie. W okresie okupacji hitlerowskiej budynek szkolny był przeznaczony na cele wojskowe. Nauczyciele prowadzili tajne nauczanie.

Po wojnie, 16 II 1945 r., szkoła wznowiła pracę. Jej siedzibę rozbudowano i wyremontowano. W latach 1946-1971 kierownikiem szkoły był Ignacy Potoczny.

Warunki lokalowe wciąż były trudne. Dlatego w 1975 r. zrodził się pomysł budowy nowego lokum. Inicjatorami tego przedsięwzięcia byli: dyrektor szkoły - Stanisława Rojecka, naczelnik gminy - Stanisław Szulc oraz przewodniczący Komitetu Rodzicielskiego - Włodzimierz Drozdowski. Dzięki usilnym staraniom pani dyrektor władze wyraziły zgodę na rozpoczęcie budowy w 1975 r. W nowo wzniesionej szkole odbyła się Centralna Inauguracja roku szkolnego 1979/1980.

W dniu ogólnopolskiej inauguracji szkole nadano imię Jana Kochanowskiego. Uczczono w ten sposób zaplanowane na 1980 rok obchody 450 rocznicy urodzin poety. Mieszkańcy gminy Mały Płock ufundowali szkole piękny sztandar, na którym znajduje się sylwetka Jana z Czarnolasu.