Wielki Mędromierz pojawia się po raz pierwszy w dokumencie wystawionym 7 czerwca 1313 roku. W 1356 roku wielki mistrz Winrich von Kniprode przekazał Mikołajowi Grzeli wieś o obszarze około 1054 ha. Po wojnie trzynastoletniej była to wieś królewska w starostwie tucholskim, a jej mieszkańcy dostawali liczne przywileje nadawane przez królów oraz tucholskich starostów. W 1706 roku Kazimierz i Konstancja Garczyńscy przejęli wieś na 40 lat tytułem zastawu za pożyczkę.
Początki parafii katolickiej przypadają na XIV wiek. Wizytacja z 1762 roku opisuje kościół z wieżą, dachem z gontu, 3 ołtarzami, 16 ławkami, 2 dzwonami i sygnaturką. Obecną świątynię wzniesiono w 1839 roku z polnych kamieni różnej wielkości. Z wyposażenia najstarsza jest późnogotycka figura Matki Boskiej z Dzieciątkiem, pozostałe elementy wystroju są z XVIII wieku. Najstarszy nagrobek na cmentarzu przykościelnym jest z 1892 roku, a drugi cmentarz, z regularnym układem dwóch przecinających się alejek, założono w 1914 roku.
Szkoła jest wzmiankowana od 1822 roku; w 1866 roku chodziło do niej 86 dzieci. W 1931 roku wieś miała 591 mieszkańców. Do szkoły z jednym nauczycielem, Cyrylem Chylewskim, uczęszczało 71 uczniów; Chylewskiego rozstrzelano w 1939 roku w Rudzkim Moście. Między wojnami działały tu Towarzystwo Czytelni Ludowych z biblioteką, organizacje katolickie i młodzieżowe, Związek Powstańców i Wojaków oraz koło Stronnictwa Narodowego. Wieś została też wioską tematyczną pod nazwą „Miodowa Wioska”.
