Viduslaikos kādreizējā tirgus laukumā atradusies koka kapela, ko pēc laika sagrāva. Vairākas nākamās baznīcas nopostīja dažādos karos.  Valkas pilsētas vadība kopā ar Sv. Jāņa baznīcas draudzi nolemj koka baznīcas vietā uzcelt ķieģeļa baznīcu. Baznīcu sāka būvēt 1787. gadā, bet pēc divu gadu būvniecības darbi apstājās uz divdesmit trim gadiem naudas trūkuma dēļ.  1798. gadā pirmo reizi Valkas pilsētā igauņu luterisko draudzi nošķīra no latviešu draudzes. Valkas iedzīvotāji, kas galvenokārt bija mazturīgi amatnieki, nespēja ieguldīt pietiekami daudz līdzekļus celtniecībā, un pilsētas rāte iegrima parādos. 1797. zīmējumā baznīca redzama vēl bez torņa, to uzbūvēja 1816. Mūsdienās Sv. Jāņa baznīca apskatāma Valgā, Igaunijas Republikā. Baznīca ir ievērības cienīta, jo tā ir vienīgā baznīca ar ovālu pamata plānu Igaunijā. Baznīca ir slavena arī ar savām ērģelēm, jo tās ir saglabājušas savu oriģinālo veidolu, un tās ir Igaunijā vienīgais saglabājies meistara Fridriha Ladegasta būvētais instruments. Šī ērģeles ietilps Eiropas 200 labāko ērģeļu skaitā. Katru dienu pusdienlaikā un pusnaktī no baznīcas torņa dzirdama zvanu mūzika.