На окраине Вишек возвышается храм Иоанна Крестителя, сложенный из обтесанных валунов, по форме скорее напоминающий кирху, а в сумерках так и вовсе похожий на сказочный замок.
Вишки до времен первой независимости назывались Вышки. И сейчас их многие так называют, благо латышское написание Višķi позволяет фонетические разночтения. Но на большинстве карт, на которых это название можно найти кириллицей, они всё же прописаны как Вишки. Поселок стоит на перекрестке дорог на Аглону и Даугавпилс, вблизи двух Вишкских озер на реке Дубна. По одной из версий, родом из Вишек была Марта Скавронская, будущая Екатерина Первая. Впрочем, где на самом деле родилась и обреталась Марта до появления в Мариенбурге (нынешний Алуксне), доподлинно никому не известно.
Прекрасный католический костёл, построенный в начале XX века (1908-1925), на месте обветшавшего старого храма к Екатерине точно никакого отношения не имеет. Из сельских католических храмов Латгалии этот, пожалуй, самый внушительный (Вишки в свое время не дотянули всего несколькими жителями до статуса города). Костёл Святого Иоанна Крестителя в Вишках является одним из опорных пунктов для паломников, ежегодно следующих в августе в Аглону. Это один из немногих католических костелов в Латгалии, у которого известно имя архитектора, это Карлис Эдвардс Страндманис, швед, работающий преимущественно в Лиепае.