Говорят, что раньше на месте этого города находился великокняжеский двор, который был основан еще при Витовте Великом, а может и раньше. В XVI веке Скидель был центром волости, к которой относились три воеводства. Несмотря на это, сам город был очень маленьким и занимал площадь всего лишь в 12 прутов. 1 прут — это сегодняшние 23 квадратных метра. Тут стояла усадьба, рядом гумно, за рекой — пять огородиков и садик. А на самой речке Скидельке стояли две мельницы.
Может, город бы и оставался таким небольшим, но Владислав IV Ваза решил, что с этого бойкого места надо получать какую-то прибыль. И 27 июля 1644 года выдал привилей. Чтобы заманить людей на новое место, было решено освободить на первые 4 года жителей от всех налогов. За это время нужно было построить дом и хозяйственную пристройку.
Князья Четвертинские людьми были верующими. И они на окраине парка построили родовую часовенку, которая после стала местным костелом. Там они и были похоронены. Но во советское время костел был закрыт и разграблен. Только совсем недавно, благодаря местным верующим, он был обновлен.