Przy ulicy Zamkowej 5 usytuowany jest zabytkowy obiekt, nazywany Pałacykiem Zielińskiego. Obiekt składa się kilkunastu pomieszczeń, np. Sali Koncertowej, Klubowej, Portretowej, kawiarni, biblioteki, dwóch baszt i oranżerii. Posesja odrodzona jest w części murem z basztą „Plotkarka”.
Budynek funkcjonuje jako Dom Środowisk Twórczych (od 1985 roku) i proponuje kielczanom wiele kulturalnych atrakcji.
Pałac powstał w latach 1847-1857, sam Tomasz Zieliński żył w latach 1802 – 1858, w 1846 roku został naczelnikiem powiatu kieleckiego i mieszkał w Kielcach przebywał 12 lat. Był kolekcjonerem drogich przedmiotów. Kielcom zasłużył się jako społecznik, który dbał o czystość i wygląd miasta, zabytki, był mecenasem młodych twórców. Spoczął w Warszawie na Powązkach.