a przełomie XIII i XIV wieku na terenie obecnego Starego Miasta w Iłży znajdowała się obronna drewniana siedziba biskupów krakowskich. Siedziba ta po zniszczeniach wojennych została w początkach XIV wieku opuszczona i uległa ruinie. Biskup Jan Grot wzniósł na sąsiednim wzgórzu nowy murowany zamek, zbudowany z kamienia łamanego na planie nieregularnym zbliżonym do trójkąta z wjazdem od zachodu. Prawdopodobnie w tej fazie budowy założenie składało się z cylindrycznej wieży i obwodowych murów z bramą od strony zachodniej. We wschodnim narożniku murów usytuowano wieżę, która chroniła zamek od strony najłatwiejszego do niego dostępu.
Zamek w ciągu wieków był kilkukrotnie rozbudowywany przez kolejnych biskupów. W drugiej połowie XIV wieku, za czasów biskupa Floriana
Iłża na zdjęciu Henryka Poddębskiego z 1932 roku
Mokrskiego nastąpiła rozbudowa zamku i połączenie go z murami miejskimi. Podczas tych prac wzniesiono wieżę bramną występującą przed mury pierwotnego założenia. W XV wieku zamek uzyskał wzmocnioną wieżę bramną, do której prowadził most. W roku 1520, za sprawą biskupa Jana Konarskiego, zamek ponownie rozbudowano. Około roku 1560 biskup Filip Padniewski zmienił średniowieczny układ zamku na renesansową rezydencję.
Po pożarze w roku 1588 zamek został zmodernizowany przez Marcina Szyszkowskiego. W XVI wieku gruntowna przebudowa przekształciła zamek w renesansową rezydencję. To wtedy powstała większość zabudowań przylegających do murów obwodowych, a przedzamcze otoczono fortyfikacjami typu bastejowego. Na początku XVII wieku jeszcze raz przebudowano nieznacznie założenie, głównie sprowadziło się to do modernizacji umocnień przedzamcza.
W 1655 roku podczas najazdu Szwedów zamek został uszkodzony. Wycofujący się z miastaw 1656 roku Szwedzi spalili i całkowicie zniszczyli zabudowania miejskie oraz zamek. Potem zniszczenia powiększyły ataki wojsk Rakoczego. W 1670 roku biskup Andrzej Trzebicki odbudował twierdzę. Następny wiek XVIII był okresem kolejnych częstych rozbudów oraz restauracji podupadającej biskupiej rezydencji.
Kiedy w 1788 roku zamek przeszedł na własność rządu, zaniedbywany zaczął niszczeć. Po rozbiorach Polski opuszczony i pozostawiony bez opieki zamek zaczął zamieniać się w ruinę. Na początku XIX wieku Austriacy na
fot. ZeroJeden, II 2016
krótko urządzili w nim szpital wojskowy. Pożar z początków XIX wieku dopełnił zniszczenia. Jedna z zabaw publicznych w niezniszczonych jeszcze komnatach zakończyła się potężnym pożarem, który strawił resztki zamku. Od tego momentu ruiny stały się źródłem łatwo dostępnych materiałów budowlanych.
Dopiero w roku 1963 przeprowadzono na terenie zamkowym prace archeologiczne. W ostatnich latach wykonano prace zabezpieczające ruiny przed dalszą dewastacją, a wieżę udostępniono turystom jako punkt widokowy.
Na podstawie zachowanych do naszych czasów ruin wyraźnie można wyróżnić właściwy zamek wysoki oraz położony poniżej zamek niski. Oprócz dość dobrze zachowanej wieży można obecnie zobaczyć fragmenty murów przyziemia, ślady wież, zarys fosy oraz pozostałości fortyfikacji bastejowych otaczających zamek niski.