Mali grad, najpre je izgradjen radi okupljanja vojske za napad i osvajanje grada. Godina izgradnje Malog grada smatra se 1524. godina, s obzirom na to da se u ugarskim izvorima, bez navodjenja imena, govori o izgradnji utvrdjenja preko puta Severina. Na osnovu ocuvanih ostataka Malog grada, moze se zakljuciti da je on imao sve odlike artiljerijske baze: bio je pravouganog oblika (90x30m), bio je zasticen zidinim bedemom sa kruznim kulama na uglovima i puskarnicama u zidu. Ispod bedema, osim sa dunavske strane, protezao se rov preko koga se na dva mesta pokretnim mostovima stupalo u tvrdjavu.  U bedemu je postojala i treca kapija, koja se nalazila u blizini Dunava, a sluzila je da posada, u slucaju opasnosti skrivenim putem dodje do plovila i napusti tvrdjavu. 

Veliki grad, kao deo celine fetislamskog utvrdjenja, Turci su kasnije izgradili. Njegovoj izgradnji se pristupilo u periodu kada je Turska, iscrpljena dugotrajnim ratovima, bila primorana da posveti paznju odbrani ranije osvojenih teritorija.  

Iznad kapija koje su vodile u utvrdjenje bile su postavljene mermerne ploce s natpisima, koje su velicale sultana Mahmuda II.