Sen jälkeen kun Saksalainen ritarikunta ja Tanska olivat valloittaneet Viron 1200-luvun alussa, alettiin uusille maille perustaa kivilinnoituksia. Ritarikunnan hallintoalueen pohjoisrajalle Põltsamaanjoen rannalle alettiin rakentaa vallihaudalla ympäröityä leirilinnoitusta mestari Otto von Rodensteinin johdolla vuonna 1272. Linnoitusta ympäröivä muuri lienee alunperin ollut nykyistä huomattavasti matalampi, ja muurin molemmille puolille oli rakennettu puiset puolustuskäytävät.
Põltsamaan saksankieliseksi nimeksi tuli Oberpahlen, alue Palajoen (eli Navestin) takana.
1300-luvulla valmistui linnan itänurkkaan kolmekerroksinen konventtirakennus ritareiden asumukseksi. Jokaisen kerroksen pylväillä reunustetulta ristikäytävältä avautui näkymä rakennuksen sisäpihalle. Kun tuliaseet otettiin käyttöön, asetettiin myös linnoitukselle uusia vaatimuksia: sen vuoksi ympärysmuuri rakennettiin korkeammaksi, muuriin tehtiin ampuma-aukkoja ja nurkkiin kohosivat ulkopuolelta kiviset, sisältä puiset tornit. 1500-luvulla valmistui suuri tykkitorni, jonka seinät ovat paikoin jopa 4 metrin paksuiset.
Venäjän, Puolan ja Ruotsin välisten sotien aikana 1500-luvulla linna valloitettiin ja ryöstettiin toistuvasti. Vanhin tiedossa oleva kuvaus linnoituksen lipusta on vuodelta 1560 - sitä kuvittivat kukko, risti ja rotta

©Poltsamaan Museo