Tai vienas iš seniausių Lietuvos miestų. Ilgą laiką sklandė kalbos apie tai, kad Ukmergė buvo įkurta XIII a. pradžioje (populiariausia versija – 1225 m.). Tai greičiausiai lėmė šie faktai: XVI a. Bychovco kronikoje Ukmergės įkūrėju vadinamas Dausprungas, legendinio Palemono bendražygis, o kunigaikštis Dausprungas, karaliaus Mindaugo vyresnysis brolis, iš tikro XIII a. pradžioje minimas tarp Lietuvos žemės valdovų. Tačiau reikėtų prisiminti, kad Ukmergė tuo metu buvo vienas iš svarbių istorinės Deltuvos žemės centrų, todėl mažai tikėtina, kad čia kaimynai galėjo statyti pilis – kurti miestus. Nors pilis ir gyvenvietė tikriausiai čia buvo žymiai anksčiau, pirmasis Ukmergės paminėjimas rašytiniuose šaltiniuose, – oficiali miesto įkūrimo data, – yra 1333 m. Vartbergės kronikoje rašoma, kad tais metais Livonijos ordino magistras „buvo prie Vilkenbergės“ (t. y. Ukmergės). Šio „buvimo“ metu buvo užpulta Ukmergės pilis, kurią dar ne kartą puolė ir vietovę niokojo kalavijuočiai. Paskutinį kartą ši, ant miesto centre esančio piliakalnio buvusi, medinė pilis sudeginta 1391 m. Vytauto ir Jogailos kovų metu. XV a. pradžioje, kitoje Vilkmergėlės upelio pusėje, ant dabartinio Pilies kalno, buvo pastatyta mūrinė pilis, kuri galutinai sunyko XVIII a. pabaigoje.
Deltuvai netenkant strateginės reikšmės, Ukmergė augo ir stiprėjo. 1486 m. ji gavo miesto teises, po 1566 m. administracinės reformos tapo Vilniaus vaivadijos Ukmergės pavieto centru. XVI a. viduryje Ukmergėje jau buvo vaitas – Ukmergė turėjo miestietišką savivaldą. 1792 m. suteiktos miesto teisės. 1817 m. Ukmergės apskrities seimelis reikalavo atleisti valstiečius nuo baudžiavos, bet jiems neduodant žemės, ir išleido atitinkamas instrukcijas, tačiau caro valdžia naikinti baudžiavos neleido. 1846 m. įkurta pirmoji ligoninė.
1916 m. nutiestas siaurasis Jonavos–Ukmergės geležinkelis, iki išardymo 1958 m. naudotas keleiviams ir kroviniams vežti. 1919 m. gegužės 3 d. iš Vilkmergės išvyti bolševikai. Tarpukariu Ukmergė buvo apskrities centras ir miestas su apskrities teisėmis. Pirmuoju burmistru buvo Boleslovas Dirmantas. 1935 m. patvirtintos I eilės miesto teisės.
Antrojo pasaulinio karo pradžioje Ukmergės žydai, sudarę kone pusę miesto gyventojų, buvo žudomi Pivonijos miške.
1946 m. rugpjūčio 3 d. tapo apskrities pavaldumo miestu. Po karo tapo rajono centru, buvo linų fabrikas, mašinų gamykla „Vienybė“, remonto mechaninė gamykla, I. Meskupo baldų, „Lelijos“ susivienijimo siuvimo, P. Eidukevičiaus odos ir avalynės susivienijimo fabrikai, koklių įmonė, „Šilo“ medienos apdirbimo įmonė, tarybinis ūkis-technikumas. 1976 m. miesto rytinėje dalyje pastatytas Dukstynos mikrorajonas, 9-ajame dešimtmetyje pietinėje dalyje – Pivonija. Po 1980 m. nutiesus magistralę A2 Vilnius–Panevėžys , miestas liko pašonėje, sumažėjo pravažiuojančių mašinų srautai.