Gyvenvietė pirmą kartą paminima 1333 m. Vartbergės kronikoje, kur rašoma, kad tais metais Livonijos ordino magistras „…buvo prie Vilkenbergės“. Pirminė lietuviška miesto vardo forma tikriausiai buvo Vilkamergė. Iki Pirmojo pasaulinio karo oficialiai vadinosi Vilkmergė (sinonimai Aukmergė, Likmerė). Vėliau būta svyravimų, pvz., 1925 m. leidinys „Lietuvos apgyventos vietos“ rašė Vilkmergės apskritis, nors 1918–1920 m. „Lietuvos žemėlapyje“ rašoma Ukmergė (taip pat ir atnaujintame 1933 m. žemėlapyje). XX a. 4-ajame dešimtmečio pabaigoje jau įsivyravo Ukmergė, o pokariu bendrinė norma buvo tik Ukmergė.
Nors nėra nė vienos kalbininkų visuotinai priimtos vardo kilmės versijos, visi sutaria, kad pavadinimas yra kilęs iš upelio Vilkmergėlės (dabartinė Ukmergėlė, dešinysis Šventosios intakas). O šis galbūt atsiradęs iš žodžių junginio, kurio pirmasis buvo vilkas, o antrojo šaknis merg-. Pastarasis yra sunkiai paaiškinamas lietuvių kalbos atitikmenimis, tačiau latv. merga, marga – „smulkus lietus“ ir mergat – „lynoti“ leidžia manyti, kad merg- galėjo turėti bendresnę drėkinimo, sruvenimo, čiurlenimo prasmę, kuri būtų logiškai pritaikyta upėvardžiui Vilkmergė (kuri vadinta ir Vilkamerge), nuo kurio ir kilo miesto vardas. Išaugus miestui, upelis įgavo mažybinę priesagą ir tapo Vilkmergėle (Vilkamergėle), o vėliau ir Ukmergėle.
Liaudies etimologijoje pasakojama viena iš legendų, kuri atėjo iš kovų su kryžiuočiais laikų ir aiškina dabartinį miesto pavadinimą. Pasakojama, kad pagonių šventykloje buvusi vaidilutė, Šventosios žvejo dukra. Bet ji sulaužiusi savo pažadą tarnauti dievams ir pamilusi tėvynės priešą – kryžiuočių riterį. Tai sužinoję vaidilos ją sudeginę. Žmonės iš kartos į kartą perduodavo pasakojimus apie aukmergę – aukos mergą (Aukmergę), ilgainiui virtusia Ukmerge.
Kita legenda byloja, kad tamsiuose šių vietų miškuose kadaise gyvenusi žynė, žmonių vadinta Vilkmerge (vilko merga). Kartą tuose miškuose medžiojęs kunigaikščio Dausprungo sūnus Tautvilas, kuriam pristigę strėlių, o jį tuomet užpuolę vilkai. Nuo pražūties jį ir išgelbėjo toji žynė – graži mergelė, sutramdžiusi ir nuvijusi plėšriuosius vilkus. Dausprungas pastatęs prie Šventosios pilį ir žynės garbei pavadinęs Vilkmerge. Taip miesto vardas liaudyje siejamas su žodžių junginiu vilko merga, kuriai Užupyje pastatytas paminklas.