Legenda byloja, kad miestui pradžią davė čia atsikėlęs bajoras Kazla, kuris vertėsi geležies rūdos kasimu, perdirbimu, steigė taip vadinamąsias rudnias. Vietos gyventojams pageidaujant, herbe įprasmintos vietos gyvenvietės atsiradimo ypatybės. Juoda skydo spalva reiškia deguto gamybą ir geležies rūdos lydymą anglimis. Šešios žvaigždės (pasak legendos apie šeimos šešis sūnus kalvius) įprasmino kalvio amatą. Ragai reiškia miesto pavadinimą (kilusį iš lenk. kozioł) bei miškingą vietovę su žvėrių gausa. Mėgautis gamta Kazlų Rūdoje Jums leis Pažintinis miško takas, Novaraisčio ornitologinis draustinis, STIHL Virvių parkas.
