Merzifon'un adının kökeni hakkında iki ana rivayet bulunmaktadır: 1. Barsevinç Kasaba İnşaatı: M.Ö. 700'lü yıllarda, Merzifon'un 4 km doğusunda, bölge valisi Barsevinç, kendi adını taşıyan bir kasaba inşa ettirmiştir. 2. Mihridat Kalesi: M.Ö. 222'de, bölge valisi 5. Mihridat tarafından, bugünkü Merzifon'un yerinde Merzpond adında bir kale inşa ettirilmiş ve adı Merzban, Merzifon olarak değişmiştir. Merz kelimesi Farsça'da "sınır" veya "kale", fon ise Pont'un Arapçalaştırılmış hali olarak açıklanmaktadır; bu nedenle Merzifon, "Pond karargahı" veya "Pontus sınırı" anlamına gelmektedir.