Tabii yollar üzerinde bulunan ve eski adı Ağvanis olan Gölova’da yerleşme oldukça eskilere dayanır. Gölova topraklarında M.Ö. 2000’li yıllara kadar Hititlilerin yaşadıkları, M.Ö. 2000 yılından sonra ise Romalıların yaşadıkları anlaşılmıştır. Yine belli bir dönem Pontus-Rum Devleti’ne bağlı kaldığı görülmüştür. 1071 yılından itibaren Anadolu’nun Türkleşmeye başlamasıyla birlikte 1100’lü yıllarda Türk kuvvetleri Gölova yakınlarına kadar gelmişlerdir. 1102 yılına kadar yöreye Saltuklular ve Danişmentliler hakim olmuşlardır. 1300’lü yıllarda Gölova’ya Mengücekoğlu ve Eretna Beylikleri hakim olmuşlardır. 1459-60 yıllarına kadar Moğolların istilasına uğrayan yöre bu yıllardan 1473 yılında Fatih Sultan Mehmet’in Otlukbeli Savaşı ile buralara hakim olması zamanına kadar Akkoyunlu Uzun Hasan’ın hakimiyeti altındadır. İlçe 1473 yılından itibaren Osmanlı İmparatorluğu hakimiyetine geçmiştir.

Evliya Çelebi seyahatnamesinde Gölova hakkında “Ağvanis, 200-300 haneli, cami ve kilisesi karşı karşıya olan, düz damlı evlerin çarşı etrafında dizili olduğu Rum ve Müslümanların salimen geçindikleri bir büyük kariye olup şarkındaki Karayakup Ağa’nın nezareti altındadır.” der.

13.06.1972 yılında Belediye teşkilatı kurulan Gölova 09.05.1990 tarih ve 3644 sayılı Kanunla 29 köy ve 6 mahalle ile ilçe olmuştur.

Gölova İlçesi, Karadeniz, İç ve Doğu Anadolu bölgelerinin birbirlerine en çok yaklaştıkları ve bu üç bölgenin de çeşitli özelliklerini taşıyan bir sahada bulunmaktadır. Sivas İlinin kuzey doğusunda Orta Karadeniz bölgesinin iç kesimlerinde yer almaktadır. Gölova kuzeyindeki Berdiğa dağlarından güneydeki Keldağ-Kızıldağ sırasına kadar uzanan 30 km. uzunluk ve 15 km. genişliğindeki bir çanak içerisinde yer almaktadır. 1. derece deprem bölgesinde olan İlçenin yeryüzü şekillerinde Kuzey Anadolu Fay Hattının etkileri kendini gösterir. Ortalama rakımı 1.320,00 metredir. Gölova çanağı genel olarak düze yakın bir görünüm arz eder. 

Gölova’da İç Anadolu karasal iklimi ile Karadeniz İkliminin özelliklerinin bulunduğu karma iklime sahiptir. İlçe İç ve Doğu Anadolu’nun karlı kışlarından daha ılık, Karadeniz’in aşırı yağışından az yağışlıdır.

Gölova’nın tabii bitki örtüsü bozkırdır. Ancak İlçenin % 20’lik kısmını ormanlık ve fundalıklar oluşturmaktadır. İlçenin Karadeniz iklimi geçiş bölgesinde olması bitki örtüsünü zenginleşmektedir.

Gölova’nın sosyal ve kültürel değerleri köklü bir geçmişe dayanmakta ve bugün de varlığını sürdürmektedir. Gölova ve köyleri şenlik, festival, panayır gibi etkinliklerle kültürel değerlerini açığa çıkardıkları gibi gelecek nesillere de aktarmaktadırlar. İlçenin temel geçim kaynağı tarım ve hayvancılıktır.

Bulunduğu yer itibarıyla üç bölgenin kesiştikleri bir yerde olması İlçenin sosyal hayatına etki etmiştir. Sosyal hayatın şekillenmesini sağlayan diğer sebepler İlçenin farklı yöreler arasında bir geçiş alanı olması, devamlı göç vermesi ve Sivas il merkezine olan uzaklığıdır.

Gölova İlçesi ve köylerinde betonarme ve çok katlı evler yapılmaya başlanılmıştır. Klasik tip diyebileceğimiz kırlangıçlı evler tamamen kaybolmuş gibidir.