Genel olarak dağlık ve yüksek bir plato üzerinde kurulan Sivas İlinin ortalama yüksekliği 1000 metrenin üzerindedir. Dağlar, bu dağlar arasında vadiler, çukurlardan oluşan ovalar ve dağların aşınması ile oluşan yüksek platolar ilin başlıca yüzey şekillerini oluştururlar. Ülkenin doğal yapısı itibariyle doğuya doğru gidildikçe yükselir. İlin batısında yer alan Gemerek, Şarkışla ve Yıldızeli ile orta kesimlerindeki Merkez ve Kangal ilçeleri aşınma ile düşmüş dağlar ve geniş platolarla kaplıdır.

İlin doğusu, güneydoğusu ve kuzeyinde yer alan Hafik, Zara, İmranlı, Koyulhisar, Suşehri, Gürün ve Divriği’de sarpça dik sıradağlarla derin sarp ve uzun vadiler yer almaktadır. Kızılırmak kıyı düzlükleriyle, Polanga düzlüğü dışında bölgede önemli bir düzlük bulunmaz.

Kuzey Anadolu sistemine bağlı dağlar, Kelkit Vadisiyle, Kızılırmak Vadisi arasını doldurarak Batı-Doğu doğrultusunda uzanır. Tüm Güney Anadolu'yu batıdan doğuya geçen Toroslarla bağlı dağlar ise Şarkışla'dan başlayıp ilin ortalarına doğru sokulur. Kuzey Anadolu sıradağlarının güneye açılan en önemli kollarından birini Köse Dağları oluşturur. Bu dağ silsilesi yükseklik uzunluk ve kapladığı alan açısından, ,Sivas ilinin en önemli dağlarından olup, bu sıra Yıldızeli'ndeki Yıldız Dağıyla (2537) başlar. Doğuya doğru asmalı dağı (2406) Kızılırmak Yayı ve Yeşilırmak Yayı dağları da denir. Bu dağların büyük bir bölümü Karadeniz bölgesinde kalmaktadır.

Gemerek ile Şarkışla ilçeleri arasından başlayarak, Kuzeye doğru genişçe bir yay çizen ve Toros Dağlarının kuzeye açılan kolu olan Tecer Dağlarıdır. merkez ilçe ile Kangal arasında Kılmaç Dağları adını alır. Bu dağ silsilesinde Karacatepe (2079), Kesistepe (2230), Gürlevikdağı (2688), Beydağı (2802) m. yükseklikte olup bu dağlar seyrek karaçam, kızılçam, ardıç ve meşeden oluşan ağaç kümeleri dışında tümüyle çıplaktır.

Bu dağ silsilelerinden başka Akdağları, İncebel Dağları ve Yama Dağlarının yanısıra yer yer yükselen çok sayıda dağ ve tepe vardır. Bunlardan Tahtalı Dağları (2719) Hezanlı Dağlarıdır (2283).