Eski adı Holhol olup 1959 yılında Yayladere ismini 1987 yılında ilçe statüsü almıştır. İlçenin kuruluşuna ait kesin bilgiler bulunmamasına rağmen yapılan Jeolojik kazılarda M.Ö.900 yıllarında Ermenistan Krallığı ve M.Ö.550 yılarında Persler ve İskender imparatorluğu M.Ö.75 yılarında Ermenistan Krallığı M.Ö.50 yıllarında ise Roma İmparatorluğu egemenliğine geçti. 1071 yılında Malazgirt savaşına kadar Bizans imparatorluğu hakimiyetinde kalmış 1080 ve 1001 yılarında Saltuklular'ın hüküm sürdüğü bölge 1473 yıllarına kadar Uzun Hasan'ın egemenliğinde kalmış Çaldıran Savaşı ile Yavuz Sultan Selim Han bölgeyi Osmanlı toprağına katmıştır.
 

1514 yılına kadar İran Safevi devletinin saldırılarına uğrayan bu bölge Çaldıran savaşından sora Yavuz Sultan Selim tarafından tamamen Osmanlı topraklarına katılır. İlçede bu İmparatorluklar kalıntı olarak bıraktıkları tek şey yüksek bir kayalığın kale olarak kullanılması ve kale üzerindeki yerleşik hayata dair izler görülmektedir.
 

Cumhuriyetin ilk yıllarında Holhol Köyü olarak Sarıtosun bucağına bağlı bir köy olan Yayladere 1936 yılında bucak merkezinin Sarıtosun'dan Holhol'a olan eski adı 1959 yılında Yayladere olarak değiştirilmiştir. 04 Temmuz 1987 tarihinde 3392 sayılı yasasıyla Bingöl iline bağlı bir ilçe haline dönüşmüştür.
 

Tunceli ile Bingöl il sınırlarının birleştiği yerde dağlar arasına kurulmuş bir ilçemizdir. İdari sınırlar olarak doğusunda Bingöl, Pülümür ilçesi, güneybatısı Tunceli ili Nazimiye ilçesi, güneyinde Elazığ ili Karakoçan ilçesi ile çevrili 400 km² alana sahiptir. Deniz seviyesinden 1610 m. yüksekliktedir. Kuzey batısında Tunceli ile birlikte 2800 m. yüksekliktedir. Selbüs ve Yavuz taş (TARU) Dağları bulunmaktadır. Tarıma elverişsiz toprağı ve düzlüğü az bulunan Bingöl ile Elazığ il sınırı oluşturup, üzerinde özlüce barajı yapılan peri suyu tek akarsuyudur. Bitki örtüsü olarak yer yer meşeden oluşan ormanlara sahip olup iklimi karasaldır. Kışları çok fazla yağışlı, soğuk, yazları serindir.