Haricîlerin ortaya çıkışı, Ali (Allah onu onurlandırsın) ile Muaviye bin Ebî Süfyan arasında gerçekleşen Sıffin Savaşı sırasında başladı.
Savaşın doruk noktasına doğru, her iki liderin de hakemlik konusunda mutabakata varması üzerine, Ali’nin ordusundan bir grup, (bu kararı Ali r.anh’a zorla kendileri aldırmış olmalarına rağmen) kararı İslami olmayan bir karar olarak nitelendirerek ordudan ayrıldı. Sadece Allâh’ın hüküm verme hakkına sahip olduğunu ve insanların hakemliğini O’nun egemenliğine bir tecavüz olduğunu söyleyip yüz çevirdiler ve “Allah’tan başka hüküm veren yoktur” düsturunu benimsediler. (Ali RadiyAllâhu Anh onlara, savaşı kazanmak üzereyken bu karara kendilerinin zorlamasıyla vardığını ama şimdi de bu kararın küfür olduğunu söylediklerini, tutulan hakemin Kuran ve Sünnet üzere hükmedeceğini, aksi olursa kendisinin de zaten uymayacağını dolayısıyla bunun tevhidi bozmayacağını ve insanı küfre sokmayacağını anlatmaya çalıştı ama maalesef anlatamadı.)
Bu grup, “Haricîler” (isyan ve ayrılık anlamına gelen “harace” kelimesinden türetilmiştir) olarak bilinmeye başlandı. Zamanı gelince, hem Ali’ye hem de Muaviye’ye karşı çıktılar ve hakemlik lehine olan herkesi İslam’dan sapmış bir kâfir olarak ilan ettiler.
Hariciler Irak, İran ve diğer bölgelerde silahlı ayaklanmalar başlatarak özerk yönetimlerini kurmaya çalıştılar. Ali RadiyAllâhu Anh onların ayaklanmalarıyla karşılaştı ve sonunda onlara karşı askeri harekat başlattı.
38 H. yılında, önemli bir Harici grubu Nehrevan’da toplandı ve Ali RadiyAllâhu Anh Nehrevan Savaşı olarak bilinen savaşta onlarla savaştı. Haricilerin çoğu bu savaşta öldürüldü ve fitne geçici olarak kontrol altına alındı, ancak daha küçük gruplar faaliyetlerine devam etti.
Ali ilk isyanları bastırsa da, Hariciler asla tamamen ortadan kaldırılmadı. Emevi hükümdarlarına karşı çıkarak ve Irak, İran ve Cezire gibi bölgelerde sık sık isyan ederek Emevi Halifeliği sırasında faaliyetlerine devam ettiler. Emevi yöneticilerini baskıcı olarak görüyorlardı ve onları İslam’ın gerçek ruhundan sapmakla suçluyorlardı.
Haricîler, özellikle Emevi halifesi Abdülmelik bin Mervan ve vali Haccac bin Yusuf döneminde aktifti. Emeviler döneminde önemli bir komutan olan Haccac, Haricîlere karşı birkaç yoğun savaş yürüttü ve ayaklanmalarını ciddi şekilde bastırdı.
Abbasi Halifeliği’nin ilk yıllarında, Haricîler özellikle uzak bölgelerde aktif olmaya devam ettiler. Abbasi yöneticilerine karşı isyanlar başlattılar ve İslam egemenliğinin istikrarı için ciddi bir tehdit oluşturdular.
Abbasi halifeleri, Haricî isyancılarla mücadele etmeye ve isyanlarına son vermeye çalıştılar, ancak Haricîler uzun bir süre boyunca ısrarcı ve tehdit edici bir sorun olarak kaldılar. Bu süre zarfında Irak, Arap Yarımadası, Yemen, İran ve Kuzey Afrika’daki Müslümanlara karşı çok sayıda isyan başlattılar.
Osmanlı Halifeliği sırasında, Hariciler artık daha önceki İslam yüzyıllarındaki gibi aktif değillerdi. Zamanla, siyasi ve askeri güçleri önemli ölçüde azaldı ve İslam dünyasındaki etkileri büyük ölçüde azaldı.
Bu dönemde, Hariciler etkili bir siyasi grup olarak statülerini kaybetmişlerdi. O dönemin başlıca dini ve siyasi zorlukları, Haricilerinki gibi fitnelerden ziyade Sünni-Şii çatışmaları, Safevi-Osmanlı rekabetleri ve iç reformlar ve modernleşmeyle ilgili meseleleri içeriyordu.
Haricilerle benzer ideolojilere sahip gruplar küçük veya uzak topluluklarda var olmuş olabilir, ancak Osmanlı Halifeliği’nin daha geniş siyasi ve dini manzarasında önemli bir rol oynamadılar.