İbrahim Ayhan, 1969 yılında Şanlıurfa'nın Siverek İlçesi'nde dünyaya geldi. İlk ve orta öğrenimini memleketi Siverek'te tamamlayan İbrahim Ayhan, lise öğrenimini ise Adana'da gördü. Ardından ise 1994 yılında Van Yüzüncü Yıl Üniversitesi'nin Ziraat Fakültesi Zootekni Bölümü'nü tamamladı.
Öğrenim hayatının ardından 1997 yılında memleketi Şanlıurfa'da öğretmenlik mesleğine başlayan İbrahim Ayhan, 1997-2007 yılları arasında Eğitim-Sen Şanlıurfa Şube Yöneticiliği ve Şube Başkanlığı görevlerinde bulundu.
2007 yılında gerçekleştirilen seçimler öncesinde milletvekili adayı olmak için öğretmenlik mesleğinden ve sendika başkanlığı görevlerinden istifa eden İbrahim Ayhan, Demokratik Toplum Partisi'nin (DTP) Şanlıurfa bağımsız milletvekili adayı olarak seçimlere katıldı.
1 Ekim 2010 tarihine kadar Şanlıurfa DTP ve BDP il başkanlığı görevlerini yürüten İbrahim Ayhan, 5 Ekim 2010 tarihinde KCK davası kapsamında tutuklandı ancak tutukluğunun "makul süreyi aştığı" ve "seçilme hakkının ihlal edildiği" gerekçesiyle Anayasa Mahkemesi'ne yaptığı bireysel başvuruda haklı bulundu. 3 Ocak 2014'te tutuklu BDP Mardin milletvekili Gülser Yıldırım ile birlikte tahliye edildi.
24. Dönem Milletvekili Seçimleri'ne Barış ve Demokrasi Partisi'nin (BDP) bağımsız adayıı olarak katılan ve seçimlerin ardından Şanlıurfa milletvekili seçilen İbrahim Ayhan, 25. Dönem Milletvekili Seçimleri'nde ise Halkların Demokratik Partisi'nden (HDP) Şanlıurfa milletvekili olarak seçildi.
İbrahim Ayhan, evli ve 2 çocuk babasıdır.