Futbol kariyerine Köln'de başladı. Yıldızı Samsunspor'da parladı ve Beşiktaş'ta ün kazandı. Dünya Kupası'nda attığı 3 golle Milli takımımızın en golcü oyuncusu olan İlhan Mansız, tüm dikkatleri üzerine çekti. Birçok takım turnuva sonrası İlhan'a talip oldu ancak onun tercihi Japonya oldu. Yıllar sonra Türkiye'ye döndü ancak geçirdiği trafik kazası futboldan emekli olmasına neden oldu.
İlhan 2001-2002 sezonu için Galatasaray'la sözleşme imzalamıştı ancak Beşiktaş'ın daha cazip bir teklif yapması işleri karıştırdı. İlhan Beşiktaş'a da imza attı. Dönemin Beşiktaş yöneticileri Galatasaray yönetiminden ricacı oldu ve Galatasaray İlhan'ı FIFA'ya şikayet etmekten vazgeçti. Böylece İlhan Beşiktaş'a olaylı bir şekilde transfer oldu. O dönem İlhan 21 golle Süper Lig'in gol kralı oldu ve Milli Takıma davet aldı.
Millilerimiz 2002 Dünya Kupası'nda fırtınalar estiriyordu. İlhan attığı 3 golle Türkiye'nin en golcü oyuncusuydu. Çeyrek finalde Senegal'le karşılaştık. İki takım da gol bulamamıştı ve maç uzatmalara gitmişti. O dönemki kurallar gereği golü bulan takım maçı direkt olarak kazanıyordu. Uzatmaların 94. dakikasında İlhan Mansız sahneye çıktı ve attığı altın golle, millilerimize maçı kazandırdı. Bu altın gol, atılan son altın goldü. Bu turnuvadan sonra bu kural kaldırıldı.
2004 yılında, kendisini 2002'den beri takip eden Vissel Kobe'ye 4,5 milyon dolar karşılığında transfer oldu. Japonlar İlhan'ı o kadar seviyorlardı ki tribünlere Türk bayrağı asmışlardı. İlhan ikinci maçında sakatlık geçirip sezon sonunda da takımdan ayrılmak zorunda kaldı.
İlhan dizlerindeki sakatlık yüzünden bir türlü form tutturamıyordu. Ankaragücü forması giyerken Münih'te yaya olarak karşıdan karşıya geçerken araba çarpması sonucu ölümden döndü. Kazadan sonra emekli olmak zorunda kaldı.
33 yaşından sonra buz patenine ilgi duyan Mansız, kariyerine o yönde devam etti. "Buzda Dans" adlı bir yarışmayı kazandı. İlhan milli bir buz patenci olmuştu. Ayrıca Doktorlar ve Dalgakıran gibi dizilerde rol aldı. Son olarak ekranlara Survivor yarışmasıyla çıkmıştı.