Samsun'da 3 sezon boyunca son derece başarılı bir performans gösterdi ve olaylı bir şekilde takım arkadaşı tümoş Metin'le beraber Beşiktaş'a transfer oldu. Beşiktaş'ta ilk sezonu olan 2001/2002 sezonunda başarılı performansını sürdürdü ve attığı 21 golle gol krallığına ulaştı. Bu sayede Milli Takım'a kadar yükseldi.
Türk Milli Takımı'nın dünya üçüncüsü olarak tarihe geçtiği 2002 Dünya Kupası'nda üç gol attı. Ancak bu goller içinde çeyrek final maçında Senegal'e uzatmada attığı altın gol hayatının en önemli golü oldu. Bu sayede tüm dünyada tanınır hale geldi.
Dünya kupası sonrası uzun süren sakatlıklar serisi başladı ve bir sonraki sezon olan 2002/2003 sezonunda uzun süre Beşiktaş'ta kadroya giremedi. Ancak sezon ilerledikçe düzeldi ve lig şampiyonluğunda büyük rol aldı.
2003/2004 sezonuna da son derece başarılı bir başlangıç yapan İlhan Mansız, kulübünün ekonomik sıkıntıları sonucu devre arası Japon takımı Vissel Kobe'ye transfer oldu. Ancak Japonya'da da kısa sürede sakatlandı , forma giyemedi ve sözleşmesi iptal edildi.
Daha sonra Almanya'ya döndü ve kısa süren Hertha Berlin ile anlaşması yine sakatlığı nedeniyle iptal edildi. 2005/2006 sezonunda sakatlığı geçti ve Sezon başında Ankaragücü'ne transfer oldu.
2006/2007 sezonu başında Almanya"da gecirdigi trafik kazasi nedeniyle futbolu bıraktığını açıkladı. Ancak ABD'de gördüğü tedaviyle iyileşen İlhan Mansız, önümüzdeki sezondan itibaren yeniden Ankaragücü formasıyla sahalara dönecektir.