"Željo" je 17. septembra 1921. godine odigrao svoju prvu utakmicu u istoriji i to protiv SAŠK Napretka, koji je tada slovio za jedan od najboljih klubova na teritoriji BiH.

Klub je prvi meč izgubio rezultatom 5:1, a strijelac prvog istorijskog gola bio je Dimitrije Dimitrijević, mladi željeznički radnik, pokrenuo ideju o osnivanju Željezničara i predložio je već 1920. godine svom kolegi i prijatelju mašinovodi Ludvigu Lepleu.

"Plavi" su do sada osvojili 20 titula, od kojih je svakako najznačajnija ona iz sezone 1971/1972. kada su bili prvaci Jugoslavije.

Tokom vremena SFRJ "Željo" je tri puta osvajao Drugu ligu (1957, 1962. i 1978.) te jednom Republičku ligu BiH (1946.).

Šest puta su bili prvaci Bosne i Hercegovine (1998, 2001, 2002, 2010, 2012. i 2013.), osvojili su isti toliko trofeja Kupu, kao i tri Superkupa.