A început fotbalul pentru Steaua Roșie Belgrad în țara sa natală, înainte de a se muta în Italia, unde a jucat pentru cluburi importante din Serie A Roma, Sampdoria, Lazio și Inter Milano.
Mihajlovic a jucat de 63 de ori și a marcat 10 goluri pentru Iugoslavia, jucând la Cupa Mondială din 1998.
El a fost diagnosticat pentru prima dată cu o formă acută de leucemie în iulie 2019, dar și-a continuat sarcinile de antrenor la Bologna, în ciuda faptului că a fost supus unui tratament pentru măduva osoasă și a trei cicluri de chimioterapie.
Bologna a fost ultima oprire a unei cariere de antrenor spectaculoase. și Fiorentina, Sampdoria, AC Milan, Torino, Sporting Lisabona și naționala Serbiei.