A svédországi Torsbyban született. Jelentéktelen játékos-pályafutását (Torsby IF 1966–1971, SK Sifhälla 1971–1972, KB Karlskoga 1972–1973, Västra Frölunda 1973–1975) fényes edzői karrier követte. Huszonnyolc évesen a Degerfors IF-nél kezdte a trénerkedést, rögtön az első évben felvitte csapatát a harmadosztályból a másodikba. Első sikereit az IFK Göteborggal aratta: 1979-ben és 1982-ben Svéd Kupát, az utóbbi évben UEFA-kupát és bajnokságot is nyert az „angyalokkal”. A Benficát (1982–84) első ott töltött időszakában két bajnoki címre és egy Portugál Kupa-győzelemre vezette, valamint bejutott vele az UEFA-kupa döntőjébe. Első olaszországi edzősködése alatt két csapatot irányított, az AS Romát (1984–87) és a Fiorentinát (1987–89). Visszatérve a Benficához, újra bajnokká tette (1991) csapatát, hazai szuperkupát nyert (1989) és újabb nemzetközi kupadöntőig (BEK, 1990, Milan 0–1) vezette a „sasokat”. Következő olasz korszaka jóval hosszabb és sikeresebb volt, mint az első. A Sampdoriával (1992–97) Olasz Kupát nyert, a Laziót (1997–2001) pedig a világ egyik legeredményesebb csapatává tette. 1998-ban Olasz Kupát és Szuperkupát, 1999-ben KEK-et és európai Szuperkupát, 2000-ben olasz bajnokságot és ismét Olasz Kupát és Szuperkupát nyert a fővárosiakkal. 2000 őszén idő előtt kellett eljönnie a Laziótól, mert már az idény elején bejelentette távozását, majd közben megegyezését az angol szövetséggel, s többek közt emiatt csapata eredményessége jócskán visszaesett. Vesztett helyzetből a vb-selejtező csoport élére vezette a csapatot, amely közben demoralizáló vereséget mért az ősi ellenfél Németországra Münchenben. A világbajnokságon helytállt a csapata: tulajdonképpen egy hatalmas Seaman-potyával kapott csak ki a később százszázalékos teljesítménnyel világbajnok braziloktól a negyeddöntőben. Biztosan vette az Eb-selejtezőket és a 2004-es döntő tornán is helytállt: 11-esekkel bukott el a negyeddöntőben a házigazda portugálok ellen. Ugyancsak a portugálok ellen bukott el a 2006-os világbajnokságon. A vb után megvált az angol válogatottól, a 2007–2008-as idényben a Manchester City klubedzője volt, majd a következő idényben rövid és sikertelen kirándulást tett Mexikóban, a válogatott szövetségi kapitányaként. Amikor átadta az El Trit Javier Aguirrének, a csapat kiesésre állt a zónadöntőben. 2009 júliusától bő fél éven keresztül a világ egyik legrégebbi futballklubjának, a Notts Countynak a futballigazgatója volt. Idén március utolsó napjaiban vette át az elefántcsontparti válogatottat a bosnyák-francia Vahid Halilhodžićtól.