Mellberg zažil nejlepší léta kariéry v Aston Ville, kde hrál sedm sezon od roku 2001. V roce 2008 odešel do Juventusu a o rok později do Olympiakosu Pireus a poté do Villarrealu. Vloni přestoupil do FC Kodaň a klubu pomohl ke druhému místu v lize.
V národním týmu odehrál 117 zápasů, v nichž dal osm gólů. Se Švédskem startoval na dvou mistrovstvích světa a čtyřech evropských šampionátech, reprezentační kariéru ukončil v roce 2012.