Rolfes' carrière in het betaald voetbal begon in het seizoen 2000/01 bij Werder Bremen. Hij kwam er in vier seizoenen nooit toe aan een competitieduel in de hoofdmacht. In 2002/03 werd hij verhuurd aan Reutlingen om daarmee in de 2. Bundesliga te spelen. In 2004 stapte Rolfes definitief over naar Alemannia Aachen, destijds ook een 2. Bundesliga-ploeg. Daar werd hij basisspeler. Omdat Alemannia Aachen in het voorgaande seizoen verliezend finalist was in het toernooi om de DFB-Pokal, speelde hij dat jaar ook in de UEFA Cup. Na één jaar in Aachen verkaste Rolfes naar Bayer Leverkusen dat hem in de Bundesliga liet debuteren. Na zijn derde seizoen als basisspeler in Leverkusen benoemde de toen net aangestelde coach Bruno Labbadia Rolfes tot aanvoerder.
Rolfes debuteerde op 28 maart2007 onder bondscoach Joachim Löw in het Duits voetbalelftal, in een vriendschappelijke wedstrijd tegen Denemarken. Daarna speelde hij meer dan twintig interlands. Twee daarvan waren op het EK 2008, waarop hij basisspeler was in de kwartfinale tegen Portugal en in de halve finale tegen Turkije. Löw wilde Rolfes ook meenemen naar het WK 2010, maar hiervoor zegde hij af omdat hij nog niet voldoende hersteld was van een operatie aan beschadigd kraakbeen in zijn rechterknie[1][2]. De blessure kostte hem eerder een deel van de competitie van 2009/10.
Rolfes maakte in december 2014 op de website van zijn toenmalige werkgever Bayer Leverkusen bekend dat hij na het seizoen 2014/15 ging stoppen als profvoetballer. Dit om zich te kunnen concentreren op een verdere carrière als leidinggevende in de sportwereld.[3] Hij ging in 2018 aan de slag als hoofd jeugdopleiding bij Bayer Leverkusen. Niet lang daarna werd hij aangesteld als sportief directeur. Rolfes was in die rol verantwoordelijk voor de aanstelling van Xabi Alonso als hoofdtrainer van de club. De Spanjaard leidde die Werkself naar de eerste landstitel en een tweede DFB-Pokal in haar historie.
Rolfes heeft de eerste lichting van de UEFA-managmentopleiding Executive Master for International Players (MIP) gedaan[4].