Rankel celú kariéru strávil v jednom klube - Eisbären Berlín. V tomto mužstve debutoval v sezóne 2003/04. Posledných osem ročníkov bol dokonca kapitánom tímu. S klubom vybojoval sedem majstrovských titulov.

V nemeckej DEL celkovo nastúpil na 865, v ktorých strelil 247 gólov a pridal 268 asistencií. André Rankel bol sedemkrát nominovaný na majstrovstvá sveta. V roku 2011 reprezentoval Nemecko aj na Slovensku.