Hij begon zijn carrière bij Djurgårdens IF. Later vertrok hij naar Everton FC om vervolgens terug te keren naar zijn thuisland, naar IFK Göteborg. Bij laatstgenoemde won hij vijf keer de Zweedse titel.
Hij vond dat hij weer toe was aan een buitenlands avontuur, en vertrok naar de Zwitserse club Lausanne Sports. Hij speelde daar vijf jaar en keerde toen terug naar Djurgårdens IF. Ook daar pakte hij een landstitel, in 2002. Daarna beëindigde hij zijn carrière.
Rehn werd opgenomen in de leiding van Djurgårdens IF, maar vertrok toen hij trainer kon worden van IFK Göteborg.