De organisatorische afsplitsing van het betaald voetbal van de moedervereniging leidde per 14 juni 1976 tot het ontstaan van een amateurvereniging. Het voormalige derde elftal ging verder als het eerste elftal van de moedervereniging. Zoals te doen gebruikelijk diende dit nieuwe team, spelend op Nieuw-Vreelust, binnen de regionale afdeling van de K.N.V.B. te beginnen in de Vierde klasse.
Het verblijf in deze klasse duurde tot 1978. Vanaf dit jaar tot 1983 kwam R.V.&A.V. Sparta uit in de Derde klasse. In de loop der jaren heeft zich een nieuwe en naar zal blijken succesvolle staf gevormd bestaande uit trainer Aad de Vries en elftalleider Janus Braun.
Door in drie seizoenen twee kampioenschappen te behalen speelde R.V.&A.V. Sparta vanaf 1985 in de Eerste klasse. In hetzelfde jaar bereikte R.V.&A.V. Sparta voor het eerst de finale van de jaarlijks uitgeloofde Rotterdams Nieuwsblad bokaal.
Tot de bekendste bestuurders, medewerkers en vrijwilligers behoren Willem de Jong, Rob Leeninga, Piet Hunter, Martin Mallon, Henk Hendriks, Puk de Vries, Beb Juhrend, Jan le Pair, Wim Klijnoot en Aad Asman.
Degradaties in 1991, 1992 en 1994 doen R.V.&A.V. Sparta in de Vierde klasse belanden. Een jaar na de degradatie van 1994 wordt in 1995 via de nacompetitie de Derde klasse bereikt. In deze afdeling blijft de vereniging spelen tot in 1999 via de nacompetitie naar de Tweede klasse wordt gepromoveerd.
In 2001 volgt voor R.V.&A.V. Sparta, nu spelend op het nieuwe complex in Nieuw Terbregge, de promotie naar de Eerste klasse. In de jaren 2002 en 2004 wordt de promotie via de nacompetitie naar de Hoofdklasse nipt gemist. In 2005 volgt een degradatie naar de Tweede klasse.
In 2023 werd de Sparta AV tak kampioen in de 2e klasse met een promotie naar de 1e klasse als gevolg.
In de jaren 2003 en 2005 wordt tweemaal de finale van wat sinds de krantenfusie de strijd om de Rotterdams Dagblad Trofee heet, bereikt.
Medio 2011 daalt de club af naar de Derde klasse. Niet veel later gevolgd door het moment in 2012 waarop wordt besloten de vereniging vanaf de basis opnieuw op te gaan bouwen. Na een aanloopperiode presenteert R.V.&A.V. Sparta in het voorjaar van 2014 een hele nieuwe selectie onder leiding van oud-speler Ron Luijten.
Hij weet in zijn eerste seizoen als hoofdtrainer van R.V.&A.V. Sparta twee periodetitels en het algeheel kampioenschap 2015 te winnen. Het eerste seizoen in de Derde klasse wordt afgesloten met een periodetitel en een bijna promotie. Een jaar later, in 2017, lukt de promotie naar de Tweede klasse wel. Ron Luijten vertrekt na drie seizoenen en wordt opgevolgd door een andere oud-speler van Sparta Rotterdam, Robert Verbeek.
