Met de invoering van de Gemeentewet in 1851 kwam er een einde aan verwaarlozing van archieven. Art. 103 van deze wet bepaalt dat de gemeentesecretaris onder toezicht van Burgemeester en Wethouders is belast met de zorg voor het archief.
In Rotterdam lagen de archieven verspreid over het Stadhuis en Stadstimmerhuis. In 1857 kwam er een archiefverordening, gevolgd door een oproep aan de burgerij om onder hen berustende archivalia en curiosa (van kaarten, prenten, tekeningen tot en met gedenk- en vroedschapspenningen) aan de gemeente af te staan. Dit betekende ook de oprichting van het Gemeentearchief Rotterdam.  In 1858 werd de secretarie-ambtenaar Johannes Hendrikus Scheffer (1832-1886) met de zorg voor het archief belast. Met ingang van 1 januari 1862 kreeg hij de titel archivaris en uiteraard kreeg de archivaris een medewerker. Dat werd de heer F.D.O. Obreen, de latere directeur van het museum Boijmans en daarna van het Rijksmuseum. Scheffer en Obreen gaven de zogenaamde Rotterdamse Historiebladen uit en timmerden flink aan de weg. Sinds 2012 is het Stadsarchief onderdeel van het Cluster Dienstverlening van de gemeente Rotterdam.

Locaties
In 1868 verhuisde het  archief van de Kaasmarkt (Stadhuis) naar het Schielandshuis, dat gerestaureerd was na de brand van 1864. In 1900 kreeg het archief een nieuw onderkomen: een speciaal ontworpen archiefgebouw aan de Mathenesserlaan 315. Tot 1984 zou daar de hoofdingang zijn, waarna die verplaatst werd naar de achterzijde met als adres Robert Fruinstraat 52. Rotterdam was de eerste gemeente, die uit eigen middelen een archiefgebouw neerzette. Het archief bleef bij het bombardement in 1940 gespaard. In 1998 verhuisde het archief naar de Hofdijk omdat het pand aan de Robert Fruinstraat niet meer voldeed aan de eisen van de tijd.

Hofdijk 651
Het huidige onderkomen is de voormalige Rijks Automobiel Centrale ontworpen door Rotterdamse architect H.A. Maaskant. Bij de verbouwing is gebruik gemaakt van milieuvriendelijke duurzame materialen. Veel aandacht is besteed aan energiewinning en energiebesparing, onder meer door het plaatsen van zonnepanelen op het dak, het verzamelen van regenwater voor het doorspoelen van de toiletten, koude- en warmteopslag in de bodem voor de temperatuur in het gebouw, zoveel mogelijk daglichttoetreding en energiezuinige verlichting en apparatuur. Bij oplevering kreeg het pand van de minister van Economische zaken de 'Nationale voorbeeldstatus duurzaam en energiezuinig bouwen'.