De eerste kolonist die zich in IJsland vestigde, zou Ingólfur Arnarson, een Noors stamhoofd, geweest zijn. Volgens het middeleeuwse boek Landnámábok (Boek der Landname) zou hij, toen hij de kust naderde, twee heilige, aan de Noorse god Thor gewijde houten balken overboord gegooid hebben. Hij zweerde dat hij zijn boerderij zou bouwen op de plaats waar de balken zouden aanspoelen. Een paar jaar later vonden zijn slaven de balken terug, aan de zuidoostelijke kant van de baai Faxaflói. Ingólfur vestigde zich er in 877. De naam van de stad, Reykjavík, of Rookbaai, verwijst naar de hete bronnen in de omgeving, waaruit de man rook omhoog had zien komen.
In middeleeuwse bronnen wordt over Reykjavik gesproken als een stuk landbouwgrond of een woonerf. Meer dan een dorpje met een handvol boerderijen was Reykjavik toen ook nog niet. Pas in de 18de eeuw begon het dorpje een beetje uit te breiden. In 1752 gaf de Koning van Denemarken Reykjavik aan de Innréttingar Corporatie, waarvan Skúli Magnússon de leider was. Hij stichtte er een wolweverij en -ververij en een touwfabriek. De inwoners hielden zich ook bezig met visserij, het mijnen van zwavel, agricultuur en scheepsbouw.
In 1768 kreeg Reykjavik stadsrechten, maar bleef toch onderworpen aan de Deense kroon. Op dat moment had het plaatsje slechts 170 inwoners. Het stadje groeide gestaag en een paar decennia later verhuisden de regeringszetels en onderwijsinstellingen erheen, zoals het Alþing of parlement, het hooggerechtshof, de bisschopszetel en de Latijnse en de theologische school.
In 1900 kende de stad al 6300 inwoners. Pas in 1911 werd de Universiteit van Reykjavik opgericht. Op 1 december 1918 werd IJsland een soevereine staat onder de Deense kroon. In de jaren ’20 en ’30 was kabeljauwvisserij de belangrijkste bron van inkomen. Maar de Grote Depressie leidde ook in IJsland tot werkloosheid en opstanden van werklieden.
Begin mei 1940 legden vier oorlogsschepen aan in de haven Reykjavik. In een paar uur namen de geallieerden de stad in. Er was geen gewapend verzet. De IJslandse regering had van de Britse regering al meerdere verzoeken gekregen om zich bij hen aan te sluiten, maar verkoos tot dan neutraal te blijven. In de oorlogsjaren erna bouwden Britse en Amerikaanse soldaten basissen in Reykjavik. Op dat moment waren er ongeveer evenveel buitenlandse soldaten als IJslanders in Reykjavik.
Eigenlijk was de bezetting nog niet zo slecht voor IJsland. De werkloosheid verdween, er moest immers veel bijgebouwd worden. De Britten bouwden een luchthaven in Reykjavik, die vandaag de dag nog steeds gebruikt wordt. De Amerikanen bouwden de luchthaven Keflavík, dat later IJslands belangrijkste internationale luchthaven zou worden. In 1944 werd de Republiek IJsland opgericht. De koning werd vervangen door een democratisch verkozen president.
In de jaren na de oorlog kwam Reykjavik pas echt tot bloei. IJslanders verhuisden van het platteland naar de stad, in de landbouw was er dankzij de nieuwe technologieën immers minder werk. De hoofdstad sprak vooral veel jonge mensen aan. Reykjavik groeide langzamerhand uit tot een moderne stad.
In 1972 vond in Reykjavik het wereldkampioenschap schaken plaats, de legendarische schaakpartij tussen de Amerikaan Bobby Fischer en de Rus Boris Spassky. Die ‘match van de eeuw’ werd gewonnen door Fischer. In 1986 werd de internationale status die Reykjavik in al die jaren heeft opgebouwd nog eens duidelijk, toen de top tussen Ronald Reagan, president van de VS en Michail Gorbatsjov, president van de toenmalige Sovjet-Unie, er plaatsvond. Op dit moment zijn veel inwoners van Reykjavik tewerkgesteld in de financiële sector en de informatietechnologie.