Archeologische vondsten wijzen uit dat het gebied rond Salzburg al bewoond werd in de Steentijd. Later vestigden de Kelten zich er. Rond 15 v.C. ontstond de eerste stad, door de Romeinen Juvavum genoemd. De stad was een van de belangrijkste van de Romeinse provincie Noricum.
In 700, Juvavum was toen zo goed als verdwenen, kreeg de Heilige Rupertus de stad van de hertog van Beieren, om er een nieuwe abdij te stichten. Hij noemde de stad ‘Salzburg’, wat letterlijk ‘zout kasteel’ betekent. In 739 ontstond het bisdom Salzburg, dat een groot deel van het huidige Oostenrijk en Beieren bevatte.
Salzburg maakte in die dagen tot Beieren. In 1077 werd het Festung Hohensalzburg gebouwd. Dit kasteel torent nog steeds hoog boven de stad uit. Pas in 1328 werd Salzburg zelfstandig en kreeg het de naam van prinsaartsbisdom. De prins-aartsbisschoppen zijn verantwoordelijk voor het prachtige barokke uiterlijk van de stad. Vanaf begin 16de eeuw werd Salzburg sterk beïnvloed door de reformatie, die eind 16de eeuw gevolgd werd door de contrareformatie. In 1622 stichtte prins-aartsbisschop Paris von Lodron de universiteit op.
Op 31 oktober 1731 tekende de rooms-katholieke prins-aartsbisschop Leopold Anton Von Firmian het Emigrationspatent. Alle protestanten moesten hun geloof opgeven of de stad verlaten. Ruim 20.000 protestanten werden in het hartje van de winter de stad uitgewezen. Het wrede besluit van de prins-aartsbisschop kreeg in heel Europa kritiek te verduren, zowel van katholieken als van protestanten. In 1756 werd de beroemdste componist ter wereld, Wolfgang Amadeus Mozart, geboren in Salzburg. Zijn geboortehuis kun je nog altijd bezoeken.
In 1772 kwam de verlichte prins-aartsbisschop Hieronymus von Colloredo aan het roer van de stad. In 1803 was heel het prins-aartsbiscom geseculariseerd en werd het overgedragen aan Ferdinand III van Toscane. Twee jaar later werd het land overgedragen aan Oostenrijk, om in 1810 weer in handen van Beieren te vallen. Na het Congres van Wenen kreeg Oostenrijk er weer de macht. In 1850 werd Salzburg een onafhankelijk kroonland van Oostenrijk.
Op 13 maart 1938 riep Hitler de ‘Anschluss’ van Oostenrijk bij Duitsland uit. Oostenrijk werd een Duitse provincie. Tijdens de Kristallnacht van dat jaar werd de Salzburgse synagoge verwoest. Tijdens de oorlog had de stad erg te lijden onder de vele bombardementen. Veel gebouwen werden verwoest. De stad was de thuisbasis van concentratiekamp Salzburg-Maxlan. Op 5 mei 1945 namen de geallieerden de stad in.
Sinds 1997 staat de oude stad van Salzburg op de Werelderfgoedlijst van de Unesco. In 2006 werd hier de 250ste verjaardag van Mozart gevierd.