Ziel des Archivs war es von Beginn an, alle Arten von Material zu sammeln, um Musik und das Muskleben zu dokumentieren. Das beinhaltete keineswegs nur Musiknoten. Man unterschied bald mehrere Teile der Sammlung: im Archiv bewahrte man in erster Linie Noten auf, in der Bibliothek befanden sich die Bücher und das Museum enthielt Bilder, Musikinstrumente, bald auch Musikautographen und Briefe. Heute verwenden wir die Bezeichnung „Archiv“ meist als Abkürzung für „Archiv, Bibliothek und Sammlungen“ der Gesellschaft der Musikfreunde in Wien.

Man begann eifrig zu sammeln und konnte nach wenigen Jahren bedeutende Bestände ankaufen bzw. erhielt diese geschenkt. Erwähnenswert ist die Bibliothek des deutschen Lexikographen Ernst Ludwig Gerber, die noch zu dessen Lebzeiten angekauft werden konnte und nach dessen Tod 1819 nach Wien geliefert wurde. Auch die heute wertvolle Sammlung mit Musikdrucken aus dem 16. und 17. Jahrhundert aus der Lübecker Marienkirche verdanken wir der frühen Sammeltätigkeit.

Bereits nach gut zehn Jahren besaß die Gesellschaft rund 6.000 Musikwerke, 700 Bücher, 500 Porträts und zahlreiche Musikinstrumente.

Eine besonders umfangreiche Sammlung von knapp 20.000 Musikwerken hinterließ Erzherzog Rudolph, Bischof von Olmütz, 1831 den Musikfreunden. Der Transport stellte die noch junge Gesellschaft vor große Herausforderungen. 90 riesige Kisten, jeweils 250kg schwer, mussten von Kremsier nach Wien geschafft werden. Erst im Jänner 1834 konnten die Sammlung nach Wien transportiert und aufgestellt werden. Die Sammlung des Erzherzogs enthält eine Reihe wertvoller Handschriften und Erstdrucke, aber auch Autographen, etwa Briefe Ludwig van Beethovens oder einen großen Bestand an Partituren aus der Hand des barocken Vizehofkapellmeisters Antonio Caldara.

In den Folgejahren gelangte eine Reihe bemerkenswerter Sammlungen in den Besitz der Gesellschaft der Musikfreunde. Etwa Nachlässe und Teilnachlässe von Carl Czerny (Klaviervirtuose), Simon Sechter (Komponist, Musiktheoretiker und Lehrer Anton Bruckners), Ludwig Ritter von Köchel (Verfasser des „Köchelverzeichnisses“). Joseph Ritter von Spaun vermachte der Gesellschaft seine Sammlung mit Schubertdrucken, Nikolaus Dumba schenkte Autographe der Symphonien Franz Schuberts, etc.

Unter den neueren Nachlässen ist vor allem der Bestand von „Gottfried von Einem“ zu erwähnen, der tausende Bücher, Briefe, Noten und andere Materialien umfasst.

Eine besondere Stellung nimmt der Nachlass von Johannes Brahms ein. Brahms war mit der Gesellschaft vielfach verbunden und ein eifriger Archivbenützer. Er hinterließ der Gesellschaft der Musikfreunde seine gesamte Bibliothek, die hunderte Bücher und tausende Noten sowie die an ihn geschriebenen Briefe umfasste.

Heute umfassen Archiv, Bibliothek und Sammlungen zwischen zwei und drei Millionen Objekte. – Das Archiv versteht sich keineswegs als abgeschlossene Sammlung. Es kommen immer wieder neue Objekte dazu.

Es gibt mehr als 25.000 Bücher, etwa 200.000 Musikalien, über 5.000 Musikautographen, über 50.000 Grafiken, Bilder und Fotos, über 800 Musikinstrumente, weit über 10.000 Briefe , Akten und Dokumente zur Geschichte der Gesellschaft der Musikfreunde, zur Musikgeschichte Wiens, der Habsburgermonarchie, Mitteleuropas …