Die Jahre 1901 und 1902, in denen Mahler an der Fünften Symphonie arbeitete, waren für ihn eine besonders glückliche und produktive Zeit. Im März 1902 hatte er Alma Schindler geheiratet, im Gedanken an sie schrieb er das Adagietto mit der Anspielung auf das "Blickmotiv" aus dem Tristan (Floros 1985, 149; vgl. den Beitrag "Mahler-Interpretation(en)" in diesem Band, 5. 453 ff. Einen glänzenden Erfolg erlebte er im Juni mit der Uraufführung der Dritten Symphonie. Die frühesten Kompositionsskizzen zur Fünften Symphonie beziehen sich auf das Scherzo, angeregt durch das Scherzo der E-Dur-Symphonie seines ehemaligen Kommilitonen Hans Rott, aus dem er das Motiv der Valse übernahm, wahrscheinlich auch die Idee, ein "wild" zu spielendes fugato in das Scherzo aufzunehmen (T. 201 ff.). Er komponierte die Fünfte während der Sommerferien in Maiernigg, wo er gerade seine neue Villa und das Komponierhäuschen bezogen hatte. Damals vertonte er auch Gedichte von Friedrich Rückert und Texte aus Des Knaben Wunderhorn. Die Uraufführung der Symphonie am 18. Oktober 1904 im Kölner Gürzenich unter seiner Leitung fand wenig Verständnis, man vermisste Klarheit und Originalität. Nach der Aufführung, auch nach der ersten gedruckten Fassung und noch viel später hat Mahler immer wieder Stellen in der Partitur umgearbeitet, vor allem an der Instrumentation korrigierte er ständig, reduzierte das Klangvolumen, um besonders in den polyphonen Teilen eine möglichst große Transparenz und Deutlichkeit zu erreichen.
Jedes Werk Mahlers kritisiere das vorhergesehende, hat Adorno bemerkt (1960, 113). Nach den Wunderhorn-Symphonien ist die Fünfte ein rein instrumentales Werk. Ursprünglich viersätzig geplant (NBL 1984. 193) dehne sie sich in fünf Sätzen zu drei Abteilungen aus. Durch enge thematische und strukturelle Beziehungen zwischen den Sätzen wird der symphonische Zyklus zu einer komplexen Großform, deren innerer Zusammenhang weniger stringent ist als der innerhalb eines Satzes. Die Anregung zu dieser satzübergreifenden Konstruktion scheine wiederum Rotts Symphonie gewesen zu sein. "Ein ganz neuer Stil" zeige sich in der Fünften Symphonie, schrieb Mahler 1911 an den Dirigenten Georg Löhler (GMB 1996, 428). Seit Anfang des Jahres 1901 hatte er sich wieder mit Bachs Musik beschäftigt und Kontrapunktstudien betrieben (HLG 1983, 93). Neben der Arbeit mit Varianten gehöre nun die polyphone Faktur zu den wesentlichen Strukturprinzipien. Geradezu demonstrativ wird die integrale Sonatenform aufs Spiel gesetzt: Wiederholt unterbrechen Episoden das immanente Gefüge. Das als Grundriss erkennbare Sonatenschema der ersten Abteilung wird aufgebrochen durch Peripetien, durch wiederkehrende Einsturz- und Durchbruchsfelder. Überdeutlich fast in ihrem mimetischen Charakter: Zusammenbrüche, Auflösungspassagen und dann wieder Aufschwünge, Erfüllungen des Erwarteten. Dieses Aufbrechen der symphonischen Hierarchie deutet an, wie Versatzstücke aus der Wirklichkeit Eingang in die Musik finden und wie sich die erfahrene Realität in der Musik abbildet.