Commencée pendant l'été 1895, la Troisième Symphonie en ré mineur sera terminée un an plus tard au terme d'un travail créatif étonnamment rapide quand on se souvient que des difficultés éprouvées par Mahler lors de la composition des deux symphonies précédentes : il lui avait fallu huit ans pour terminer sa Première Symphonie, six ans pour la Seconde, pourtant nettement plus imposante. La Troisième Symphonie semble couronner le processus : achevée en un an, elle est aussi la symphonie la plus longue du répertoire en ce début du XXe siècle ; son premier mouvement dure plus d'une demi-heure à lui seul, autant qu'une symphonie classique.
Mahler prévoit initialement sept mouvements pour son oeuvre. Le dernier mouvement, utilisant un chant de son cycle Des Knaben Wunderhorn, sera finalement déporté vers la Quatrième Symphonie qui verra le jour quatre ans plus tard.
La taille de l'oeuvre, son effectif orchestral ainsi que la dimension métaphysique que Mahler y déploie, rendent difficile l'exécution de la Troisième. Arthur Nikish puis Mahler lui-même en dirigent quelques mouvements en 1896 et 1897, qui sont accueillis fraîchement. La partition complète ne sera publiée qu'en 1899 et c'est ce 9 juin 1902 que Gustav Mahler dirige sa Troisième Symphonie avec l'orchestre de Cologne, à Krefeld en Rhénanie-du-Nord-Westphalie.
Longtemps négligée, peu appréciée de la critique et du public, la Troisième finira par quitter son purgatoire. Elle est aujourd'hui considérée comme une des oeuvres maitresses du compositeur. Le quatrième mouvement utilise un texte de Friedrich Nietszche (1844-1900) extrait de Ainsi parlait Zarathoustra.