Nach dem Krieg bewirtschaftete er mit seiner Frau einen Bauernhof im Allgäu und arbeitete nebenher als freier Journalist.
Ab 1956 war Schmückle am Aufbau der Bundeswehr beteiligt. 1957 bis 1962 fungierte er als Pressesprecher von Verteidigungsminister Franz Josef Strauß. Danach war er auf verschiedenen Positionen in der NATO und Bundeswehr tätig. 1974 wurde er Direktor des Internationalen Militärstabes (IMS) der NATO.
Obwohl Schmückle 1977 die Altersgrenze erreichte, wurde seine Dienstzeit mehrfach verlängert. Zum Vier-Sterne-General befördert, übernahm er 1978 den Posten des zweiten Stellvertreters des NATO-Oberbefehlshabers. Nicht erst nach seinem Abschied in den Ruhestand 1980 begleitete er die Entwicklung der Bundeswehr und der Verteidigungspolitik kritisch. Zahlreiche Artikel in der Frankfurter Allgemeinen Zeitung und dem Spiegel belegen dies.
Gerd Schmückle verstarb am 28.05.2013 in München.
Der Nachlass befindet sich im Archiv für Christlich-Soziale Politik. Einige seiner Bücher sind auch in der Politisch-historischen Fachbibliothek der Hanns-Seidel-Stiftung einsehbar.
Das Schwert am seidenen Faden : Krisenmanagement in Europa, 1984
Ohne Pauken und Trompeten : Erinnerungen an Krieg und Frieden, 1982