1954年富特文格勒去世後，柏林愛樂樂團陷入困境，當時該團即將赴美國巡迴演出，樂團經理表示，接替富特文格勒的人只有卡拉揚一個人，當時卡拉揚正在米蘭斯卡拉歌劇院指揮瓦格納的歌劇《尼伯龍根的指環》，在接到柏林愛樂樂團的邀請之後，他説：“我可以來美國指揮巡演，但是我必須是富特文格勒的繼承人，而不是他的替代者，這一點必須明確。”

　　卡拉揚率領柏林愛樂樂團抵達美國時，人們在機場舉行了奇特的歡迎儀式。作為富特文格勒的繼承人，卡拉揚和他率領的樂隊在首場演出時就受到了觀眾熱情的讚揚。

　　許多影片中都拍攝了卡拉揚指揮演奏的場面，在拍攝時，卡拉揚在某種程度上充當了導演的角色。當導演要拍攝卡拉揚的手的時候，卡拉揚就讓拍攝人員把攝影機放在他的肩膀上，以便讓他們把他的手的動作拍得更清楚，這樣還能避免遠距離拍攝時造成的畫面變形。在整個拍攝過程中，卡拉揚總是在不知疲倦地工作，甚至還鬧了很多笑話。

　　卡拉揚從來不用體型肥胖的女歌手擔當歌劇中的角色，他認為這樣的歌手會讓觀眾閉上眼睛不看舞臺上的表演，而他就是想要觀眾睜大眼睛看臺上的表演。卡拉揚對舞臺的一切瞭如指掌，舞臺的每一個角落都銘記在他的腦海裏。他不僅了解每一個樂手，甚至還熟悉劇院裏的消防隊員。

　　卡拉揚不僅是一位傑出的指揮大師，同時他還要學會去做一名出色的舞臺導演，為此，他花費了大量的的精力，付出了許多心血。

　　卡拉揚經常對他的樂隊説：“樂隊必須服從歌手，而且要儘量模倣歌手的音色，而歌手也應當盡力去模倣樂隊的音質。”他在排練時對樂隊要求特別嚴格，而到了正式演出時，他總是替樂手們著想，他指揮的動作輕鬆自如，充滿自信，令人感到值得信賴，他的指揮達到了一種完美的境界。

　　卡拉揚從1955年起擔任柏林愛樂樂團的藝術指導，經過十幾年的努力，卡拉揚和這個樂團在世界樂壇上佔據了極其重要的地位。

　　卡拉揚相信，在他死後還會有來生，他常常説，還有很多他想做的事情尚未完成，即便是死亡也無法阻止他去工作。