1989年7月16日，世界著名指挥大师赫伯特·冯·卡拉扬正在为萨尔茨堡音乐节排练威尔地的歌剧《假面舞会》，中午，他突然感到极度不适，他的妻子伊丽埃特赶忙前来搀扶，他躺在妻子怀中说：“我看到了上帝朝我微笑。”言罢离开了人世，享年81岁。第二天，他被安葬在家乡萨尔茨堡的一所小教堂之后。
卡拉扬是二十世纪最著名的奥地利指挥家，由于他具有超常的音乐天赋，具有惊人的指挥技巧，具有不可思议的统率乐团的魁力，被誉为二十世纪下半叶欧洲的音乐总监，国际乐坛的泰斗。
1908年，卡拉扬生于莫扎特的故乡萨尔茨堡。父母虽然不是专业音乐工作者，但都非常喜欢音乐。父亲能吹单簧管，母亲是位业余钢琴手，哥哥从小就学弹钢琴。因此，卡拉扬从小就生活在音乐的环境里，他4岁开始学钢琴，5岁就登台当众演奏。8岁时进萨尔茨堡莫扎特音乐学院学习钢琴。卡拉扬的手较小，加上过度的练习，得了腱鞘炎，而老师又发现他有很高的指挥天赋，就建议他改学指挥。卡拉扬在征得父母的同意后，来到音乐之都维也纳，随当时小有名气的维也纳歌剧院指挥弗朗茨·夏尔克学习。
1927年，德国小城乌尔姆歌剧院的指挥临时得病，卡拉扬代他指挥了歌剧《费加罗的婚礼》。演出极为成功，观众掌声雷动。乌尔姆歌剧院立刻与他签订了七年工作合同，从此，年仅19岁的卡拉扬开始了他的指挥生涯。1935年，卡拉扬应聘担任亚琛歌剧院指挥和音乐总指导。演出之余，他仍然努力学习，刻苦钻研，指挥技艺日趋成熟。1937年，他在柏林歌剧院客席指挥了瓦格纳的《特里斯但与伊索尔德》，引起轰动，柏林的报纸一片喝彩，卡拉扬也因此一鸣惊人，这次演出成了他一生的转折点。从此，卡拉扬除在柏林活动外，还与欧洲各大歌剧院、乐团合作，在欧美各地进行巡回演出，所到之处，大受欢迎。1941年任柏林国家歌剧院首席指挥，翌年任柏林交响乐团首席指挥，1949年成为维也纳“音乐之友”协会负责人，1955年接替富尔特文格勒任柏林爱乐乐团指挥，1956年又接替伯姆成为维也纳国家歌剧院音乐指导并任萨尔茨堡音乐节的艺术指导。为贯彻自己的艺术思想，他还以个人名义创办音乐节，被誉为欧洲的“音乐总监”。
卡拉扬不仅在欧美享有盛誉，在东方也极受欢迎，曾数次率团访问日本，并应邀担任客座指挥，1979年，他曾率领柏林爱乐乐团前来北京访问，该团与我中央乐团的合作演出极为成功，受到听众的热烈欢迎，许多专业音乐工作者专程从上海、天津、西安等地赶来观摩学习。这次演出一时成为我国乐坛一大盛事。
卡拉扬曾先后向二十世纪上半叶享誉国际乐坛的德国指挥富尔特文格勒和意大利指挥托斯卡尼尼学习，汲取这两大流派的长处，通过长期的艺术实践，逐渐形成了独特的指挥风格。他的指挥动作洒脱、大方、气势磅礴，并以准确和客观著称。他指挥时不仅自己全身心投入音乐之中，而且还善于启发乐队队员，使他们懂得如何演奏，用魔法般的动作牢牢吸引住乐队。他所追求的目标就是，“把托斯卡尼尼的精确与富尔特文格勒的幻想结合在一起”。正是他的音乐天赋，加上对乐曲的正确理解和对乐队的严格要求，他的演出总能达到超常出众的艺术水平。
卡拉扬的保留曲目极为广泛，他所演绎的贝多芬和勃拉姆斯等人的作品更是有口皆碑。一生录制的唱片共有数百种之多，其中仅贝多芬全套九部交响曲，就分别与五十·八十年代录制了四次。
卡拉扬还关心音乐美学，音乐治疗以及相关学科的研究，关心青年指挥家的成长。为此他于六十年代末建立卡拉扬基金会，在家乡萨尔茨堡创办复活节音乐节，举办青年指挥比赛，还每年组办一次题为“人与音乐”的国际学术研讨会，涉及的题目有“音乐与哲学”，“音乐与自然科学”，“音乐与神经系统”、“音乐与数学”、‘“音乐与语言学”、“音乐体验与时代形态”等，影响都十分深远。
在卡拉扬的学生中，日本的小泽征尔和意大利的阿巴多，都已成了当今世界一流的指挥大家，我国指挥家汤沐海也受过他的指导。他以提携后进著称，小提琴家穆特、钢琴家基辛都在他关怀下走向了世界。
卡拉扬他曾梦想在紫禁城指挥普契尼的歌剧《图兰多》，但未能如愿，直到去年，张艺谋和梅塔合作才实现了这一设想。