1882年5月1日、ベルリン･フィルはベンヤミン・ピルゼのオーケストラから離れた54名に6人のメンバーが加わって発足。当初は常任指揮者をおかず、演奏活動を続けていたが、1887年にハンス･フォン･ビューローが初代常任指揮者に就任し、演奏水準を著しく向上させた。
1895年からは、アルトゥール・ニキシュの時代となる。1922年に死去するまで年にわたり、ニキシュはライプツィヒ・ゲヴァントハウス管弦楽団の音楽監督も兼任しながらも、ブルックナー、マーラー、リヒャルト･シュトラウスをはじめロシア音楽などの多彩なレパートリーの基礎を作り、ヨーロッパ中にベルリン･フィルの名を広めた。第3代常任指揮者となったヴィルヘルム・フルトヴェングラーは当時36歳でありながら、短期間のうちにオーケストラを掌握し精力的な活動を展開。フルトヴェングラーもまた、1928年までゲヴァントハウス管の常任、1930年まではウィーン･フィルの首席指揮者を兼務しながらも、20年間指揮し続けた。そのコンビネーションは、演奏史上でも際立った存在であったが、第2次世界大戦により活動が制約された上、戦後になりフルトヴェングラーが演奏を禁止されたことにより、オーケストラは危機的な状況を迎えることとなった。
1947年にフルトヴェングラーが復帰し、復興へと向かったオーケストラは、いよいよ1955年に初となるアメリカ･ツアーを行うこととなる。しかし、この前年、フルトヴェングラーが死去。アメリカ･ツアーは、ヘルベルト・フォン・カラヤンが指揮、1956年終身指揮者兼芸術監督に就任し、以後33年間にわたって、カラヤン/ベルリン･フィルは数多くのレコーディングを通じて、ブランドとしての名声を確立。音楽産業などに大きな影響を与えると共に、西ベルリンという特殊な年において「西側」の文化的地位を誇示する象徴的存在となった。1963年には、本拠地ベルリンに近代的なホール、フィルハーモニーが完成。1967年からは、ザルツブルク・イースター音楽祭に参加、オペラにも進出し、さらにその活動の幅を広げた。カラヤンは、亡くなる直前の1989年4月に辞任。東西ドイツが統一された1990年からは、クラウディオ・アバドが第5代常任指揮者に就任。メンバー自体の若返りをはかるとともに、柔軟性にも磨きがかかる。
2002年秋より、サー・サイモン・ラトルが首席指揮者・芸術監督に就任。2004年秋、サー・サイモン・ラトルとの初コンビで来日公演を果たし、好評を博した。

1955年イギリス・リヴァプール生まれ。
幼少の頃より打楽器とピアノを始め、ロンドンの王立音楽院に入学して指揮と打楽器を学ぶ。1974～77年までボーンマス交響楽団とボーンマス・シンフォニエッタの副指揮者、その後は、フィルハーモニア管弦楽団、ロンドン・フィル、ロンドン・シンフォニエッタなど、主にイギリスのオーケストラとの仕事を重ねる。1979年にロサンゼルス・フィルを振ってアメリカデビュー。1981～94年まで、ロサンゼルス・フィルの首席客演指揮者を務めた。
1980年からバーミンガム市交響楽団（CBSO）の首席指揮者に任命され、1990年9月～98年夏までは同楽団の音楽監督に就いた。一貫して芸術的に興味深いプロジェクトと数多くの録音を続けたことにより、CBSOは、国際的なオーケストラへと成長、同オーケストラと世界各地へのツアーも行う。1994年、音楽界への多大なる貢献を称えられ爵位を授与され、以来サー・サイモン・ラトルと呼ばれる。1998年、CBSOはザルツブルク音楽祭に客演し、ベートーヴェンの全交響曲を演奏した。また、CBSOと並んで、アメリカとヨーロッパを代表するオーケストラを指揮している。なかでもボストン交響楽団、フィラデルフィア管弦楽団およびウィーン・フィルとは長年にわたり共演を重ねている。
ベルリン･フィルとは、首席指揮者に就任する以前から、15年にわたり共演。1987年11月、マーラー「交響曲第6番」を振り初登場。以来、定期的に指揮台に立ち、2002年9月までに75回のコンサートで、バッハ、バルトーク、ベートーヴェン、ベルリオーズ、ブーレーズ、ブラームス、ドビュッシー、ガーシュイン、ハイドン、ヤナーチェク、リスト、マーラー、メシアン、プーランク、ラフマニノフ、ラヴェル、ストラヴィンスキー、そしてシマノフスキなどをはじめ様々な作曲家たちの作品を演奏している。
2002年9月から、ベルリン・フィルハーモニー管弦楽団の首席指揮者および芸術監督を務める。2004年秋、ベルリン･フィルとの来日公演を行い、高い評価を得る。