Die nach den Plänen von Hans Scharoun erbaute Philharmonie wurde am 15. Oktober 1963 mit einem Konzert der Berliner Philharmoniker unter der Leitung von Herbert von Karajan eröffnet.
Im Großen Saal finden jährlich etwa 270 Konzerte statt. Hier geben die Berliner Philharmoniker ihre Konzerte. Es treten aber auch Gastorchester, Kammermusikformationen und Solisten auf.
Kammerkonzerte und Orchesterkonzerte in kleinerer Besetzung finden in dem 1987 eröffneten Kammermusiksaal statt. Beiden Sälen gemeinsam ist die Idee der "Musik im Mittelpunkt": Das Musikerpodium ist in der Mitte des Saales, die Plätze der Zuhörer steigen um das Podium herum terrassenförmig an.