In den 1960er Jahren entschied die Stiftung Preußischer Kulturbesitz, neben der Staatsbibliothek auch die Sammlungen der europäischen Kunst am Kulturforum am Potsdamer Platz anzusiedeln. 1965 wurde ein Wettbewerb ausgeschrieben, aus dem 1969 der Gesamtentwurf des Architekten Rolf Gutbrod hervorging: ein zentraler Platz - die Piazzetta - mit Parkhaus und Eingangshalle, der die einzelnen Gebäudeteile miteinander verband.
1971 wurde die gesamte Planung aus finanziellen Gründen unterbrochen. Gutbrod konnte erst 1978 mit dem Bau des Kunstgewerbemuseums beginnen. Im Laufe der langen Planungszeiten hatten sich bei den beteiligten Institutionen verschiedene Vorstellungen über den Bau des Kulturforums entwickelt. So wurde 1985 Gutbrod nach Fertigstellung des Kunstgewerbemuseums die weitere Planung entzogen. Bereits 1983 wurden die Gutbrodschen Entwürfe überarbeitet. In veränderter Form wurde 1985 mit dem Bau der Eingangshalle begonnen. 1987 folgte der Bau der Kunstbibliothek und des Kupferstichkabinetts.
1986 wurde der Wettbewerb für den Neubau der Gemäldegalerie ausgeschrieben und 1987 an das Architekturbüro Hilmer und Sattler vergeben. Mit der Wiedervereinigung der Gemäldesammlungen der Staatlichen Museen zu Berlin im Jahr 1991 wurde der Bau zusätzlich um eine Studiengalerie erweitert. 1998 wurde die Gemäldegalerie eröffnet.