El Ayuntamiento de Barcelona, ​​siguiendo la voluntad de Marès, acordó crear el Museo y ubicarlo en el Barrio Gótico. En 1946 se inauguró la primera sala y en 1948 se inauguró oficialmente el centro.

El Museo se dispuso aprovechando una serie de edificios que ocupaban parte de los espacios de lo que había sido el Palau Reial Major, sede de los condes de Barcelona y reyes de la corona catalano-aragonesa en la época medieval. La restauración de estilo medieval de algunas de las dependencias del nuevo centro museístico, coincidiendo con las campañas de renovación del Barrio Gótico, dio a las colecciones un entorno particular.

Actualmente se accede al Museo a través del patio, el jardín del citado Palau Reial Major, desde la plaza de Sant Iu, junto a la catedral.

Una vez inaugurado el Museo, Frederic Marès no abandonó su pasión por el coleccionismo y siguió adquiriendo piezas que le permitieron ampliar y completar las colecciones ya expuestas o iniciar otras nuevas. Este hecho, sumado a las donaciones de particulares o de instituciones públicas o privadas, obliga a realizar varias ampliaciones en el edificio.

A finales de 1948 tuvo lugar la inauguración oficial de las cuatro salas que ocupaban el primer edificio, al que se accedía por la calle dels Comtes de Barcelona. Las obras de ampliación y acondicionamiento continuaron hasta 1970, año en el que el Museo adquirió su volumen arquitectónico actual.