C’est par ces mots que François-Xavier Fabre annonce la donation de sa collection dans une lettre du 5 janvier 1825 au maire de Montpellier, qui accepte le don. Les travaux débutent rapidement et l’établissement ouvre ses portes dans une inauguration solennelle le 2 décembre 1828. Son ouverture est un triomphe et tous louent la beauté des collections, en particulier des tableaux italiens.
L’établissement est réalisé sur les plans des architectes municipaux Fovis et Boué, selon les conseils de Fabre lui-même. Dans cette architecture, tout évoque l’Italie. La façade de l’ancienne entrée sur la rue Montpelliéret, par ses pilastres, son appareil de pierres aux lignes de refend, ses fenêtres aux consoles en volutes rappellent les palais florentins de la Renaissance, quant aux fenêtres thermales de la partie supérieure, elles évoquent l’art de Palladio et Serlio. L’intérieur du musée était décoré par des fresques décorative à l’antique, exécutées par le peintre Tommaso Baroffi. Elles donnaient un caractère particulièrement majestueux à l’établissement. Les griffons monumentaux de la galerie du même nom en gardent aujourd’hui la mémoire.