Adquirido por Abel de Lacerda, em 1954, o claustro provém do Convento Franciscano da Fraga (1742), concelho de Sátão.
Neste convento viveu, trabalhou e morreu o erudito franciscano Frei Joaquim Santa Rosa Viterbo, autor do Elucidário de Viterbo.
O claustro foi transportado para o Caramulo peça por peça e à sua volta foi projectado o edifício do museu, segundo os planos do Arquitecto Alberto Cruz. Tudo o que hoje aqui vemos (aparelho, traves de madeira e telhas), implicou um enorme esforço de restauro e conservação.
A colecção do Museu expande-se também pelo claustro, onde se encontram painéis de azulejos, duas mós romanas e um sacrário do séc. XVI
As placas toponímicas que também se encontram no claustro, fazem parte do projecto do fundador para dar às ruas do Caramulo nomes de artistas consagrados no Museu.
Assim, podemos encontrar os nomes de José Cañas, Jean Lurçat e Leopoldo de Almeida, em placas criadas por eles mesmos.