Der Komplex von Santa Margherita degli Eremitani umfasst die Kirche und das ehemalige Kloster. Letztere, zwischen 1282 und dem 14. Jahrhundert erbaut, hat ein einziges Schiff mit seitlichen Apsidenkapellen. Tomaso da Modena malte wahrscheinlich zwischen 1355 und 1358 den Zyklus der Geschichten von Sant'Orsola, ein Meisterwerk der italienischen Malerei des 14. Jahrhunderts. Im Kreuzgang wurde 1364 das Grab von Pietro Alighieri, dem Sohn von Dante, gelegt. Dieses wurde mit dem Eintreffen der napoleonischen Truppen Ende des 18. Jahrhunderts tiefgreifend zerstört, was den Komplex, insbesondere die Kirche, in den Ruin führte und zur Folge hatte, dass sie entweiht wurde. Glücklicherweise entdeckte der Abt Bailo 1883 die Fresken von Tomaso da Modena; er konnte sie von den Wänden abnehmen und auf Rahmen übertragen, die er in der Kirche von Santa Caterina platzierte, heute "Freskenabteilung" des gleichnamigen Museums.
Die Schäden, die insbesondere im ehemaligen Kloster durch den Luftangriff von 1944 verursacht wurden, waren gravierend; es folgten Jahrzehnte des Verfalls, bis zur Restaurierung in den 80er und 90er Jahren.