L’iconographie de Notre Dame de la Miséricorde n’est pas homogène et les formes qu’elle prend ne dépendent pas seulement de l’époque, mais aussi du lieu en Europe et de l’endroit où on rendait hommage à la miséricorde de Marie. En Occident dès le XIIIe siècle, l’icône la plus populaire était le tableau de Mater Misericordiae avec le manteau de protection sous lequel s’abritaient les représentants de la hiérarchie ecclésiastique, des villes, ordres religieux (notamment les cisterciens), confréries franciscaines et autres communautés. On pouvait voir Son image dans des églises, sur des drapeaux, dans des cloîtres, sur des sceaux ou des gravures sur bois. Cette conception iconographique de Mater Misericordiae dans une forme simplifiée a subsisté jusqu’au XVIIIe siècle.
En Orient, Mater Misericordiae était connue sous le nom de Pokrov ou Pokrova, avec un voile de protection qu’Elle étendait sur ceux qui imploraient Son secours. Marie le tenait entre Ses mains ou les anges l’étalaient au-dessus du lieu ou de la communauté auxquels Elle accordait Sa protection. L’iconographie et la liturgie de Pokrova Mère de Dieu étaient liées à la vision de saint André le Fou dans l’église de Blachernes : après la prière devant l’autel, il vit Marie entourée de saints qui étendait Son voile en signe de protection pour les hommes. C’est dans cette église que Sa robe fut conservée comme précieuse relique. Le culte de cette relique a engendré l’idée de la protection de Notre Dame, laquelle continue jusqu’à nos temps.
Des motifs nouveaux ont intégré au fil du temps le culte de Mater Misericordiae en Occident : Sa protection contre la colère de Dieu, ce qui a également modifié l’iconographie. Marie était désormais présentée sans le manteau de protection, mais comme Celle qui casse les flèches de la colère de Dieu. Initialement, Sa figure était représentée sur le fond des lieux que la colère de Dieu devait frapper, puis seul est resté le personnage de Marie cassant les flèches de la colère divine. Les piaristes ont répandu ce type d’iconographie par le biais de tableaux et sculptures représentant la miséricorde de Marie au XVIIe siècle. Il est connu en Pologne sous le nom de Notre Dame de Grâce qui a été reconnue par la municipalité de Varsovie la sainte patronne de la ville depuis 1664.
Dès le XVIIe siècle, Notre Dame de la Miséricorde est vénérée aussi dans le tableau d’Ostra Brama. Il représente Marie à l’instant de l’Annonciation, quand Elle accueille dans Sa vie le Fils de Dieu, Miséricorde Incarnée, ou qu’elle prononce « fiat » au pied de la croix, ce qu’indiquerait le geste de Ses mains croisées sur Sa poitrine. Ce tableau est célèbre pour d’innombrables grâces ainsi qu’à cause du culte vivant de la miséricorde de Marie et il a été couronné pour cette raison en 1927, alors que la chapelle d’Ostra Brama de Vilnius est devenue le sanctuaire le plus connu de Notre Dame de la Miséricorde dans cette partie de l’Europe, non seulement pour les catholiques.
