Na północnej elewacji Ostrej Bramy znajdowała się pierwotnie nisza. W 1671 lub 1672 staraniem o. Karola od Ducha Świętego dobudowano od strony północnej drewnianą kaplicę. Spłonęła ona w 1711, a już w roku następnym odbudowano ją jako murowaną. Nie wiadomo dokładnie, kiedy został umieszczony w niej cudowny wizerunek Matki Boskiej.
W latach 1789-1793 naprzeciw kaplicy, na potrzeby modlących się, wybudowano klasycystyczną galerię.
W latach 1829-1830 dokonano restauracji kaplicy. Kolejne restauracje miały miejsce w latach 1927-1932 oraz w 1993 przed wizytą Jana Pawła II.
Na początku 2010 rozpoczęto kolejny remont kaplicy w Ostrej Bramie, określony wkrótce jako szkodliwy. W trakcie remontu zostały m.in. zdemontowane zabytkowe drzwi, uszkodzono płytki ceramiczne z 1932 poprzez położenie na nich nowej podłogi, zmieniono poręcze, a schody sprzed ponad 100 lat, zastąpiono nowymi z imitacji granitu.
Pod koniec lutego Departament Ochrony Zabytków przy Ministerstwie Kultury Litwy zażądał wstrzymania prac remontowych i powołał specjalną komisję, która ma czuwać nad odbudowaniem zniszczeń, oraz ustalić, kto zezwolił na przeprowadzenie takiego remontu.
Państwowa Komisja Dziedzictwa Kulturowego ze swej strony wystosowała list do ministra kultury Remigijusa Vilkaitisa i metropolity wileńskiego kardynała Audrysa Baczkisa z apelem o objęcie należytą troską obiektów sakralnych.