Zarówno cudowny obraz Matki Bożej Ostrobramskiej, jak i kaplica, w której się mieści, oraz sama Ostra Brama mają bogatą historię, ściśle wiążącą się z historią rozbudowy Wilna. Na przełomie XV–XVI w. powstało dziewięć bram miejskich, z których jedna (jedyna zachowana do naszych czasów) nosiła nazwę Miednickiej, inaczej Krewskiej. Nieco później przyjęła się inna nazwa bramy – Ostra (od nazwy części południowego przedmieścia, które nazywało się Ostry Koniec). Zgodnie z tradycją na bramach obronnych zawieszano święte obrazy. W 1626 r. założyli w tym miejscu swój klasztor ojcowie karmelici, a w samej bramie zbudowali niewielką kaplicę, w której umieścili obraz Matki Bożej – Matki Miłosierdzia. 12 kwietnia 1671 r. odbyło się uroczyste poświęcenie obrazu przez biskupa wileńskiego w obecności najwyższych dostojników świeckich Wielkiego Księstwa Litewskiego, profesorów i studentów Akademii Wileńskiej, magistratu miasta i wilnian.†

Warto dodać, że Ostra Brama po obu jej stronach również miała inne obrazy, które po pewnym czasie uległy zniszczeniu. Kult Matki Miłosierdzia z Ostrej Bramy jest ogromny i niezrównany w swej sile. Sięga drugiej połowy XVII w., wiążąc się z obroną murów miasta. Jednakże wyraźne jego wzmożenie nastąpiło w I połowie XVIII w. Szczególny rozwój czci do Matki Miłosierdzia nastąpił po rozbiorach Polski. Ulica prowadząca przez Ostrą Bramę była ruchliwą arterią miasta. Umieszczenie tam obrazu czyniło ze zwykłej ulicy miejsce modlitwy. To tu modlili się Adam Mickiewicz, Juliusz Słowacki, Józef Ignacy Kraszewski, a Ostra Brama była przez wieki – obok Jasnej Góry – sanktuarium maryjnym słynącym licznymi łaskami. W 1993 roku modlił się w kaplicy w Ostrej Bramie Jan Paweł II. Ofiarował wtedy Matce Bożej Miłosierdzia „Papieską Złotą Różę”.
    Około 1671 r. wizerunek Matki Miłosiernej został zasłonięty srebrną pozłoconą sukienką. Srebrzysty półksiężyc z wygrawerowanym napisem „Dzięki Tobie składam ,Matko Boska, za wysłuchanie próśb moich i proszę Cię, Matko Miłosierdzia, zachowaj mnie w łasce”, znajdujący się w dolnej części obrazu, jest wotum z 1849 r. Głowę Matki Bożej zdobią dwie korony: jedna barokowa dla Królowej Niebios, druga rokokowa dla Królowej Polski. Ostra Brama wiąże się również w istotny sposób z kultem Miłosierdzia Bożego. Obraz Miłosierdzia Bożego został namalowany w Wilnie i wystawiony publicznie właśnie w Ostrej Bramie (26–28 kwietnia 1935 r.). Tu też św. Faustyna miała wizję triumfu obrazu Miłosierdzia Bożego. Wizja ta spełniła się. Ustami tysięcy pielgrzymów z całego świata można by powiedzieć: „ Schylam głowę, Cię, Królową świata całego, oglądając i o błogosławieństwo prosząc”.