Первое письменное упоминание о церкви на этом месте относится к 1601 году, историки же называют 1530 год, когда здесь появился первый деревянный храм и дал название одному из древнейших московских урочищ. Вражек, или овраг с ручьем, пролегал в этом районе Белого города еще в древности, ручей впадал в Неглинную реку и создавал москвичам немало хлопот, разливаясь во время весеннего паводка.
Первый каменный храм был построен в 1647 году на средства прихожанина храма Григорием Горихвостовым и простоял до середины XIX века.
В нынешнем виде церковь известна с 1860 года, когда по заказу московского купца С.А. Живаго архитектором А.С. Никитиным был построен храм Успения Божией Матери на Успенском вражке. Освятил его митрополит Московский Филарет (Дроздов). В 1900-х годах это был один из красивейших храмов Москвы.
Церковь выделялась своей внутренней отделкой. Вдоль переулка, над южным фасадом возвышался кокошник с барельефами. В таком виде фасад напоминал итальянские храмы эпохи Возрождения. Без сомнения, церковь ориентировалась на новый для тогдашней Москвы храм Христа Спасителя. Фигуры были сделаны из нового для того времени материала – английского портланд-цемента, об этом писал автор работ, скульптор Николай Рамазанов.
В 1910 году торжественно отмечалось 50-летие храма, а в 1924 году его закрыли и отдали под исторический архив. Тогда был утрачен великолепный кокошник, венчавший южный фасад церкви.
Телефонный узел был открыт здесь в 1979 году. В царских вратах было размещено окошко для размена монет, вдоль стен стояли кабинки для переговоров.
В 1998 году здание вернули верующим. В ходе реставрации был восстановлен кокошник и воссоздано внутреннее и наружное убранство церкви.