Храм представляет собой сложный комплекс сооружений разных лет постройки. Наиболее старая его часть - собственно церковь Антипы, епископа Пергамского. Время его постройки в разных источниках указано по разному: 1530-е годы, 1596, 1617, 1624. Церковь возникла в слободе конюхов, позже сюда же был переведен из Кремля Колымажный двор (находился на месте нынешнего музея им. А.С. Пушкина). Особенностью храма является наличие двух асимметричных апсид (в одной размещен придельный престол Григория Декаполита). Это единственный двухапсидный храм в Москве.