Между 3 и 4 часами утра 4 октября Борис Ельцин принял решение о штурме Дома Советов. На ночном заседании в здании Генштаба Министерства обороны был выслушан план штурма, который он одобрил и отдал приказ об использовании танков и бронетехники. Начало операции было назначено на 7 часов утра. Павел Грачев потребовал от Ельцина подтвердить приказ о штурме Дома Советов в письменном виде.
Уже в Кремле, Ельцин подписал письменный приказ о привлечении войск Министерства обороны, подготовленный помощником президента Виктором Илюшиным. Приказ был немедленно направлен фельдъегерской почтой Грачеву.
По указанию П. С. Грачёва, рано утром, в Москву прибыла бронетехника Таманской и Дзержинской дивизии. В процессе перемещения, из-за несогласованности действий, произошли вооружённые стычки между вводимыми войсками и людьми из «Союза ветеранов Афганистана». Были погибшие и раненые, как среди солдат, так и среди случайных прохожих.
В 06:50 возле здания Дома Советов звучат выстрелы. В готовности к штурму стоят военнослужащие Таманской дивизии, Кантемировской дивизии, дивизии внутренних войск им. Дзержинского, Смоленского ОМОН, Тульской дивизии ВДВ. Общей численностью около 1700 человек, при 10 танках и 20 бронетранспортёрах.
Половина всего контингента офицеры или младший начальствующий состав. Танковые экипажи набрали почти целиком из офицеров
Первоначальная схема действий была такая: здание блокируется, его защитникам предъявляется ультиматум покинуть Белый дома. Если ультиматум не будет выполнен, тогда будут применяться танки. По свидетельству командира Таманской дивизии, у экипажей не было снарядов.
В 07:25 на площадь въехали 5 БМП, и начали прицельный огонь по окнам Дома Советов. Защитники Белого дома отвечают автоматным огнём. Затем пошли в наступление десантники и группа «Альфа», перед которыми была поставлена задача, как можно быстрее выдвинуться к Белому дому, и встать у подъездов.
Заместитель командующего ВДВ В. Сорокин пишет:
«Во время выдвижения подразделения в полку погибло пять человек, и 18 были ранены. Все погибшие и раненые были расстреляны сзади. Я сам лично это наблюдал. Стрельба велась со здания американского посольства, с крыши, с колокольни у гостиницы "Мир"».
К командирам попавших под обстрел подразделений подходили сотрудники "наружки" министерств Безопасности и Внутренних дел, которые сообщили, что огонь ведут свои - правительственные снайперы бывшей "девятки" и неизвестные снайперы с крыши посольства США и его жилого городка.
Сотрудники "наружки" подробно рассказали, откуда именно ведут огонь правительственные снайперы (показали дома, соответствующие слуховые и квартирные окна); особо выделили обнаглевших снайперов с крыши посольства США и советовали не подставлять им спину, поскольку, по их словам, "те никому из "наших" не подчиняются".
В 09:20 расположенные на Калининском мосту танки начали обстрел верхних этажей здания Верховного Совета. Всего в обстреле участвовало шесть танков Т-80, выпустивших 12 снарядов. В здании начался пожар.
Свидетельствует генерал Сорокин: «Командир Таманской дивизии тогда не кривил душой, танки, которые с ним пришли, были без боеприпасов. Боеприпасы были подвезены потом. На применение снарядов команду дать мог только Президент, тут сомнений никаких нет».
В 15:00 отрядам специального назначения «Альфа» и «Вымпел» было приказано взять Белый дом штурмом. «Альфа», пообещав защитникам Дома Советов безопасность, сумела к 17:00 уговорить их сдаться.
Спецподразделение «Вымпел», чьё руководство отказалось выполнять приказ о штурме, впоследствии было передано из МБ в состав МВД, что привело к массовому уходу в отставку его бойцов.
Наконец, защитники парламента, в сопровождении бойцов группы «Альфа», начали покидать горящее здание. Они шли, держа руки за головами между двумя рядами солдат, садились в подогнанные со стороны Краснопресненской набережной автобусы.
Одних препровождали в «фильтрационный пункт», размещенный в одном из окрестных подвалов. Других, посадив в автомобили для сопровождения заключенных, перевезли на стадион «Лужники», где оставили под усиленной охраной подразделений ОМОН.
Руководители защиты Белого дома, в том числе Руцкой и Хасбулатов, депутаты, и даже множество лиц, не участвовавших в противостоянии, были арестованы, и, по сведениям правозащитников, подвергнуты избиениям и унижениям.
Перестрелки по всему городу продолжались и после взятия Белого дома. Так в 1:30 5 октября в перестрелке был ранен снайпер Михаил Менчинов. При опросе в момент задержания пояснил, что их группа — 15 человек и взвод десантников располагаются в здании Генштаба ВС. Они получили задание дестабилизировать обстановку в центральной части города, для чего и устроили перестрелку.