В этот момент, когда в армии наблюдалось явное возрождение боевого духа, Гучков, вместо того чтобы положить конец игре между генералами и малосведущими в военных делах гражданскими лицами, принял решение выйти из Временного правительства. О своем решении он объявил в письме князю Львову от 1 мая 1917 г., в котором говорилось: «Ввиду тех условий, в которые поставлена правительственная власть в стране, в частности власть военного и морского министра в отношении армии и флота; условий, которые я не в силах изменить и которые грозят роковыми последствиями армии и флоту, и свободе, и самому бытию России, - я по совести не могу далее нести обязанности военного и морского министра и разделять ответственность за тот тяжкий грех, который творится в отношении Родины, и потому прошу Временное правительство освободить меня от этих обязанностей».[The Russian Provisional Government, 1917. Vol. 3. P. 1267.]
Это письмо, опубликованное 2 мая, огульно возлагало вину за происходящее на всех членов Временного правительства, за исключением его автора. Порывая весьма неблаговидным образом с Временным правительством и демократическими элементами в России, чьей поддержкой он широко пользовался, Гучков рассчитывал объединить вокруг себя тех фронтовых офицеров, которые вследствие крушений монархии оказались в весьма затруднительном, а порой и невыносимом положении. Находясь на посту военного министра, Гучков утратил из-за тесной связи с Поливановским комитетом доверие Верховного командования, не завоевав при этом популярности среди солдат и матросов. В результате он оказался в полной изоляции.
Получив письмо Гучкова, князь Львов немедленно созвал заседание правительства, на котором было утверждено официальное заявление относительно отставки Гучкова. Тут же встал вопрос о преемнике Гучкова. Поскольку его отставка была, несомненно, продиктована не только личным несогласием с политикой правительства, но и схожими взглядами многих высших военных чинов, Львов предложил проконсультироваться по этому вопросу с генералом Алексеевым, как Верховным командующим. Предложение было принято единогласно, и князь Львов поручил В. В. Вырубову[Председатель комитета Всерусского союза земств на Западном фронте в Минске.] направить Алексееву письмо с просьбой назвать своего кандидата на пост военного министра.