15 июля генерал-адъютант Козлов, согласно усиленной его просьбе, был уволен от должности московского генерал-губернатора и на его место назначен генерал от инфантерии П. П. Дурново, но так как в то время место градоначальника было еще вакантно, то А. А. Козлов счел своею обязанностью остаться еще при исполнении дел до приезда или генерал-губернатора, или нового градоначальника, каковым вскоре после назначения П. П. Дурново был назначен генерал-майор барон Медем. Накануне приезда сего последнего, а именно 26 июля, А. А. Козлов, простившись со всеми членами генерал-губернаторского управления, отправился тем же порядком, как и пришел, со своей кухаркой, пешком на свою старую квартиру в номера Троицкой в конце Тверского бульвара и вскоре, не заезжая в Петербург, получив бессрочный заграничный отпуск, 2 августа выехал за границу, откуда и по сие время не возвращался. При моих поездках за границу я встречался там с А. А. Козловым, который на мой вопрос, не тяжело ли ему жить все время за границей, ответил, что в России ему было бы еще тяжелее, так как он не в силах был бы видеть весь тот хаос, среди которого жила Россия последние годы, и быть свидетелем, как она постепенно катится под гору. Ему слишком было бы это тяжело, и он предпочитает остаток дней проводить вдали от этого кошмара.