В начале 1825 года Каховский пришел к Рылееву сказать, что он решился убить царя. «Объяви об этом Думе. Пусть она назначит мне срок».

Рылеев вскочил с софы, на которой лежал.

«Что ты, сумасшедший! Ты верно хочешь погубить Общество!» и он стал доказывать Каховскому пагубность покушения для их политической цели.

Но Каховский стоял на своем: пусть Рылеев насчет Общества не беспокоится, он никого не выдаст и намерение свое непременно исполнит. Тогда Рылеев решился обратиться к его чувству. Ему не раз приходилось помогать Каховскому и он видел, как тот всегда был этим растроган и как любил его.

— Любезный Каховский! Подумай хорошенько о своем намерении. Схватят тебя, — схватят и меня, потому что ты часто у меня бывал. Я Общества не открою, но вспомни, что я — отец семейства. За что ты хочешь погубить мою жену и дочь?

Каховский заплакал и сказал:

— Ну, делать нечего, ты убедил меня!

Рылеев потребовал от него честного слова в том, что он не выполнит своего намерения.

Каховский ему это слово дал, но «стал часто задумываться», а Рылеев охладел к нему. В сентябре 1825 года он снова стал говорить о цареубийстве и настоятельно требовал, чтобы Рылеев представил его членам Думы. Но тот решительно отказал ему, сказал, что он в нём жестоко ошибся и раскаивается, что принял его в Общество. Они расстались очень недовольные друг другом.

После этого некоторое время они не видались. Но когда Каховский захотел уехать из Петербурга, Рылеев его не пустил.