Дал агенту браузер — потерял 200 евро

Автор: Georg Malahov

Вчерашний вечер, 15 апреля, был бы просто идеальный, если бы не один маленький эксперимент, который стоил мне 200 евро.

Началось всё с задачи, которую я давно откладывал. В Audible — сервисе аудиокниг Amazon — у меня накопился 21 кредит: подписку я полтора года не отменял, а кредиты не тратил. Хотел наконец потратить их на книги и подписку закрыть. И подумал: идеальная задача для эксперимента — заодно получить пользу от базы моих голосовых заметок, которую я всё это время копил.

Я дал Claude задачу: проанализировать весь корпус заметок, узнать из него, что я за человек, и собрать список книг на трёх языках. С объяснением, почему выбраны эти, а не другие, и в порядке чтения — чтобы знания из одной ложились на другую. Агент сам ходил по Audible через Chrome: проверял, какие книги у меня уже есть, что доступно и на каких языках. Сделал всё идеально, сложил в таблицу.

И тут я подумал: раз всё так идеально, надо завершить эксперимент чем-нибудь прямо «ух». Сказал: давай теперь потратим мои кредиты и купим эти книги. Он принялся за работу, книги реально стали появляться в библиотеке. Первая ушла за кредит: был 21, стал 20. А дальше книги появляются, а кредиты не убывают. Я решил, что это кэш на стороне Audible, перезагрузил страницу — не помогло. Оказалось: где-то по пути выскочила ошибка, агент ткнул в обычную покупку, увидел, что работает, — и все остальные книги начал покупать за деньги. Около двадцати книг примерно по десять евро. Почти 200 евро.

Самое поучительное — почему я это пропустил. Ошибку я видел, но не придал ей значения: это же обычное поведение агента — упёрся, две-три итерации, и дальше работает. Меня это и подкупило. «Дальше работает» на этот раз означало кнопку «купить за деньги».

Все направо и налево твердят, что давать агенту браузер там, где он может платить, опасно. Я это не то чтобы недооценил — я думал, там всего две кнопки: сказано за кредиты, и раз первую купил за кредиты, то и остальные купит так же. Нет. Правильных действий было два, оба простые. Отвязать карту перед экспериментом — минутное дело. А ещё умнее — вообще не давать ему покупать: сложить книги в список и потом руками прокликать все двадцать, пять минут работы. Вместо экономии времени я получил больше работы: писать в поддержку и объяснять, что произошло. По заказам, впрочем, и так видно, что человек в здравом уме такого не сделает: держать 20 кредитов и покупать 20 книг за деньги, по одной в несколько секунд.

Сегодня в девять утра я позвонил в поддержку Audible — и был приятно удивлён. Ответили быстро, всё нашли и увидели сами, без единого вопроса: деньги вернули, покупки отменили, кредиты на месте. Эксперимент можно повторить, уже за кредиты — и руками.

Деньги вернулись, а урок остался: слепо доверять агенту там, где есть карта и кнопка «купить», пока рано. Звоночек был серьёзный — и дешёвый ровно настолько, насколько хороша поддержка магазина. Перед следующим таким экспериментом карта будет отвязана заранее. А книги я всё-таки докуплю — и подписку наконец отменю, ради чего всё и затевалось.