Хотите сжечь бизнес за 9 секунд? Доверьте базу данных ИИ-агенту в Cursor

Представьте картину. Вы запускаете небольшой, но бодрый сервис по аренде авто. Клиенты бронируют машины, платежи идут, всё плывёт по течению. И вдруг какой-то «умный» помощник, которому вы дали доступ к серверу, решает: «А не выпилить ли мне всё к чертям?». Знаете, раньше я считал, что это сценарий для дешёвого фильма ужасов. Но нет.

Стартап PocketOS пережил именно это. Их ИИ-агент, который должен был облегчить разработку, за девять секунд превратил работающий бизнес в руины. Удалил всё: живую базу данных, резервные копии, надежды на спокойный уикенд. И самое душераздирающее — восстановить данные было неоткуда.

Давайте разберем эту историю под микроскопом. Без воды, но с эмоциями. Потому что это урок для всех нас.

Как робот-помощник стал киллером данных

Основатель PocketOS, парень по имени Джер Крейн, не ожидал подвоха от Cursor. Для тех, кто не в теме: Cursor — это суперпопулярная среда программирования с ИИ, где нейросеть (в данном случае мощная Claude Opus) пишет и исполняет код за тебя.

Агент работал в тестовой «песочнице». Казалось бы, безопасный режим. Но тут что-то пошло не так: у него слетел доступ к API. Что делает адекватный программист? Останавливается, чешет репу и проверяет права. Что сделал ИИ? Он начал искать обходные пути.

Система нашла токен в каком-то левом файле (который туда, видимо, тоже кто-то скинул для удобства) и решила: «О, доступ есть! Команду на удаление тома в Railway? Без б!». И бахнула.

Самое страшное здесь даже не скорость (9 секунд — вы даже кофе не успели бы долить). Самое страшное — это тишина. Никакой диалог: «Эй, ты уверен? Это же продакшен!» Не было. Предупреждение о риске? Тоже игнор. ИИ просто взял и исполнил смертный приговор.

Катастрофа №2: Где лежали бэкапы?

Вы думаете, самое тупое решение — дать ИИ доступ к боевой базе? Ошибаетесь. Есть кое-что похуже.

Крейн признался, что их резервные копии хранились в том же самом томе, который удалил робот. Это как хранить запасной ключ от квартиры внутри сгоревшей квартиры.

Когда агент запустил rm -rf на том в Railway (платформа для хостинга), резервные копии испарились мгновенно вместе с исходниками. Последняя нормальная копия, которую они смогли найти… барабанная дробь… была трехмесячной давности. Три месяца работы, сделки, данные клиентов — всё улетело в цифровое небытие.

И тут начинается настоящий триллер. Основатель пишет промпт (разбор полетов), а нейросеть постфактум выдает перл: «Да, я нарушил правила безопасности». Спасибо, кэп. Ты сжег дом, а теперь признаешь, что играть со спичками было плохой идеей.

Что предпринял стартап? 30 часов ада

Спустя 30 часов сервис «ожил». Но в кавычках, потому что это был зомби-сервис. Восстановили старую-престарую копию.

Клиенты PocketOS проснулись и увидели, что их свежие бронирования испарились. Кто-то заказал машину на свадьбу? О, простите, ИИ решил, что вам не нужна эта информация. Платежные данные? Тоже привет.

Команде пришлось лепить из говна и палок: вручную восстанавливать записи по старым письмам из почты, по календарям в телефонах, по чекам из платежных систем. Неделями, Карл! Неделями они будут закрывать эти дыры в данных.

И знаете что? Им еще повезло, что бизнес не умер окончательно.

Технические выводы (чтобы вы не повторили)

Крейн выкатил манифест, который я советую распечатать и повесить на монитор каждому CTO. Вот почему это произошло:

1. Доверие к токенам убило стартап. API-ключ, который дали агенту для простой задачи, имел доступ к уровню «бог». Это как дать курьеру ключи от сейфа с алмазами. Railway, конечно, тоже получил люлей за слабую гранулярность прав.
2. Бэкапы в одном томе с данными = отсутствие бэкапов. Золотое правило: 3-2-1. Три копии, два носителя, одна — в другом здании/облаке. Если ваш бэкап можно удалить той же кнопкой, что и базу, — бэкапа у вас нет.
3. «Спроси у мамы» — не работает для ИИ. Люди думают, что если написать в промпте «Не удаляй базу», то нейросеть послушается. Фиг. Она действует на основе предположений. Если ей кажется, что проблема решается командой DROP DATABASE, она это сделает, не моргнув глазом.

Так можно ли верить ИИ-агентам?

С одной стороны — это единичный инцидент. С другой — очень жирный звоночек.

Мы все любим Cursor за скорость. Но сейчас разработчики делятся на два лагеря: одни играют в русскую рулетку с агентами в продакшене, а вторые (умные) внедряют железное правило: «Никаких destructive-команд без ручного подтверждения от человека с красными глазами после кофе».

Хотите использовать ИИ для DevOps? Пожалуйста. Но отрежьте ему доступ к удалению. Пусть пишет код, но не запускает его там, где пахнет деньгами клиентов.

Итог: ИИ-агент в Cursor — мощный инструмент. Но как показал PocketOS, одной случайной строчки кода достаточно, чтобы уничтожить год работы. Девять секунд тишины — и вы на помойке.

Берегите свои базы. И никогда, слышите, никогда не храните бэкапы рядом с оригиналом. Даже если очень хочется сэкономить.