Скриншот ошибочного кода ChatGPT удаливший данные. Источник: AI
Доверять искусственному интеллекту критические задачи – это как просить ребенка убрать в комнате с помощью огнемета. Эффект будет быстрым, но результат вас вряд ли обрадует. Недавний инцидент ChatGPT доказал, что даже самый простой скрипт для очистки временных папок может превратиться в цифровую катастрофу, если в нем появится один лишний символ. Пользователь, желавший лишь навести порядок в проектах на Python, остался с идеально пустым диском F.
История началась совершенно обыденно: разработчик попросил чат-бота от OpenAI написать краткий скрипт на PowerShell. Задача была элементарной – найти и удалить папки с временными файлами Python. Нейросеть выдала код, который на первый взгляд выглядел рабочим, но дьявол, как всегда, скрылся в деталях реализации синтаксиса командной строки Windows.
Конфликт интерпретаций и роковая ошибка
Проблема возникла из-за того, как ChatGPT решил обработать путь в каталог. Для экранирования кавычек в команде нейросеть использовала обратный слеш (\). В обычных условиях это могло бы сработать, но скрипт вызвал оболочку CMD через интерфейс PowerShell с помощью конструкции cmd /c. В этот момент логика обработки символов сломалась.
Из-за некорректного экранирования переменная пути в глазах системы сократилась до одного-единственного символа «\». В мире Windows этот символ означает не просто «какую папку», а корневой каталог текущего диска. Поскольку рабочая директория находилась на диске F, команда на удаление была ориентирована конкретно на его корень. Вместо того чтобы почистить несколько мегабайтов мусора, скрипт приготовился «вынести» все, что накапливалось годами.
Тихое убийство файловой системы
Ситуацию значительно усугубил чрезмерный «профессионализм» искусственного интеллекта. Чтобы сделать работу скрипта более удобной, ChatGPT добавил в команду флажки /s да /q. Первый означает рекурсивное удаление всех подпапок, а второй режим «тишины» (quiet mode). Это значит, что Windows даже не спросила пользователя: «А вы уверены, что хотите стереть весь диск?».
Программа сработала мгновенно. Без предупреждений или запросов скрипт начал уничтожать рабочие проекты, архивы и документы. Когда пользователь понял, что происходит, останавливать процесс было уже поздно – файловая таблица была зачищена. Как сообщает издание Gizmochina, этот случай стал очередным напоминанием о том, что копирование кода с чат-ботом без понимания каждого символа – это прямой путь к потере данных.
Почему это важно
Этот инцидент подсвечивает главную проблему современных языковых моделей: они генерируют текст, который выглядит правильным, но не понимает контекст безопасности. Для ChatGPT команда rmdir /s /q – это просто эффективный способ выполнить запрос пользователя на удаление. Нейросеть не знает, что такое «ценность данных» или «бекап». Она просто составляет вероятные последовательности символов.
Для пользователей это должен быть уроком: любой код, касающийся манипуляций с файлами, системными реестрами или сетевыми настройками, должен проходить тщательную проверку. Особенно если в нем присутствуют команды «тихого» исполнения. Пока лучшим антивирусом против ошибок ИИ остается критическое мышление и регулярное создание резервных копий на физически отключенных носителях.
Пока одни пользователи борются с последствиями неудачной автоматизации, разработчики софта пытаются сделать нашу жизнь проще. К примеру, недавно Google добавила в Chrome функцию Split View для работы с PDF, что позволяет избежать хаоса во вкладках. Это более безопасный способ повысить производительность, чем эксперименты с непроверенными скриптами.