- Новая модель Mythos представляется более опасной для слабозащищенных систем, делая малые и средние компании более уязвимыми, чем банки.
- Искусственный интеллект агента значительно сокращает время между обнаружением ошибки в программном обеспечении и фактической атакой — до менее четырех часов.
- Дело Mythos ставит под вопрос, работает ли нынешняя модель «ответственного раскрытия информации» и медленного внедрения исправлений.
Мифыновая модель искусственного интеллекта, которую Anthropic PBC назвала слишком опасной для публичного обнародования, на первый взгляд выглядела проблемой для банков.
Всего через несколько дней после того, как компания объявила о новой технологии, министр финансов США Скотт Бессант позвонил лидерам Уолл-стрит, чтобы убедиться, что они принимают меры по защите своих систем, что принесло неоценимую рекламу Anthropic и подняло вопросы о том, кто получит эксклюзивный ранний доступ к ее грозному технологическому детищу.
Мифы сначала выглядели как проблема для банков
Теперь Казначейство настаивает на доступе к Mythos. Одной из организаций, которая уже это сделала, является Британский институт безопасности искусственного интеллекта, который стал ведущим в мире нейтральным арбитром в вопросах того, что считается безопасным и надежным ИИ.
Институт обнаружил, что некоторая шумиха вокруг Mythos была оправдана. Эта модель действительно более пригодна для использования для сложных кибератак, чем другие инструменты искусственного интеллекта, такие как ChatGPT OpenAI или Gemini от Google. Но наиболее опасно это для «слабозащищенных» или упрощенных систем.
Крупные банки обладают одними из самых безопасных ИТ-систем в мире, и хотя Mythos и другие мощные ИИ представляют угрозу в чужих руках, именно гораздо более широкий круг малых и средних компаний оказывается наиболее уязвимым для хакеров и злоумышленников, использующих эти инструменты.
Генеративный ИИ сокращает время между уязвимостью и атакой до часов
Эксперты по кибербезопасности уже давно жалуются, что компании рассматривают безопасность как второстепенную, в результате чего онлайн-сервисы и программное обеспечение пронизаны ошибками, которые позволяют хакерам проникнуть в компьютерную систему.
У технологических компаний есть подход к решению этой проблемы, который называется «ответственное раскрытие информации». Как только в их программном обеспечении обнаруживается ошибка, они публикуют ее вместе с предлагаемым исправлением, давая своим клиентам время применить исправление и двигаться дальше. Версия корпорации Microsoft. для этого и предназначен Patch Tuesday, который, несмотря на свое название, означает ежемесячное раскрытие недостатков, обнаруженных компанией в Office 365, Windows и других продуктах.
ИТ-команды в таких банках, как Barclays Plc и Wells Fargo & Co., берут предложенные исправления, тестируют их, чтобы убедиться, что они не сломают ни одну из существующих систем, получают одобрение руководства, а затем внедряют их. Это занимает недели или месяцы.
До появления генеративного искусственного интеллекта этот процесс работал достаточно хорошо, поскольку злоумышленникам обычно требовалось еще больше времени, чтобы найти способ атаковать систему на основе уже обнаруженной уязвимости. Им пришлось изучить ошибку, а также поэкспериментировать с разными способами ее использования.
Инструменты искусственного интеллекта изменили все это. Всего два года назад хакеры могли взять детали раскрытия, поместить их в ChatGPT, а затем приказать боту сканировать базу данных общедоступного кода, такую как GitHub, на предмет других шаблонов, которые затем можно было бы использовать.
Предположим, например, что Microsoft объявила, что ее исследователи обнаружили уязвимость в способе обработки файлов в Office 365. Чат-бот может не только подсказать, как его использовать, но и быстро обнаружить другое программное обеспечение, такое как Microsoft Outlook или Teams, которое имеет аналогичные недостатки.
За последние несколько месяцев все это стало еще проще для хакеров, поскольку компании, занимающиеся искусственным интеллектом, наделили свои модели «агентскими» способностями, фактически давая им возможность действовать самостоятельно. Claude Cowork от Anthropic, выпущенный в январе, теперь может выполнять такие задачи, как отправка электронных писем и планирование встреч в календаре. Для тех, кто хочет взломать программное обеспечение, такие инструменты не только найдут слабые места, но и попробуют разные способы автоматической атаки на них, пока один из них не сработает.
Реальный риск – для небольших компаний, а не для Уолл-стрит.
Mythos может даже «связать» одну программную ошибку в многоэтапные атаки, что до сих пор могли делать только высококвалифицированные хакеры. Это эквивалентно тому, как грабитель планирует ряд действий для ограбления: находит первое открытое окно, использует его, чтобы отпереть дверь изнутри, а затем выключает сигнализацию. Каждого шага по отдельности недостаточно, но вместе они обеспечивают полный доступ.
До сих пор влияние генеративного искусственного интеллекта на кибербезопасность было неясным и неясным. Не существовало ни одного инструмента, который мог бы запустить новые разрушительные атаки, но большие языковые шаблоны по-прежнему использовались для усиления старых хакерских приемов. Хакеры использовали чат-ботов, чтобы сгладить фишинговые электронные письма и сделать их более убедительными, или генераторы аватаров в реальном времени для создания дипфейковых видеочатов, которые заставляют людей поверить в то, что мужчина в его гостиной — молодая женщина.
Но агентный ИИ вот-вот приведет в действие сам хакерский акт, который долгое время был оппортунистическим занятием для недобросовестных людей. Так называемые «черные шляпы» обычно не нападают на банки, поскольку они очень хорошо защищены.
Вместо этого они сканируют сеть на наличие уязвимостей – будь то больница, в которую они могут проникнуть и потребовать выкуп, или небольшой семейный магазин. Недавние достижения в области искусственного интеллекта представляют собой проблему для этих организаций, поскольку к тому времени, когда поставщик программного обеспечения обнаруживает слабость, у них остается крайне мало времени для обновления и исправления своих систем.
По данным сайта Zerodayclock.com, среднее время между публичным раскрытием уязвимости программного обеспечения и созданием работающей атаки сократилось с 771 дня в 2018 году до менее четырех часов сегодня.
Представление Anthropic Mythos, безусловно, помогает ее рекламным усилиям перед IPO, добавляя больше загадочности к мощи своей технологии. Но это также приводит к столь необходимому осознанию того, что временной интервал между публикацией уязвимостей ИТ и их реальной эксплуатацией исчез. Это поднимает вопросы о том, является ли «ответственное раскрытие информации» вообще хорошей идеей, и не является ли процесс исправления слабых мест в течение недель и месяцев бессмысленным.
Даже Уолл-стрит пока не может ответить на эти вопросы, но у банков, по крайней мере, есть персонал и деньги, чтобы найти сложные структурные изменения, необходимые для проведения корректировок практически в реальном времени. Более серьезная проблема будет для небольших фирм, которым необходимо действовать так же быстро и которым потребуется техническая и нормативная помощь, которую рынок пока не может предоставить.
Парми Олсон — технологический обозреватель Bloomberg. Бывший репортер Wall Street Journal и Forbes, она является автором книги «Совершенство: искусственный интеллект, ChatGPT и гонка за изменение мира».