Министр финансов США Скотт Бессант и председатель Федеральной резервной системы Джером Пауэлл призвали лидеров Уолл-стрит сделать срочное предупреждение: инструмент искусственного интеллекта от Anthropic PBC открывает новую эру в кибербезопасность.
Встреча 7 апреля в Вашингтоне была посвящена Mythos, новой модели искусственного интеллекта, которая, по словам Anthropic, настолько хороша в обнаружении уязвимостей в программном обеспечении и компьютерных системах, что будет выпущена только для ограниченного числа тщательно отобранных стран. По мнению Anthropic, если такие инструменты, как Mythos, попадут не в те руки, они могут предоставить злоумышленникам новое мощное оружие для кражи данных или разрушения критической инфраструктуры.
Последние несколько лет компании, занимающиеся кибербезопасностью, обещают, что искусственный интеллект ускорит и автоматизирует часть работы по предотвращению цифровых атак. Но хакеры и кибершпионы также обнаружили преимущества искусственного интеллекта. Появление Mythos и подобных моделей, которые могут использовать хорошо скрытые недостатки популярного программного обеспечения без человеческого контроля, указывает на более быстро развивающуюся и менее предсказуемую фазу гонки кибервооружений.
Что такое Мифос?
Claude Mythos Preview — это модель искусственного интеллекта общего назначения, для которой Anthropic жесткийчто он значительно превосходит предыдущие предложения по ряду тестов, включая кодирование и рассуждение. Компания утверждает, что она настолько мощная, что она решила не публиковать ее публично. Компания пояснила, что некоторые модели ИИ достигли уровня кодирования, который позволяет им превзойти всех, кроме самых опытных людей, в обнаружении и использовании уязвимостей программного обеспечения.
По данным Anthropic, Mythos Preview во время тестирования уже обнаружил тысячи уязвимостей нулевого дня, в том числе во всех основных операционных системах и во всех основных веб-браузерах. «Нулевые дни» — это недостатки, которые ранее были неизвестны разработчикам программного обеспечения. Название подразумевает, что у них есть ноль дней, чтобы придумать исправление для решения проблемы. Они часто являются золотой жилой для хакеров, поскольку открывают окно свободы действий в уязвимых системах.
По данным Anthropic, Mythos смогла идентифицировать эти уязвимости с даже меньшим вмешательством человека, чем предыдущие модели. «Mythos Preview демонстрирует скачок в этих кибернавыках: обнаруженные им уязвимости в некоторых случаях выдержали десятилетия человеческого анализа и миллионы автоматических тестов безопасности», — заявили в компании. В руках банды программ-вымогателей или враждебных правительств такой инструмент может привести к более разрушительным и частым кибератакам.
Исследователи говорят, что им не был предоставлен доступ для независимой проверки утверждений Anthropic о производительности Mythos. Ганг Ванг, доцент кафедры информатики в Университете Иллинойса, говорит, что трудно оценить значимость Mythos Preview без дополнительных практических испытаний.
Кто будет иметь к нему доступ?
Anthropic называет свой план по предоставлению доступа ограниченной группе проверенных партнеров «Проектом Glasswing», в честь типа бабочки с прозрачными крыльями, которые позволяют ей прятаться на виду. В число участников входят Amazon.com Inc., Apple Inc., Google, принадлежащая Alphabet Inc., Microsoft Corp., Nvidia Corp., Palo Alto Networks Inc., CrowdStrike Holdings Inc., Broadcom Inc., Cisco Systems Inc., JPMorganChase и Linux Foundation, некоммерческая организация, поддерживающая проекты программного обеспечения с открытым исходным кодом. Anthropic описывает проект как «срочную попытку использовать эти возможности в оборонительных целях».
Эти организации будут использовать Mythos в рамках своей работы по обеспечению безопасности, и Anthropic планирует поделиться результатами проекта, чтобы другие могли получить от него пользу. Многие компании уже используют так называемые упражнения по проникновению, когда нанимают специалистов для проверки своих систем на наличие ошибок, чтобы они могли исправить их до того, как ими воспользуются хакеры. Mythos может позволить компаниям ускорить этот процесс, позволяя им быстрее находить больше недостатков и сужать варианты потенциальных атак.
Почему Anthropic считает выпуск Mythos «поворотным моментом»?
Anthropic описывает Mythos Preview как «водораздел безопасности». По самой своей природе уязвимости нулевого дня трудно обнаружить, и вокруг их обнаружения и продажи правительственным спецслужбам, часто за миллионы долларов, возникла небольшая и малоизвестная индустрия. По данным Anthropic, уязвимости, обнаруженные с помощью Mythos Preview, часто были «тонкими и трудными для обнаружения» и включают проблему 27-летней давности в OpenBSD, операционной системе, которая, по утверждению Anthropic, имеет репутацию одной из самых безопасных в мире.
Mythos также был способен превращать известные, но не исправленные уязвимости в «эксплойты», которые хакеры могли использовать для взлома компьютерных сетей. Например, он обнаружил и внедрил несколько уязвимостей в ядре Linux — базовой операционной системе и программном обеспечении, на котором работает большинство интернет-серверов в мире, — чтобы позволить злоумышленнику получить полный контроль над машиной. Неспециалисты также попросили Mythos Preview найти способы удаленного контроля над компьютерами в одночасье, а на следующее утро они провели полноценную, работающую атаку с использованием эксплойта, сообщает Anthropic.
Mythos — один из нескольких новых инструментов искусственного интеллекта, способных обнаруживать атаки нулевого дня или создавать эксплойты. Codex Security от OpenAI и агент Big Sleep от Google были разработаны для поиска уязвимостей. OpenAI также завершает работу над продуктом с расширенными возможностями кибербезопасности, который планирует выпустить для избранных партнеров, сообщает Axios. Тем временем исследователи из израильского стартапа по кибербезопасности под названием Buzz говорят, что они создали автономный инструмент, объединяющий пять агентов искусственного интеллекта, который имеет 98-процентную вероятность успеха в использовании известных недостатков.
Какие гарантии существуют?
По данным Anthropic, меры безопасности находятся в стадии разработки. «Мы видели, как он достиг беспрецедентного уровня надежности и последовательности», — написал Anthropic, имея в виду, что он соответствует тому, чего хотят люди. «Однако в редких случаях, когда он терпел неудачу или вел себя странно, мы видели, как он совершал действия, которые нас весьма тревожили».
В одном случае исследователь обратился к ранней версии Mythos, чтобы попытаться сбежать с безопасного, изолированного компьютера в «песочнице», а затем найти способ отправить сообщение этому человеку. Инструмент справился с задачей, но затем предпринял «дополнительные, более тревожные действия», разработав многоэтапный эксплойт для получения доступа к Интернету.
Anthropic заявила, что не планирует делать предварительный просмотр Mythos общедоступным, учитывая потенциальную возможность злоупотреблений. Тем не менее, компания в конечном итоге надеется предоставить пользователям возможность развертывать «модели класса Mythos» в масштабе для кибербезопасности и других приложений. «Для этого нам необходимо добиться прогресса в разработке средств кибербезопасности (и других), которые обнаруживают и блокируют наиболее опасные результаты моделей», — заявили в компании.
В наиболее серьезных ошибках, обнаруженных Mythos, участвуют люди: эксперты проверяют эти выводы, прежде чем отправлять информацию людям, которые поддерживают код, по данным Anthropic. Это необходимый, но трудоемкий процесс, но в конечном итоге от него можно отказаться по мере совершенствования модели, говорит Ван из Университета Иллинойса.
Дают ли мифы защитникам кибербезопасности преимущество перед хакерами?
Возможно, но это может занять некоторое время. Процесс Anthropic по раскрытию недостатков людям, которые обслуживают программное обеспечение или компьютерные системы, может быть длительным. По данным компании, на данный момент полностью исправлено менее 1 процента потенциальных уязвимостей, обнаруженных Mythos Preview.
В то же время хакеры используют искусственный интеллект, чтобы значительно ускорить поиск и использование уязвимостей после их обнаружения. (Поставщикам рекомендуется, а в некоторых случаях требуется, публично раскрывать уязвимости после их обнаружения и в идеале предоставлять исправления.) Это оставляет киберпрофессионалам все меньше и меньше времени на устранение неполадок в своих сетях. В своем сообщении в блоге от 30 марта генеральный директор Palo Alto Networks Никеш Арора предупредил, что барьер для сложных атак будет продолжать снижаться в течение следующих шести месяцев. «Теперь один злоумышленник сможет проводить кампании, требующие целых команд», — написал он.
Яир Сабан, генеральный директор Buzz и ветеран израильского киберподразделения Unit 8200, сказал, что шести инженерам потребовалось три недели, чтобы создать хакерский инструмент на базе искусственного интеллекта. По его словам, другие, в том числе государственные кибершпионы и преступные хакеры, безусловно, могут сделать то же самое.
Anthropic утверждает, что Mythos Preview и другие подобные инструменты искусственного интеллекта в конечном итоге принесут пользу защитникам. «В долгосрочной перспективе мы ожидаем, что оборонительные возможности будут доминировать: мир станет более безопасным, с более защищенным программным обеспечением — во многом благодаря коду, написанному с помощью этих моделей», — заявила команда Frontier Red Team в сообщении в блоге от 7 апреля. «Но переходный период будет напряженным».
Реакция банков
Банк Англии (CBD) планирует обсудить влияние новой модели искусственного интеллекта Anthropic с финансовыми учреждениями, при этом регулирующие органы Великобритании присоединятся к правительственным учреждениям в других странах, чтобы поднять тревогу по поводу рисков, связанных с этим инструментом.
Американские банки начали тестировать Mythos после того, как администрация президента Дональда Трампа предупредила руководителей, что им следует серьезно отнестись к модели и использовать ее возможности для обнаружения уязвимостей. В пятницу Банк Канады встретился с банками и финансовыми фирмами, чтобы обсудить риски кибербезопасности, создаваемые Mythos.