- Неавторизованные пользователи получили доступ к модели искусственного интеллекта Mythos от Anthropic посредством сочетания внутреннего доступа и онлайн-расследования.
- Модель описывается как способная обнаруживать и использовать уязвимости в основных операционных системах и браузерах.
- Компания заявляет, что нет никаких доказательств взлома ее систем, но этот случай поднимает вопросы о ее контроле над технологией.
Небольшая группа неавторизованных пользователей получила доступ к новому Мифическая модель искусственного интеллекта Anthropic PBC, который, по словам компании, может позволить осуществлять опасные кибератаки.
Пользователи получили доступ к Mythos с помощью комбинации тактик, в том числе использования доступа, который один из них имел в качестве сотрудника внешнего подрядчика к Anthropic, а также с помощью инструментов онлайн-расследований.
Anthropic расследует сообщение о несанкционированном доступе и заявляет, что в настоящее время нет доказательств того, что этот доступ повлиял на какую-либо из ее систем.
Доступ получен в день анонса
По словам источника, знакомого с ситуацией и документами, рассмотренными Bloomberg News, небольшая группа неавторизованных пользователей получила доступ к новой модели искусственного интеллекта Mythos от Anthropic PBC. Технология, по словам компании, настолько мощная, что может способствовать опасным кибератакам.
Несколько пользователей на частном онлайн-форуме получили доступ к Mythos в тот же день, когда Anthropic впервые объявила о плане сделать модель доступной для тестирования ограниченному числу компаний, сообщил источник, который говорил на условиях анонимности, опасаясь последствий.
С тех пор группа регулярно использует Mythos, хотя и не в целях кибербезопасности, добавил источник, подкрепивший свои утверждения скриншотами и живой демонстрацией.
Модель с потенциалом прорыва во всех системах
Anthropic заявляет, что Mythos способен выявлять и использовать уязвимости в любой основной операционной системе и любом крупном веб-браузере, когда пользователь дает на это указание.
В результате компания прилагает усилия к тому, чтобы технология была доступна только избранной группе поставщиков программного обеспечения в рамках инициативы под названием Project Glasswing, чтобы эти компании могли тестировать и защищать свои собственные системы от потенциальных кибератак.
Небольшая группа неавторизованных пользователей получила доступ к новой модели искусственного интеллекта Mythos от Anthropic PBC, которая, по словам компании, может позволить осуществлять опасные кибератаки.
Ранее не сообщавшийся несанкционированный доступ подчеркивает проблему, с которой сталкивается Anthropic в предотвращении распространения своей самой мощной и потенциально опасной технологии за пределами утвержденных партнеров. Это также вызывает вопросы о том, могут ли другие использовать Mythos без разрешения и с какой целью.
Как был получен доступ
Пользователи использовали комбинацию тактик, чтобы получить доступ к Mythos. Это включало использование доступа, который один из них имел в качестве сотрудника внешнего подрядчика Anthropic, а также использование широко распространенных онлайн-инструментов для расследований, обычно используемых исследователями кибербезопасности.
Пользователи являются участниками частного канала Discord, который фокусируется на поиске информации о невыпущенных моделях, включая использование ботов для поиска незащищенных веб-сайтов, таких как GitHub, в поисках подробностей, опубликованных Anthropic и другими компаниями.
«Мы расследуем сообщение о несанкционированном доступе к Claude Mythos Preview через одну из сред нашего внешнего поставщика», — заявил представитель Anthropic. Компания добавила, что в настоящее время нет никаких доказательств того, что доступ, описанный Bloomberg, выходил за пределы среды стороннего поставщика или затрагивал системы Anthropic.
Глобальный интерес и конкуренция за доступ
На сегодняшний день Anthropic позволил Apple Inc., Amazon.com Inc., Cisco Systems Inc. и десяткам других организаций начать тестирование Mythos. Amazon, ключевой партнер и инвестор Anthropicтакже предлагает Mythos через свою платформу Bedrock ограниченному списку одобренных организаций.
В последние дни все большее число финансовых учреждений и правительственных учреждений по обе стороны Атлантики стремятся быть добавленными в список первых тестировщиков, чтобы защитить свои собственные системы от злоумышленников.
Новый искусственный интеллект Anthropic заставляет банки, технологические гиганты и правительства пытаться выяснить, что может измениться в кибербезопасности и будущем Интернета. Мы показываем, почему модель Mythos вызывает беспокойство.
Роль утечек и законный доступ
Чтобы получить доступ к Mythos, группа сделала обоснованное предположение о местонахождении модели в Интернете, основываясь на знании формата, который Anthropic использует для других моделей, сообщил источник, добавив, что аналогичные детали стали известны в результате недавней утечки данных в Mercor, стартапе по обучению искусственному интеллекту, который работает с рядом ведущих разработчиков.
Важно отметить, что у этого человека также есть разрешение на доступ к моделям и программному обеспечению Anthropic, связанным с оценкой технологий стартапа. Доступ был получен через компанию, для которой данное лицо выполняло контрактную работу по оценке моделей искусственного интеллекта Anthropic. Bloomberg не называет название компании по соображениям безопасности.
По словам источника, группа заинтересована в экспериментировании с новыми моделями, а не в нанесении ущерба. Пользователи не выполняли запросы, связанные с кибербезопасностью, в модели Mythos, вместо этого использовали ее для таких задач, как создание простых веб-сайтов, чтобы избежать обнаружения Anthropic.
Человек указал, что группа также имеет доступ к ряду других моделей антропного ИИ, которые еще не выпущены официально.