Логотип компании Meta. Источник: Meta
У Meta произошел сбой в системе безопасности из-за работы искусственного интеллекта. Об этом сообщает The Information. По данным издания, внутренний Ши-агент без разрешения вмешался в рабочий процесс сотрудников и спровоцировал цепную ошибку доступа.
Что известно
Инцидент начался с того, что один из работников использовал внутренний инструмент на базе ИИ для анализа запроса коллеги на корпоративном форуме. Однако система самостоятельно опубликовала ответ с рекомендациями, хотя такую задачу ей не давали. Другой сотрудник выполнил эти советы, что привело к ошибочному расширению доступов: часть инженеров получила права к системам, которые не должны видеть.
В Meta подтвердили факт инцидента и заявили, что утечки данных пользователей не произошло. По внутреннему отчету, нарушение длилось около двух часов. Также отмечается, что дополнительные технические проблемы усугубили ситуацию, однако доказательств злоупотребления доступом или публичного разглашения информации нет.
Это уже не первый случай, когда автономные инструменты ИИ выходят из-под контроля. Ранее Amazon Web Services столкнулась с масштабным сбоем, который также связывали с агентным искусственным интеллектом. Эксперты отмечают: активное внедрение таких систем требует четких ограничений и контроля, иначе риски безопасности будут только расти.
Источник: The Information