- Компании Илона Маска участвуют в секретной гонке Пентагона по созданию роев автономных дронов
- Проект направлен на использование голосовых команд для управления несколькими беспилотными системами, имеющими потенциальное боевое применение.
- Инициатива вызывает этическую обеспокоенность по поводу роли генеративного искусственного интеллекта в принятии решений о применении силы.
По словам людей, знакомых с ситуацией, компания SpaceX Илона Маска и ее дочерняя компания xAI участвуют в новом секретном конкурсе Пентагона на разработку технологии автономных групп дронов, которыми можно будет управлять с помощью голосовых команд.
Будущее участие компаний Маска сливаться новый фронт разработки оружия искусственного интеллекта знаменует собой новый и потенциально спорное направление. Хотя SpaceX является признанным оборонным подрядчиком, а Маск поддерживает развитие искусственного интеллекта, он также входит в число тех, кто в прошлом выступал против создания «новых инструментов для убийства людей».
Компании Маска входят в число немногих, выбранных для борьбы за приз в 100 миллионов долларов, о котором было объявлено в январе, по словам людей, знакомых с этим вопросом, пожелавших остаться анонимными из-за деликатности темы. Об участии SpaceX и xAI пока публично не сообщалось.
SpaceX и xAI не ответили на запросы о комментариях.
Цели шестимесячного конкурса
Целью шестимесячного конкурса является разработка передовой технологии роя, которая сможет переводить голосовые команды в цифровые инструкции и управлять несколькими дронами.
Хотя теперь можно управлять несколькими дронами одновременно, разработка программного обеспечения для управления несколькими дронами в море и в воздухе в виде роя, который автономно движется к цели, остается сложной задачей. Конкурс будет проводиться поэтапно, в зависимости от успехов и заинтересованности участников, сообщили источники.
В чем заключается инициатива Пентагона?
Конкурс был организован совместно Отделом оборонных инноваций, который занимается привлечением стартапов, и Командованием специальных операций США через новую Группу оборонных автономных боевых действий, входящую в состав Специальных операций США.
Эта группа является своего рода продолжением инициативы Replicator эпохи президента Байдена, целью которой было производство тысяч одноразовых автономных дронов.
Работа над конкурсом будет развиваться в пять этапов, начиная с разработки программного обеспечения и заканчивая реальными испытаниями. В январе представитель министерства обороны объявил, что дроны будут иметь наступательное применение и что участие человека повлияет на эффективность и удобство использования этих систем.
Найм специалистов и контракты с Пентагоном
Согласно заявлениям компании, недавно xAI начала активно нанимать инженеров с активным секретным уровнем допуска для работы с федеральными подрядчиками. Компания ищет инженеров-программистов, имеющих опыт работы в правительственных учреждениях, Министерстве обороны или федеральных подрядчиках в области искусственного интеллекта, программного обеспечения или данных. Ожидается, что процесс найма завершится в течение недели.
Компания уже подписала контракты с Пентагоном на интеграцию чат-бота Grok в правительственные системы для «повышения военного и гражданского потенциала», сообщила xAI в декабре. Ранее она выиграла контракт на 200 миллионов долларов на интеграцию своих технологий в военные системы.
Хотя SpaceX является давним оборонным подрядчиком, до сих пор компания сосредоточилась в первую очередь на создании многоразовых космических ракет и спутников для исследования космоса, систем военной связи и разведки, а не на программном обеспечении для наступательного оружия. SpaceX вместе с Boeing и Lockheed Martin предоставляет ракеты для запуска самых чувствительных спутников Пентагона.
Этические проблемы и проблемы
Ранее Маск выступал за запрет автономного оружия, которое может самостоятельно выбирать и атаковать цели без значительного контроля со стороны человека. В 2015 году он подписал открытое письмо исследователей искусственного интеллекта и робототехники, предупреждающее об опасности автономного оружия.
Компания xAI, основанная в 2023 году, владеет стартапом Маска в сфере искусственного интеллекта, социальной сетью X и чат-ботом Grok. Компания, которая несколько недель назад согласилась объединиться с SpaceX в рамках сделки на сумму 1,25 триллиона долларов, обременена огромными долгами, находится под давлением со стороны хорошо финансируемых конкурентов и под повышенным контролем со стороны регулирующих органов после распространения сексуальные изображения через вашего чат-бота. Ее доходы остаются скромными по сравнению с доходами SpaceX.
Когда две компании согласились на слияние, в заявлении Маска на веб-сайте SpaceX говорилось, что приобретение xAI направлено на «создание самого амбициозного, вертикально интегрированного инновационного двигателя на Земле и за ее пределами» с искусственным интеллектом, ракетами, интернетом из космоса, прямой связью с мобильными устройствами и информацией в реальном времени, а также платформой для свободы слова.
Маск не упомянул об объединении двух компаний для разработки программного обеспечения искусственного интеллекта для поддержки новых технологий вооружения. Но новое предприятие Пентагона, в которое войдут инженеры и менеджеры из xAI и SpaceX, будет стремиться сделать именно это.
Первый этап конкурса будет сосредоточен только на разработке программного обеспечения, а на более позднем этапе будут использоваться и реальные платформы. Программное обеспечение предназначено для координации движений дронов в различных средах, таких как воздух и море, согласно описанию миссии Пентагона. Более поздние этапы включают развитие «осведомленности и обмена целями» и, наконец, «от запуска до завершения миссии».
xAI — не единственная компания, занимающаяся передовым искусственным интеллектом, работающая над новым проектом Пентагона. OpenAI поддерживает успешную заявку Applied Intuition, сообщает Bloomberg со ссылкой на документы и людей, знакомых с этим вопросом.
Согласно документам, OpenAI ограничит свое участие в проекте элементом «управления полетами», который будет переводить голосовые и другие инструкции боевых командиров в цифровые команды. Технология OpenAI не будет использоваться для управления роем, интеграции оружия или наведения на цель.
Представитель OpenAI сообщил, что открытые технологии компании были включены в заявки от двух разных партнеров и что OpenAI будет следить за тем, чтобы их использование соответствовало политике использования.
По словам людей, знакомых с вопросом, SpaceX и xAI будут работать вместе над всем проектом.
Перспектива интеграции чат-ботов и голосовых команд в оружейные платформы встревожила даже некоторых защитников обороны, несмотря на стремление Пентагона ускорить внедрение искусственного интеллекта и автономных технологий. Они заявили, что важно ограничить генеративный ИИ только переводом команд и не позволять контролировать поведение дронов.
Некоторые участники выразили обеспокоенность по поводу рисков, связанных с использованием генеративного ИИ для преобразования голоса в оперативные решения без контроля человека. Большие языковые модели, лежащие в основе чат-ботов, таких как ChatGPT, подвержены предвзятости и так называемым галлюцинациям. Это означает, что они могут генерировать ответы, не основанные на реальности, но которые ИИ может представить как надежные.
Новая стратегия Пентагона по ускорению развития ИИ, обнародованная в январе, направлена на «высвобождение» агентов ИИ на поле боя: от планирования военных кампаний до определения целей и, возможно, нанесения смертельных ударов.
Контракты на оборонные технологии всегда вызывали споры у компаний, занимающихся потребительскими технологиями. В том числе значительные протесты в Google в 2018 году против проекта Maven, целью которого было использование искусственного интеллекта для анализа кадров, снятых с дронов.