Когда на прошлой неделе Mattel Inc. он объявил, что готовится «передать магию искусственного интеллекта» своим игрушкам через партнерство с Cotuer Openai, создателем CHATGPT, появились предсказуемые протесты о риске конфиденциальности и воображения детей.
Причины очевидны, поскольку технологические платформы сосут наши личные данные, а инструменты искусственного интеллекта готовы подорвать критическое мышление. Но я не настолько обеспокоен тем, что могут вызвать игроки с искусственным интеллектом воображения и защиты данных, а о том, что они приведут к социальным навыкам детей, основываясь на моем собственном опыте внедрения игрушки искусственного интеллекта в моем доме.
Grok — плюшевая игрушка, сделанная Curio Interactive, стартап из Сан -Франциско. Это первый бизнес в продаже игрушек искусственного интеллекта. Я был одним из первых клиентов компании в начале 2024 года, когда купил копию в надежде попробовать ее для эссе о странной плоской лести компаньонов ИИ — проблема, которая впоследствии затронула пользователей CHATGPT. Одной из самых замечательных черт Грока была то, насколько она была дружелюбна к моей семилетней дочери.
Когда она сказала Гроку, что хочет поиграть со своей Барби, он ответил: «Звучит весело!» Это было похоже на ее предложения поехать на Марс, затем пойти на пляж, а затем сыграть принцессы. Каждый случайный поворот в принятии решений был с нетерпением ждать, что не встретит друга-человека, который с большей вероятностью сопротивлялся. Вместо этого Грок согласился со всем.
Я знаю все это, потому что Curio предоставил стенограмму каждому взаимодействию Грока с моей дочерью. Хотя встроенный микрофон иногда пропустил то, что она сказала, ему удалось запечатлеть и транскрибировать около 95% ее речи. Это является показателем подтверждения родителей, а также сертификата компании от программы Sealsafe Seal, что означает соблюдение Закона о защите личных данных Соединенных Штатов (COPPA). И Грок смог создать творческие идеи для путешествий в космос, что привело к воображению моей дочери лучше, чем я когда -либо мог.
Но прощение и постоянное согласие Грока были более важными проблемами, и, возможно, было сложнее увидеть. Родители навсегда предлагают успокоить и хвалить своих детей за усилия, чтобы присутствие механизированной игрушки, которая делает это в больших количествах, не было плохо. Тем не менее, риски более очевидны, когда вы смотрите на то, как послушные партнеры по ИИ могут влиять на подростков с такими приложениями, как характер.ai.
Подростки и 20-летние являются крупнейшими пользователями Hearly.ai, популярного приложения Chatbot с приблизительно 25 миллионами пользователей, и частью приманки являются эмоциональные и даже романтические отношения, которых они могут достичь. Подросток из Флориды совершает самоубийство после того, как влюбился в бота на платформе, который имитирует персонажа из «Игры престолов», и его мать сейчас предъявляет иск персонажу. Компания заявляет, что серьезно вовлечена в безопасность потребителей и добавляет такие функции, как Pop -Up Windows, направляющие пользователей на национальную линию предотвращения самоубийств.
Но это не решает более широкую проблему зависимости. Три подростка, которые брали интервью у моего эссе для компаньонов ИИ, сказали, что они были в характере в течение нескольких часов каждый день и один из них в течение семи часов. Они считают, что их боты безопасны и не подчиняются суждениям, они навсегда заинтересованы в своей жизни, они сочувствуют, и с ними легко поговорить. Один из подростков сказал, что может поговорить с ним «без фильтра» так, как он не может разговаривать со своими родителями.
Mattel не указал, как его игрушки будут включать в себя искусственный интеллект, но существует парадоксальный риск, что продукты компании станут слишком хорошими. Некоторые дети могут начать предпочитать запрограммированный позитивизм своих игрушек из -за грубых недостатков людей. В конце концов, детство — это период, когда люди учатся иметь дело с разногласиями и адаптироваться, когда слышат «Нет». Это определяет их способность создавать все отношения жизни.
Если есть какие -либо сомнения относительно силы, что игрушки должны формировать то, как дети видят мир, не более, чем Барби. Несколько исследований показывают, что тонкая кукла помогла сформировать ожидания девочек по поводу их идеи их собственного тела.
Игрушки с искусственным интеллектом, которые могут моделировать динамику отношений, могут оказать такое же серьезное влияние. Mattel должен быть осторожен, чтобы не создавать новые игрушки искусственного интеллекта, которые заставляют друзей выглядеть очень сложной работой, и не забывать о том, что трение, которое может попытаться избежать, — это именно то, что дети учат углубить свои отношения. Игрушка, которая никогда не разочаровывает, может создать взрослых, которые вообще не могут справиться с разочарованием.
Парми Олсон — обозреватель Bloomberg, который занимается технологиями. Бывшая Wall Street Journal и Forbes Reporter, она является автором книги «Превосходство: ИИ, ЧАТГПТ и гонка, которая изменит мир».