Чатботы могут галлюцинировать и затопить своих пользователей чрезмерными комплиментами — «Это очень интересный вопрос!» Многие американцы платят около 20 долларов в месяц, чтобы использовать премиальные версии Openai в Google, Gemini Pro или Claude на Anthropic, и в результате продукты предназначены для обеспечения максимальной полезности.
Не ожидайте, что этот статус -кво будет продолжаться. Доход от подписки имеет предел, а новая версия «Макс» в 200 долларов в месяц предполагает, что даже самые популярные модели находятся под давлением, чтобы найти новые источники дохода.
К сожалению, наиболее очевидным является реклама-самая успешная бизнес-модель в Интернете. Создатели моделей с ИИ (искусственный интеллект) уже изучают способы включения большего количества рекламы в свои продукты, и, хотя это хорошо для их прибыли, это означает, что мы собираемся засвидетельствовать новую главу в экономике внимания, которая питает Интернет.
Если мы посмотрим на снижение социальных сетей, которые стали приманкой приверженности, последствия будут глубокими.
Одна цена — зависимость. Согласно недавнему опросу, молодые офисные работники становятся зависимыми от инструментов искусственного интеллекта, которые помогают им писать электронные письма и суммировать длинные документы, а OpenAI утверждает, что группа «проблемных» групп «проблемных» CHATGPT зависит от инструмента. Размещение рекламы в CHATGPT, в которой уже более 500 миллионов активных пользователей не побуждает компанию помочь этим людям сократить использование продукта. Наоборот.
Реклама была причиной причин, по которой такие компании, как Meta Platforms Inc. Mark Tsukerberg, разрабатывают алгоритмы для содействия приверженности, которые заставляют потребителей повернуть экран, чтобы увидеть больше рекламы и приносить больший доход. Это является причиной так называемого «закрепления» Интернета, места, которое теперь полон публикаций Clickbaite и в социальных сетях, которые вызывают возмущение. Включение таких стимулов в искусственный интеллект почти наверняка заставит своих дизайнеров найти способы вызвать больше пиков дофамина, возможно, путем еще большего количества комплиментов потребителям, задавая личные вопросы, чтобы они говорили дольше или даже путем развития эмоциональной привязанности.
Миллионы людей в западном мире уже воспринимают чат -ботов в таких приложениях, как персонаж. Аи, чай, разговор, реплика и развитие как друзья или романтические партнеры. Представьте себе, насколько убедительным может быть такое программное обеспечение, когда его пользователи очарованы. Представьте себе человека, который говорит своему ИИ, что он чувствует себя подавленным, и его система рекомендует некоторое доступное отдых или лекарства для решения проблемы.
Это как работают реклама чат -ботов? Ответ является предметом многих экспериментов, и компании действительно экспериментируют. Например, рекламная сеть Google недавно начала размещать рекламу в третьих сторонних чат -ботах. Chai, роман и дружба чат -бот, который пользователи провели в среднем 72 минуты в день в сентябре 2024 года, показывает Pop -Up. И смущение показывает спонсируемые вопросы. Например, после ответа на вопрос об поиске работы он может включать список предложений для следующего, в том числе, в том числе, «как я могу использовать действительно для улучшения моего спроса на работу?»
Генеральный директор «Оздоровия», Аравинд Шринивас, заявил в подкасте в апреле, что компания планирует пойти еще дальше, создав браузер для «получения данных даже за пределами приложения», чтобы отслеживать », в какие отели вы ходите, в которых вы идете, чтобы разрешить то, что он называет« гиперлизализованными ».
Для некоторых приложений это может означать вставку объявлений непосредственно в разговоры, используя личные данные, используемые пользователями для прогнозирования, и потенциально даже манипулировать своим желанием чего -либо, а затем продавать эти намерения по самой высокой цене. Исследователи из Кембриджского университета назвали это предстоящей «экономикой намерений» в недавней статье, в которой чат -боты направляют разговоры с брендом или даже на прямую продажу. В качестве доказательства они процитировали публикацию в блоге Openai 2023, в которой требуется «данные, которые выражают человеческие намерения» для поддержки обучения их моделей, аналогичной инициативы Meta и разработчика Apple, которая помогает приложениям работать с Siri.
Что касается Сэма Альтмана из Openai, ничто не говорит: «Мы строим рекламный бизнес» более четко, чем наем человека, который создал приложение для снабжения в рекламной машине. Альтман недавно украл генерального директора Фиджи Симо, чтобы помочь Openai «расти, когда мы вступаем в следующую фазу роста». В жаргоне Силиконовой долины «расширение» часто означает быстрое расширение базы пользователей, предлагая бесплатную услугу с рекламой.
Технологические компании неизбежно будут утверждать, что реклама является необходимой частью демократизации ИИ. Но мы видели, как «бесплатные» услуги стоят людям их честность и автономию — даже их психическое здоровье. И ИИ знает о нас больше, чем когда -либо знал Google или Facebook — подробности о наших проблемах со здоровьем, личными отношениями и работой. В течение двух лет они также приобрели репутацию надежных спутников и арбитров истины. Например, в X пользователи часто включают модели искусственного интеллекта Grok и Displexity в свои разговоры, чтобы сигнализировать, если пост является ложным.
Когда люди так сильно уверены в ИИ, они более уязвимы к целенаправленным манипуляциям. Реклама искусственного интеллекта должна регулироваться до того, как она будет слишком хорошо установлена, или мы повторим ошибки, допущенные в социальных сетях, — чтобы посмотреть на последствия прибыльной бизнес -модели только после того, как ущерб уже был причинен.