Исследование показало, что ИИ-боты дают вводящие в заблуждение медицинские советы в 50% случаев

Основной риск использования чат-ботов заключается в том, что они могут распространять дезинформацию о проблемах со здоровьем.

Согласно новому исследованию, которое подчеркивает риски для здоровья, чат-боты на базе искусственного интеллекта примерно в половине случаев дают пользователям сомнительные медицинские советы. технологиякоторый становится все более неотъемлемой частью повседневной жизни.

Исследователи из США, Канады и Великобритании оценили пять популярных платформ — ChatGPT, Gemini, Meta AI, Grok и DeepSeek — задав каждой из них по 10 вопросов в пяти категориях здоровья. Согласно результатам исследования, из общего числа ответов около 50% были признаны проблемными, в том числе почти 20% — крайне проблематичными. опубликовано на этой неделе в медицинском журнале BMJ Open.

Согласно исследованию, чат-боты относительно лучше справляются с закрытыми вопросами и вопросами, связанными с вакцинами и раком, и хуже с открытыми вопросами и в таких областях, как стволовые клетки и питание.

По словам исследователей, ответы часто давались уверенно и определенно, хотя ни один чат-бот не предоставил полностью полный и точный список ссылок в ответ на любой вопрос. Было всего два отказа ответить на вопрос, оба со стороны Meta AI.

Результаты подчеркивают растущую обеспокоенность по поводу того, как люди используют платформы генеративного искусственного интеллекта, которые не имеют лицензии на предоставление медицинских консультаций и не имеют клинической оценки для постановки диагнозов.

Бурный рост чат-ботов с искусственным интеллектом сделал их популярным инструментом для людей, ищущих советы по поводу своих заболеваний, и OpenAI сообщает, что более 200 миллионов человек каждую неделю задают вопросы о своем здоровье и благополучии в ChatGPT. В январе платформа анонсировала инструменты здравоохранения как для обычных потребителей, так и для медицинских работников, и Anthropic сообщила, что в том же месяце продукт Claude запускает новое предложение в сфере здравоохранения.

Основной риск использования чат-ботов без обучения пользователей и общественного контроля заключается в том, что они могут распространять дезинформацию, говорят авторы исследования в BMJ Open.

Результаты «подчеркивают важные поведенческие ограничения и необходимость переоценки того, как чат-боты с искусственным интеллектом используются в общественном здравоохранении и медицинской коммуникации», пишут они. Эти системы могут генерировать «авторитетные, но потенциально ошибочные ответы», пишут они.