Искусственный интеллект развивается темпами, опережающими возможности предприятий и учреждений эффективно им управлять. Внедрение ИИ зачастую происходит без достаточной безопасности, четких правил и понимания рисков, что создает условия для потери контроля над процессами и решениями. Технология больше не является просто инструментом, она постепенно становится частью когнитивного процесса людей, что поднимает новые вопросы об ответственности и управлении. Это прокомментировал Ясен Танев, председатель Болгарской ассоциации разработки программного обеспечения для бизнесав шоу «Бизнес Старт» на Bloomberg TV Болгария с ведущим Розелина Петкова.
Разработка новые модели ИИв том числе ориентированных на кибербезопасность, демонстрирует усиление конкуренции между технологическими компаниями и ускорение инноваций. По мнению Танева, эти процессы приводят к фундаментальным изменениям не только в технологиях, но и в образе мышления и жизни.
«Ничто не происходит само собой — оно всегда тянет за собой следующего в игре и это приводит к окончательному ускорению, которое в свою очередь меняет доктрины, образ жизни и образ мышления», — сказал Танев.
Контроль отстает от развития ИИ
Несмотря на достижения в области технологий, контроль над ними остается ограниченным, а возможности людей управлять ими отстают. Этот создает рискисравнимо с вождением мощной машины без необходимых систем безопасности.
«Сейчас существуют огромные, сверхмощные модели, и контроль над ними низок, и люди не могут ими хорошо управлять. Мир меняется каждый день, и мы должны изменить свой образ осознания и мышления, мы также должны начать измерять реальность. Это то, что мы должны поставить во главу угла — для чего нужен ИИ и как мы его используем», — подчеркнул гость.
Растущие киберриски и «теневой ИИ»
Интеграция Использование искусственного интеллекта в инструментах кибербезопасности и разработки облегчает как защиту, так и потенциальные атаки. Отсутствие опыта и контроля при массовом использовании ИИ приводит к серьезным уязвимостям в бизнесе и управлении.
«Более 30% бизнеса и государства сейчас работают с искусственным интеллектом, который в тени определяет их поведение и решения», — сказал Танев.
ИИ уже является частью человеческого мышления
Танев отметил, что искусственный интеллект больше не может рассматриваться как внешний инструмент, а интегрирован в процесс принятия решений. Это поднимает вопрос о зависимости от технологий и потере автономности.
«Мы прошли этап искусственного интеллекта как инструмента. ИИ теперь является частью когнитивного процесса принятия решений человеком, а это значит, что мы больше не принимаем автономное решение», — заявил гость.
Отсутствие четких правил
По мнению эксперта, на предприятии наблюдается серьезный управленческий дефицит. внедрение ИИгде отсутствуют четкие правила, контроль и распределение обязанностей. Это приводит к ситуации, когда технологии используются массово, но без стратегической основы.
«Нам необходимо начать откровенный разговор о месте искусственного интеллекта в организациях и о месте человека в управлении решениями, принимаемыми технологиями, потому что мы не можем продолжать говорить, что виноват ИИ, а ведь искусственный интеллект — продукт человека. Нам нужно осознать, что время использования искусственного интеллекта как инструмента прошло», — подчеркнул Танев.
Полный комментарий см. видео.
Вы можете посмотреть всех гостей шоу «Бизнес Старт» здесь.