Автономные транспортные средства оказались огромной проблемой

Системы искусственного интеллекта, используемые автономными автомобилями, имеют серьезный разрыв в безопасности. Последнее исследование Британские ученые раскрывают тревожные различия в эффективности обнаружения пешеходов. Особенно проблематично, что они «видят» самых молодых пользователей дорожного движения.

Исследователи из Лондонского Королевского колледжа проанализировали восемь систем обнаружения пешеходов, используемых в исследованиях автономного вождения. Более 8000 тестовых фотографий прошли через программное обеспечение, результаты беспокоятся. Оказывается, что они почти на 20% более эффективны при обнаружении взрослыхчем для детей и более чем на 7,5% лучше в выявлении людей со светлой кожей, чем люди с темной кожей.

Проблема усугубляется в условиях низкого света. Ночные или вечерние алгоритмы испытывают еще большую трудность в поиске темнокожих людей, Что делает технологию особенно опасной, когда видимость уже ограничена. По словам доктора Джира Джана, соавтора исследования, справедливость в контексте искусственного интеллекта означает равное отношение ко всем социальным группам.

«Производители автомобилей не раскрывают подробности о программном обеспечении, используемом для обнаружения пешеходов, но, как обычно основаны на тех же системах с открытым исходным кодом, которые мы протестировали, Мы можем быть почти уверены, что они сталкиваются с одинаковыми проблемами«, Объясняет ученый.

Алгоритмы преподаются предоставленными данными, и они содержат непропорциональные фотографии взрослых с кожей света. Система обучена несбалансированному набору данных, Это неизбежно воспроизводит эти различия в реальной работе.