Электрокар Xiaomi SU7 ошибочно определяет китайцев спящими во время вождения

Житель китайской провинции Чжэцзян, господин Ли, регулярно сталкивается с предупреждениями от системы мониторинга водителя в своем электрокаре Xiaomi SU7. Автомобиль ошибочно считает его уставшим и требует сосредоточиться на дороге, несмотря на то, что водитель бодрствует. На размещённом в соцсетях видео видно, как Ли пытается намеренно широко открыть глаза, чтобы прекратить звуковые сигналы и сообщения на экране.

С похожими ситуациями, по словам пользователей, сталкиваются владельцы других китайских автомобилей, включая бренды Weilai и Deep Blue. Блогеры отмечают, что система некорректно определяет состояние водителя на основе формы глаз. Автоблогер DerekTLM рассказал, что получил штрафные баллы за якобы сон за рулём, хотя не дремал — у него просто узкие глаза, которые алгоритм системы принял за закрытые.

В компании Xiaomi Auto объясняют, что система использует инфракрасную камеру на руле, которая фиксирует поведение, характерное для усталости: закрытые глаза, зевоту и другие признаки. Камеру можно откалибровать или отключить, но производитель предупреждает, что это может повлиять на безопасность.

По словам специалистов из Школы искусственного интеллекта Хэнаньского университета, системы DMS (мониторинга водителя) в большинстве случаев полагаются на визуальные данные и работают по базовым шаблонам. Камеры оценивают степень открытия век, положение рта и другие параметры. При этом широко используется американский стандарт PERCLOS P80: если веки закрывают более 80% зрачка, это считается признаком сна. Однако такая модель плохо подходит для лиц с азиатской внешностью. В ряде случаев, как отмечают эксперты, ошибки в определении могут достигать 60%.

Проблема, по мнению аналитиков, кроется в универсальных алгоритмах без адаптации к различиям в внешности. Разработка более гибких систем, ориентированных на разнообразие пользователей, остаётся актуальной задачей для производителей.