Исследователи из Калифорнийского университета в Ирвайне говорят, что самый обычный объект или предмет на обочине дороги может привести к непредсказуемому поведению беспилотного автомобиля во время вождения.
По словам автора исследования, профессора Ци Альфреда Чена (Qi Alfred Chen), простая коробка, дорожный конус или велосипед могут «напугать» беспилотный автомобиль и заставить его совершить опасный для других участников дорожного движения маневр. Такие транспортные средства не могут различить предметы, случайно оказавшиеся на дороге, или те, что были оставлены умышленно. И то, и другое может привести к неустойчивому поведению автомобиля.
Исследователи сосредоточились на уязвимостях системы безопасности, характерных для модуля планирования — фрагмента программного кода, управляющего автономными системами вождения. Он отслеживает процессы принятия решений транспортным средством, определяя его дальнейшие действия: когда двигаться, менять полосу движения, снижать скорость и останавливаться. По словам исследователей, модуль разработан с особой тщательностью, чтобы беспилотный автомобиль не вышел из-под контроля, а тестируемое программное обеспечение оказалось слишком консервативным. Это может привести к тому, что автомобиль станет помехой на дороге.
Для тестирования был разработан инструмент под названием PlanFuzz, способный автоматически обнаруживать уязвимости в широко используемых автоматизированных системах вождения. Команда использовала его для оценки трех различных сценариев поведенческого планирования для промышленных автономных систем вождения с открытым исходным кодом Apollo и Autoware. Выяснилось, что из-за картонных коробок и велосипедов, поставленных на обочину, автомобили постоянно останавливались на пустых улицах и перекрестках. В другом испытании автомобили, внезапно «почувствовав» опасность, забыли перестроиться, как планировалось ранее.
Исследователи считают, что чрезмерная осторожность многих автономных систем вождения может негативно сказаться на безопасности дорожного движения.
