Автомобиль Tesla Model X с активной системой Full Self-Driving попал в аварию в жилом районе, что показало ограничения полуавтономного вождения и роль водителя.
Бывший руководитель подразделения беспилотных технологий Uber Раффи Крикоян попал в ДТП на Tesla Model X с включённой системой Full Self-Driving. Инцидент произошёл во время поездки по жилым улицам: после поворота автомобиль резко дёрнул рулём и врезался в бетонную стену. Пострадавших не было.
Крикоян отметил, что система работала корректно на протяжении месяцев, что сформировало доверие к технологии. Однако авария показала ограничения полуавтономных систем. Несмотря на активную помощь электроники, ответственность остаётся на водителе.
Эксперт ссылается на концепцию «моральной зоны деформации», предложенную исследователем Мадлен Клэр Элиш. Она описывает ситуацию, когда при сбое сложной системы ответственность ложится на человека, даже если он не управлял процессом напрямую.
Отдельно подчёркивается эффект снижения внимания. При длительном контроле почти безошибочной системы водитель теряет концентрацию. При этом на восстановление реакции человеку требуется несколько секунд, что критично в аварийной ситуации.
Подобные особенности характерны для всех систем с частичной автоматизацией. Технологии берут на себя большую часть задач, но требуют мгновенного вмешательства человека в критический момент. По мнению автора, этот этап развития неизбежен, пока системы не станут полностью автономными.
Ранее motoram.ru сообщал о Tesla Cybertruck, который также сам повернул в ограждение.