Un automóvil Tesla Model X con el sistema Full Self-Driving activo se vio involucrado en un accidente en una zona residencial, lo que demostró las limitaciones de la conducción semiautónoma y el papel del conductor.
El ex jefe de la división de tecnología de vehículos autónomos de Uber, Raffi Krikorian, se vio involucrado en un accidente en un Tesla Model X con el sistema Full Self-Driving activado. El incidente ocurrió mientras conducía por calles residenciales: después de un giro, el automóvil giró bruscamente el volante y chocó contra una pared de hormigón. No hubo heridos.
Krikorian señaló que el sistema había funcionado correctamente durante meses, lo que generó confianza en la tecnología. Sin embargo, el accidente mostró las limitaciones de los sistemas semiautónomos. A pesar de la ayuda activa de la electrónica, la responsabilidad recae en el conductor.
El experto se refiere al concepto de la "zona moral de deformación", propuesto por la investigadora Madeleine Clare Elish. Describe la situación en la que, cuando falla un sistema complejo, la responsabilidad recae en la persona, incluso si no controlaba el proceso directamente.
Se destaca especialmente el efecto de la disminución de la atención. Con el control prolongado de un sistema casi impecable, el conductor pierde la concentración. Al mismo tiempo, una persona necesita varios segundos para recuperar la reacción, lo cual es crítico en una situación de emergencia.
Tales características son típicas de todos los sistemas con automatización parcial. Las tecnologías asumen la mayor parte de las tareas, pero requieren la intervención instantánea de una persona en un momento crítico. En opinión del autor, esta etapa de desarrollo es inevitable hasta que los sistemas sean completamente autónomos.
Anteriormente, motoram.ru informó sobre un Tesla Cybertruck que también giró solo hacia una valla.