La empresa de vehículos autónomos Zoox, propiedad de Amazon, ha emitido un retiro voluntario de software que afecta a 332 vehículos que operan en San Francisco y Las Vegas. El retiro, presentado ante la Administración Nacional de Seguridad del Tráfico en Carreteras (NHTSA) el martes, aborda incidentes en los que los vehículos cruzaron las líneas del carril central cerca de intersecciones o bloquearon cruces peatonales.
El problema: errores del sistema autónomo
Zoox identificó 62 casos entre el 26 de agosto y el 5 de diciembre en los que sus robotaxis sin conductor realizaron maniobras que, si bien no eran peligrosas, se desviaban de los estándares de seguridad de la empresa. Estos incluyeron giros amplios que provocaron que los vehículos se desviaran hacia los carriles contrarios y se detuvieran en los cruces de peatones mientras intentaban evitar bloquear las intersecciones en los semáforos en rojo. Si bien ningún accidente ha estado directamente relacionado con estos problemas, Zoox reconoció el potencial de un mayor riesgo de colisión.
Cómo respondió Zoox
La compañía tomó medidas rápidas e implementó actualizaciones de software el 7 de noviembre y nuevamente a mediados de diciembre para corregir los errores. Según Zoox, estas actualizaciones abordaron con éxito las causas fundamentales de los incidentes. El retiro del mercado se presenta como un paso hacia la transparencia y el refinamiento continuo de la tecnología.
“Presentamos un retiro voluntario de software porque la transparencia y la seguridad son fundamentales para Zoox, y queremos ser abiertos con el público y los reguladores sobre cómo refinamos y mejoramos constantemente nuestra tecnología”.
Un patrón de retiros
Esta no es la primera retirada de software de Zoox este año. En marzo, la compañía emitió una actualización similar luego de una investigación de la NHTSA sobre informes de frenadas bruscas y repentinas que provocaron colisiones traseras con motocicletas. Este último retiro del mercado destaca los desafíos actuales de implementar sistemas autónomos en condiciones del mundo real.
La necesidad de correcciones frecuentes de software subraya que incluso los vehículos avanzados impulsados por IA requieren monitoreo y ajustes continuos para garantizar un funcionamiento seguro. Actualmente, la compañía está en conversaciones con la NHTSA para comprender la gravedad y las causas subyacentes de estos sucesos.
El incidente sirve como recordatorio de que la tecnología de conducción autónoma, a pesar de los rápidos avances, sigue en desarrollo. Las pruebas en el mundo real inevitablemente descubrirán casos extremos imprevistos, lo que exigirá una vigilancia y un refinamiento continuos por parte de fabricantes como Zoox.
