Autonomiczna firma transportowa Zoox, należąca do Amazona, ogłosiła wycofanie oprogramowania dotyczącego 332 pojazdów działających w San Francisco i Las Vegas. Wycofanie pojazdów, złożone we wtorek do Krajowej Administracji Bezpieczeństwa Ruchu Drogowego (NHTSA), dotyczy zdarzeń, w których pojazdy przekraczały media w pobliżu skrzyżowań lub zablokowanych przejść dla pieszych.
Problem: błędy systemu autonomicznego
Firma Zoox zidentyfikowała 62 przypadki między 26 sierpnia a 5 grudnia, w których autonomiczna robotyka wykonywała manewry, które choć nie były niebezpieczne, odbiegały od standardów bezpieczeństwa firmy. Obejmowały one wykonywanie ostrych zakrętów, które powodowały wjeżdżanie samochodów na nadjeżdżające pojazdy oraz zatrzymywanie się na przejściach dla pieszych w celu ominięcia zablokowanych skrzyżowań na czerwonych światłach. Chociaż żadne awarie nie są bezpośrednio powiązane z tymi problemami, firma Zoox przyznała, że istnieje potencjalne ryzyko większej liczby kolizji.
Jak zareagował Zoox
Firma zareagowała szybko, udostępniając aktualizacje oprogramowania 7 listopada i ponownie w połowie grudnia, aby naprawić błędy. Według Zoox aktualizacje te skutecznie usunęły pierwotne przyczyny incydentów. Przegląd prezentowany jest jako krok w kierunku przejrzystości i ciągłego doskonalenia technologii.
„Składamy wniosek o dobrowolne wycofanie oprogramowania, ponieważ przejrzystość i bezpieczeństwo są podstawą Zoox, a chcemy być otwarci na społeczeństwo i organy regulacyjne na temat tego, jak stale ulepszamy naszą technologię”.
Powtarzające się recenzje
To nie pierwsze wycofanie oprogramowania Zoox w tym roku. W marcu firma opublikowała podobną aktualizację po dochodzeniu NHTSA dotyczącym doniesień o nagłym, mocnym hamowaniu prowadzącym do zderzeń tylnych z motocyklami. To ostatnie wycofanie podkreśla ciągłe wyzwania związane z wdrażaniem systemów autonomicznych w środowiskach rzeczywistych.
Konieczność częstych poprawek oprogramowania podkreśla fakt, że nawet zaawansowane pojazdy napędzane sztuczną inteligencją wymagają stałego monitorowania i regulacji, aby zapewnić bezpieczną pracę. Spółka prowadzi obecnie rozmowy z NHTSA na temat powagi i przyczyn tych incydentów.
Incydent przypomina, że technologia autonomicznej jazdy, pomimo szybkiego postępu, wciąż jest w toku. Testy w świecie rzeczywistym nieuchronnie ujawnią nieprzewidziane przypadki brzegowe, wymagające ciągłej czujności i doskonalenia ze strony producentów takich jak Zoox.
