Autonomní dopravní společnost Zoox, kterou vlastní Amazon, oznámila stažení softwaru, které se týká 332 vozidel provozovaných v San Franciscu a Las Vegas. Svolání, podané v úterý Národním úřadem pro bezpečnost silničního provozu (NHTSA), se týká incidentů, kdy vozidla přejížděla středníky poblíž křižovatek nebo blokovala přechody pro chodce.
Problém: Chyby autonomního systému
Zoox identifikoval 62 případů mezi 26. srpnem a 5. prosincem, kdy jeho samořídící robotaxax provedla manévry, které sice nebyly nebezpečné, ale vybočovaly z bezpečnostních standardů společnosti. Ty zahrnovaly ostré zatáčky, které poslaly auta do protijedoucích vozidel, a zastavování na přechodech pro chodce, přičemž se snažili vyhnout zablokovaným křižovatkám na červenou. Přestože s těmito problémy nejsou přímo spojeny žádné havárie, Zoox uznal potenciální riziko dalších kolizí.
Jak Zoox odpověděl
Společnost rychle zareagovala a 7. listopadu a znovu v polovině prosince vydala aktualizace softwaru, aby chyby opravila. Podle Zooxu tyto aktualizace úspěšně řešily základní příčiny incidentů. Recenze je prezentována jako krok k transparentnosti a neustálému zlepšování technologie.
„Podáváme dobrovolné stažení softwaru, protože transparentnost a bezpečnost jsou jádrem Zooxu a chceme být otevřeni veřejnosti a regulačním orgánům ohledně toho, jak neustále zlepšujeme a zlepšujeme naši technologii.“
Opakující se recenze
Nejedná se o první stažení softwaru Zoox v tomto roce. V březnu společnost vydala podobnou aktualizaci v návaznosti na vyšetřování NHTSA ohledně zpráv o náhlém prudkém brzdění vedoucím ke srážkám s motocykly zezadu. Toto poslední stažení upozorňuje na pokračující výzvy při zavádění autonomních systémů v reálných prostředích.
Potřeba častých softwarových záplat je zdůrazněna skutečností, že i pokročilá vozidla řízená umělou inteligencí vyžadují neustálé sledování a úpravy, aby byl zajištěn bezpečný provoz. Společnost v současné době projednává s NHTSA závažnost a základní příčiny těchto incidentů.
Incident slouží jako připomínka toho, že samořídící technologie, navzdory rychlému pokroku, zůstává nedokončenou prací. Testování v reálném světě nevyhnutelně odhalí nepředvídané okrajové případy, které vyžadují neustálou ostražitost a zlepšování od výrobců, jako je Zoox.
