Autonoom voertuigbedrijf Zoox, eigendom van Amazon, heeft een vrijwillige terugroepactie voor software uitgevoerd voor 332 voertuigen die in San Francisco en Las Vegas rijden. De terugroepactie, die dinsdag bij de National Highway Traffic Safety Administration (NHTSA) is ingediend, heeft betrekking op incidenten waarbij de voertuigen de middenrijstrooklijnen overschreden nabij kruispunten of zebrapaden blokkeerden.
Het probleem: autonome systeemfouten
Zoox identificeerde tussen 26 augustus en 5 december 62 gevallen waarin zijn zelfrijdende robotaxis manoeuvres uitvoerde die, hoewel niet gevaarlijk, afweken van de veiligheidsnormen van het bedrijf. Deze omvatten brede bochten waardoor voertuigen naar tegenliggers dreven en stopten op zebrapaden, terwijl ze probeerden kruispunten bij rood licht te blokkeren. Hoewel er geen direct verband is gelegd met deze problemen, erkende Zoox het potentieel voor een verhoogd risico op botsingen.
Hoe Zoox reageerde
Het bedrijf ondernam snel actie en implementeerde op 7 november en opnieuw medio december software-updates om de fouten te corrigeren. Volgens Zoox hebben deze updates met succes de hoofdoorzaken van de incidenten aangepakt. De terugroepactie wordt gepresenteerd als een stap in de richting van transparantie en voortdurende verfijning van de technologie.
“We dienen een vrijwillige terugroeping van software in omdat transparantie en veiligheid van fundamenteel belang zijn voor Zoox, en we willen open zijn tegenover het publiek en de toezichthouders over hoe we onze technologie voortdurend verfijnen en verbeteren.”
Een patroon van terugroepacties
Dit is niet de eerste softwareterugroepactie voor Zoox dit jaar. In maart bracht het bedrijf een soortgelijke update uit naar aanleiding van een NHTSA-onderzoek naar meldingen van plotseling en hard remmen die leidden tot kop-staartbotsingen met motorfietsen. Deze laatste terugroepactie benadrukt de voortdurende uitdagingen van het inzetten van autonome systemen in reële omstandigheden.
De behoefte aan frequente softwarecorrecties onderstreept dat zelfs geavanceerde AI-aangedreven voertuigen continue monitoring en aanpassingen vereisen om een veilige werking te garanderen. Het bedrijf voert momenteel gesprekken met NHTSA om inzicht te krijgen in de ernst en de onderliggende oorzaken van deze voorvallen.
Het incident herinnert ons eraan dat zelfrijdende technologie, ondanks de snelle vooruitgang, nog steeds in ontwikkeling is. Testen in de echte wereld zullen onvermijdelijk onvoorziene randgevallen aan het licht brengen, wat voortdurende waakzaamheid en verfijning van fabrikanten als Zoox vergt.
