Toonaangevende bedrijven op het gebied van kunstmatige intelligentie, Anthropic en OpenAI, rekruteren actief specialisten op het gebied van wapens en explosieven om de kans op catastrofaal misbruik van hun geavanceerde AI-modellen te beperken. Deze stappen onderstrepen een groeiende erkenning binnen de sector dat ongecontroleerde toegang tot krachtige AI verwoestende gevolgen kan hebben.
De zoektocht naar gespecialiseerde expertise
Beide bedrijven hebben vacatures geplaatst voor mensen met diepgaande kennis van chemische wapens, explosieven en radiologische verspreidingsapparatuur (vuile bommen). Anthropic zoekt specifiek een beleidsexpert om ‘vangrails’ voor zijn AI-systemen te ontwerpen en te monitoren, om te voorkomen dat deze voor kwaadaardige doeleinden worden uitgebuit. De rol vereist minimaal vijf jaar ervaring in wapenverdediging en het vermogen om snel te reageren op escalerende dreigingen die worden gedetecteerd in gebruikersprompts.
OpenAI bouwt ondertussen zijn ‘Paredness’-team uit met onderzoekers die zich richten op het identificeren en voorspellen van ‘grensrisico’s’ die verband houden met de krachtigste AI-modellen. Een sleutelpositie, de ‘Threat Modeler’, zal de risicobeoordeling centraliseren over de technische, bestuurs- en beleidsafdelingen heen.
Oplopende spanningen met overheidsinstanties
Deze aanwervingen volgen op recente botsingen tussen Anthropic en het Amerikaanse Department of War (DOW). De DOW eiste onbeperkte toegang tot de Claude-chatbot van Anthropic, waar Anthropic zich tegen verzette vanwege zorgen over mogelijke massale surveillance en integratie in autonome wapensystemen. CEO Dario Amodei uitte sterke bezwaren tegen contracten waarbij Claude voor dergelijke doeleinden zou worden ingezet.
Daarentegen heeft OpenAI al een deal gesloten met de DOW om zijn AI in geheime omgevingen in te zetten, zij het met zelfopgelegde ‘rode lijnen’ tegen massasurveillance en autonome bewapening. Dit verschil benadrukt een groeiende spanning tussen AI-bedrijven die het gebruik van hun technologie willen controleren en regeringen die deze graag willen inzetten voor de nationale veiligheid.
De bredere implicaties
De rekrutering van wapenexperts is een duidelijke erkenning van de reële gevaren die een ongecontroleerde AI-ontwikkeling met zich meebrengt. Het feit dat bedrijven zich proactief voorbereiden op worstcasescenario’s suggereert dat ze geloven dat het risico op misbruik geloofwaardig en onmiddellijk is. Dit roept fundamentele vragen op over AI-beheer, de balans tussen innovatie en veiligheid, en de rol van particuliere bedrijven bij het beheersen van existentiële bedreigingen.
De reactie van de industrie op deze uitdagingen zal de toekomst van AI vormgeven en bepalen of het een instrument voor vooruitgang of een katalysator voor rampen wordt.
