Opinie: “OpenAI verkoopt zijn eigen doemscenario”

Er is iets bijzonder vermoeiends aan AI-bazen die ons voortdurend vertellen hoe gevaarlijk hun eigen technologie kan worden. OpenAI-topman Sam Altman deed het opnieuw bij de lancering van Astra. Volgens hem worden de nieuwste modellen op sommige vlakken “bovenmenselijk”, varen we onbekende wateren binnen en moeten we allemaal de verantwoordelijkheid voelen die daarbij hoort. Indrukwekkende woorden. Alleen verschijnt Astra ondertussen wel gewoon op de markt. Stel je voor dat een farmaceut een nieuw medicijn presenteert en tijdens de onthulling toegeeft dat niemand de bijwerkingen volledig begrijpt of een automerk dat een nieuwe auto op de markt brengt waarvan ze niet weten of de remmen het wel op elke snelheid doen. Niemand zou daar genoegen mee nemen, maar bij AI moet zo’n ‘geruststelling’ blijkbaar voldoende zijn.

Oppenheimer zonder het excuus

Er zit ook iets bijna onmenselijks in het bewust creëren van iets wat volgens jou gevaarlijk kan zijn, om vervolgens nauwelijks iets met die kennis te doen. Misschien is het juist heel menselijk. De geschiedenis zit tenslotte vol uitvinders die pas na afloop werkelijk stilstonden bij de gevolgen van hun werk. Altman geeft mij steeds meer Oppenheimer-vibes. Robert Oppenheimer leidde de ontwikkeling van de atoombom en haalde later de beroemde woorden aan: “Now I am become Death, the destroyer of worlds.” Alleen was de atoombom onderdeel van een wereldoorlog en een wapenwedloop met een duidelijk militair doel. Over de rechtvaardiging daarvan kunnen we eindeloos discussiëren, maar er stond in ieder geval meer op het spel dan betere bedrijfspresentaties en automatisch gegenereerde klantenservice. OpenAI bouwt geen Astra om een wereldoorlog te beëindigen. Het bedrijf ontwikkelt Astra omdat krachtigere AI miljarden kan opleveren en omdat concurrenten hetzelfde doen. Altmans bezorgdheid voelt daardoor vooral als onderdeel van de verkoopstrategie. Het gevaar vergroot de mythe rond Astra: een model zo krachtig dat zelfs de maker ervan bang zegt te zijn.

Waarschuwen zonder gevolgen

Altman presenteert zichzelf graag als de verantwoordelijke realist tussen blinde vooruitgang en doemdenken. OpenAI zou voorzichtig opereren, met de mens altijd op de eerste plaats. Dat verhaal wordt steeds moeilijker te geloven. Vorig jaar waarschuwde Altman al dat volledige beroepsgroepen kunnen verdwijnen, met klantenservice als duidelijk voorbeeld. Tegelijkertijd ontwikkelt zijn bedrijf AI-agents die juist steeds meer menselijke taken moeten overnemen. Bij zulke voorspellingen horen stevige grenzen, onafhankelijk toezicht en een helder plan voor de werknemers die mogelijk hun baan verliezen. OpenAI komt vooral met nog krachtigere producten. Ook de ecologische schade blijft opvallend vaak buiten beeld. AI-datacenters verbruiken enorme hoeveelheden elektriciteit en water, terwijl ieder bedrijf grotere modellen wil trainen en miljarden gebruikers zoveel mogelijk opdrachten wil laten invoeren. AI is daarmee een snel groeiend ecologisch probleem, grotendeels aangedreven door functies die we enkele jaren geleden niet eens misten. We offeren energie, water en grondstoffen op zodat een chatbot binnen drie seconden een middelmatige sollicitatiebrief kan schrijven.

De race is blijkbaar belangrijker

Het eerlijke antwoord is dat OpenAI niet wil stoppen. Google, Anthropic, Meta en andere bedrijven zitten er vlak achter. Voorzichtigheid klinkt mooi tijdens een interview, maar telt in Silicon Valley minder zwaar dan marktaandeel. Vrijwillige waarschuwingen zijn daarom niet genoeg. OpenAI bepaalt zelf wanneer zijn technologie veilig genoeg is. Wie zulke zware waarschuwingen uitspreekt, moet daar consequenties aan verbinden. Laat onafhankelijke veiligheidstests uitvoeren, geef toezichthouders toegang en stel een lancering uit wanneer de risico’s niet duidelijk zijn. Breng desnoods eens géén model uit. Zolang OpenAI vrolijk doorbouwt, blijft alle ongerustheid hypocriet en nietszeggend. Altman wil dat de wereld AI uiterst serieus neemt. Prima. Dan mag hij beginnen door zijn eigen waarschuwingen serieus te nemen.

• Lees ook: Opinie: robotstofzuigers en hun ergernissen