Evan Hubinger, onderzoeker bij het AI-bedrijf Anthropic, stelt dat de kans dat kunstmatige intelligentie de mensheid binnen tien jaar uitroeit groter is dan 10 procent. In berichten op het sociale netwerk X legt hij uit dat zijn zorg niet primair uitgaat naar de huidige generatie modellen, maar naar een toekomstige, zelfverbeterende superintelligentie.
Wat Hubinger precies zegt
Hubinger benadrukt dat de huidige AI-systemen vooral leren van door mensen aangeleverde data en relatief passief opereren. De spanningsboog ligt volgens hem bij systemen die via recursive self-improvement — herhaalde zelfverbetering — zelfstandig nieuwe vaardigheden en verbeteringen aanleren, mogelijk sneller dan verwacht.
„We geloven oprecht dat AI alle mensen kan doden”, schreef Hubinger op X.
Hij voegt daaraan toe dat hij persoonlijk inschat dat de kans daarop in het komende decennium boven de tien procent ligt. Hubinger nuanceert dat hij niet verwacht dat de huidige modellen de mensheid direct op de korrel zullen nemen: zijn zorg betreft vooral toekomstige generaties AI die grotendeels zelflerend zijn.
Context binnen het veld
Hubinger werkt bij Anthropic en is binnen dat bedrijf verantwoordelijk voor AI-alignment: het inbouwen van morele en ethische principes in kunstmatige systemen. Zijn waarschuwing volgt op kritiek van een voormalige medewerker van OpenAI, die stelde dat geen van beide bedrijven zich verantwoordelijk genoeg gedraagt.
De waarschuwing van Hubinger staat niet op zichzelf. Ook onderzoekers bij andere organisaties uiten zorgen; zo pleitte Jakub Pachocki van OpenAI recent voor "extreme voorzichtigheid" bij het ontwikkelen van AI, met het argument dat mensen de controle over de toekomst moeten behouden.
Drie kernpunten om te overwegen
- Snelheid van ontwikkeling: Hubinger vreest dat zelfverbeterende systemen zich sneller kunnen ontwikkelen dan huidige inschattingen.
- Verschil tussen generaties AI: Huidige modellen zijn grotendeels data-afhankelijk; volgende generaties kunnen grotendeels zelflerend zijn.
- Verantwoordelijkheid en toezicht: Het debat tussen bedrijven als Anthropic en OpenAI toont onduidelijkheid over wie verantwoordelijkheid draagt voor veilige ontwikkeling.
Wat betekent dit voor beleid en publiek debat?
De uitspraak van Hubinger legt een aantal urgente vragen bloot voor beleidsmakers, onderzoekers en het publiek. Als een vooraanstaand specialist een niet-verwaarloosbaar risico inschat, dan kan dat vragen oproepen over:
- het tempo en de voorwaarden waaronder nieuwe AI-systemen worden ontwikkeld;
- de noodzaak van strengere veiligheidsnormen en internationale afspraken;
- transparantie van bedrijven over hun onderzoek en mogelijke risico's.
Dat bedrijven als Anthropic en OpenAI op het snijvlak van innovatie en risico zitten, maakt de kwestie complex: technologische vooruitgang levert maatschappelijke baten op, maar brengt ook veiligheidsvragen met zich mee die zwaarwegende gevolgen kunnen hebben.
Feiten in één oogopslag
| Feit | Uit de bron |
|---|---|
| Onderzoeker | Evan Hubinger (Anthropic) |
| Waarschuwing | Kans >10% dat AI mensen kan doden binnen 10 jaar |
| Belangrijkste zorg | Recursive self-improvement (herhaalde zelfverbetering) |
| Andere stemmen | Jakub Pachocki (OpenAI) pleit voor extreme voorzichtigheid |
De waarschuwing van Hubinger zal ongetwijfeld nieuwe discussies aanwakkeren over internationale regels, toezicht en de ethische kaders rond AI-onderzoek. Voor nu blijft het zaak dat beleidsmakers, onderzoekers en het brede publiek de feiten en mogelijke scenario's kritisch blijven volgen en vertalen naar concrete maatregelen waar nodig.
Melati Kartono, Lifestyleredacteur
