Musk en Harari roepen op voorlopig te stoppen met ontwikkelen ‘levensgevaarlijke’ AI

"AI-systemen met menselijk-competitieve intelligentie kunnen diepgaande risico's vormen voor de samenleving en de mensheid, zoals blijkt uit uitgebreid onderzoek en erkend door top AI-laboratoria," stelt de brief, die naast door Musk en Harari ondertekend is door ruim 1.300 techbazen, waaronder ook mede-oprichter van Apple Steve Wozniak. “AI zou een ingrijpende verandering kunnen betekenen in de geschiedenis van het leven op aarde, en zou met gepaste zorg en middelen moeten worden gepland en beheerd,“ stellen de ondertekenaars.

Musk, Harari en de andere techleiders constateren echter dat dit niet gebeurt. Ze zien dat AI-laboratoria de afgelopen maanden verwikkeld zijn geraakt in een uit de hand gelopen race om steeds krachtiger digitale breinen te ontwikkelen en in te zetten. “Niemand - zelfs de makers niet - kan dit begrijpen, voorspellen of betrouwbaar controleren,” wordt in de open brief gesteld.

“Moeten we machines onze informatiekanalen laten overspoelen met propaganda en onwaarheid? Moeten we alle banen automatiseren? Moeten we niet-menselijke geesten ontwikkelen die ons uiteindelijk zouden kunnen overtreffen, te slim af zijn, overbodig maken en vervangen? Moeten we het risico lopen de controle over onze beschaving te verliezen?”

Dergelijke beslissingen mogen niet worden gedelegeerd aan ongekozen technische leiders, stellen de ondertekenaars. “Krachtige AI-systemen mogen pas worden ontwikkeld als we ervan overtuigd zijn dat hun effecten positief zullen zijn en hun risico's beheersbaar. Dit vertrouwen moet goed onderbouwd zijn en toenemen met de omvang van de potentiële effecten van een systeem.”

Wellicht niet geheel toevallig waarschuwde de Amerikaanse bank Goldman & Sachs woensdag vrijwel tegelijk met het verschijnen van de open brief dat het verwacht dat kunstmatige intelligentie wereldwijd tot 300 miljoen banen zal vernietigen. In een rapport zegt Goldman Sachs dat een groot deel van de banen in de logistiek, productie en administratief werk zal verdwijnen door de opmars van kunstmatige intelligentie. De studie stelt dat AI-systemen routinematige, handmatige en cognitieve taken zullen vervangen in veel beroepen, waaronder het bankwezen, IT-bedrijven en het openbaar bestuur.

Een dag eerder waarschuwde Sam Altman, CEO van de ChatGTP-maker OpenAI, dat hij bang is van zijn eigen creatie. Hij vreest dat de risico's van superintelligente AI 'veel verder gaan dan waar we op voorbereid zijn'.

Goede intenties?

Hoewel de boodschap van de open brief goed bedoeld overkomt, staan sommige ondertekenaars niet bepaald bekend om hun goede intenties als het aankomt op hun toekomstvisie voor AI. Zo heeft Yuval Noah Harari, de rechterhand van Klaus Schwab bij het World Economic Forum (WEF), zich in het verleden laten ontvallen dat hij verwacht dat AI door de elite tegen de massa gebruikt zal worden.

Volgens Harari, het idool van onder andere premier Mark Rutte, Barack Obama en Bill Gates, zal de overgang naar 'digitale dictaturen' een 'groot keerpunt' zijn zodra regeringen 'onderhuidse surveillance' gaan gebruiken. Ook sprak hij eerder over de hackbare mens.

Dat sluit weer aan bij ontwikkelingen van mede-ondertekenaar Elon Musk. Musks bedrijf Neuralink is volgens een bericht van Reuters sinds deze week weer een stap dichter bij menselijke proeven met in de hersenen implanteerbare chips. Neuralink zou in gesprek zijn met het Barrow Neurological Institute, een in Arizona gevestigde organisatie voor behandeling van neurologische ziekten en onderzoek, als potentiële partner. Hoewel Musk aangeeft met implanteerbare hersenchips aandoeningen zoals verlamming en blindheid te willen genezen, kunnen hersenchips ook prima gebruikt worden voor 'onderhuidse surveillance', bij de overgang naar 'digitale dictaturen'.

De mensheid kan genieten van een bloeiende toekomst met AI, besluiten de ondertekenaars de open brief. "Nu we erin geslaagd zijn krachtige AI-systemen te creëren, kunnen we genieten van een 'AI-zomer' waarin we de vruchten plukken, deze systemen zodanig ontwikkelen dat ze iedereen ten goede komen, en de samenleving de kans geven zich aan te passen."