De open brief staat op de website van het Future of Life institute. Het groeiende lijstje ondertekenaars omvat al heel wat vooraanstaande tech-ondernemers en denkers. Daar zitten medewerkers bij van verscheidene grote spelers in de AI, zoals Deepmind (een zusterbedrijf van Google) en Stability AI (ontwikkelaar van de beeldgenerator Stable Diffusion). Voorlopig is nog niemand gesignaleerd van OpenAI, het bedrijf dat enkele weken geleden zijn meest geavanceerde AI-model, GPT-4 lanceerde.

Opvallend is dat de brief heel nadrukkelijk oproept om alleen de ontwikkeling stil te leggen van systemen “krachtiger dan GPT-4”. Koploper OpenAI zou dus de ontwikkeling van een hypothetisch GPT-5 voor zes maanden moeten stilleggen, maar concurrenten zouden ongestoord verder kunnen werken om hun achterstand op OpenAI in te halen. Dat kan de reden zijn dat de topmensen van OpenAI niet maar die van de concurrenten wél bij de ondertekenaars zijn. Ook het ontwikkelen van AI-toepassingen gebaseerd op bestaande AI-modellen zou niet worden gehinderd.

“Ongecontroleerde race”

De brief opent met een waarschuwing voor ‘human-competitive intelligence’ en de risico’s die dergelijke AI die de mens naar de kroon steekt kan hebben voor de samenleving. Zo’n ingrijpende verandering in de geschiedenis van het leven op aarde, zegt de brief, moet met grote zorg gepland worden. Maar in plaats daarvan is een “ongecontroleerde race” aan de gang “die niemand, zelfs niet de makers, kan begrijpen, voorspellen of goed controleren”.

De oproep om de ontwikkeling van systemen die GPT-4 overtreffen voor zes maanden stil te leggen, is geadresseerd aan alle AI labs. Als daar geen akkoord over kan worden bereikt, moeten overheden een moratorium opleggen.

De adempauze van zes maanden moet worden gebruikt om regelgeving en regelgevende autoriteiten op punt te stellen. Een andere geëiste maatregel is een systeem van ingebouwde watermerken, zodat teksten geproduceerd door zo’n AI-systeem als zodanig kunnen worden herkend.