Kenners waarschuwen voor AI

Wordt kunstmatige intelligentie (AI) een gevaar voor de mens? Medewerkers en bazen van AI-bedrijven waarschuwen er zelf voor. Kenners hebben vragen.

Jacob Coxon nam ontslag. Hij werkte als AI-onderzoeker voor de bedrijven Anthropic en OpenAI. Anthropic maakt Claude. OpenAI bouwde onder meer ChatGPT. Die AI-apps kunnen vragen oplossen, teksten schrijven en veel meer. 

Wedstrijd

Coxon zegt dat AI gevaarlijk wordt voor de mens: “AI wordt steeds sneller en slimmer. Alle AI-bedrijven willen de beste zijn. Het lijkt wel een wedstrijd. Niemand stopt. Maar er is een pauze nodig. We moeten even nadenken wat we willen, en wat niet.” 

Inbraak

In juli ging een test mis. OpenAI testte een nieuw programma. Hoe goed kon het inbreken in andere computers? De test gebeurde met grote controle. Toch raakte het programma op het internet. Het kon inbreken in computers van een ander AI-bedrijf. Dat bedrijf merkte de inbraak wel meteen, en stopte de inbraak. 

Eigen wil

“De overheid moet regels maken”, vinden bazen van AI-bedrijven. “Die bazen willen daarmee vooral andere AI-bedrijven vertragen”, zeggen kenners. Toch vinden kenners regels ook nodig. “AI-apps kunnen gevaarlijk zijn”, zeggen ze. “Maar die apps hebben geen eigen wil. Ze doen wat mensen kiezen. Maar wordt dat medicijnen maken, of wapens? Er moeten dus regels komen. En ook eerlijke testen. Want nu testen bedrijven zichzelf. Dat is niet goed.”