AI-forskare – Ingen av bolagen tar ansvar och att de spelar med människors liv

En forskare på Anthropic har sagt upp sig i protest mot den alltmer kraftfulla utvecklingen som sker på AI-fronten. Jacob Coxon, tidigare anställd på OpenAI, lämnade in sin avskedsansökan i veckan och publicerade därefter ett uttalande på X.

Där skriver han att ”ingen av bolagen tar ansvar och att de spelar med människors liv”. Han får medhåll från sin tidigare kollega och en av Anthropics högst uppsatta säkerhetsforskare, Evan Hubinger, som svarat på uttalandet: ”Jacob har rätt här – vi tror verkligen på fullt allvar, att AI skulle kunna döda alla människor! Personligen tror jag att sannolikheten är över tio procent inom det kommande decenniet.”

Hubinger anser att företaget gör sitt yttersta, men att det ännu inte finns en tydlig framtidsplan på plats. Han bedömer risken som låg med de nuvarande modellerna, men menar att självständiga, superintelligenta modeller i den närmaste framtiden utgör ett större hot.

Coxon och Hubinger är inte de enda som höjt ett varningens finger. Tidigare denna månad uttryckte OpenAI:s forskningschef, Jakob Pachocki, ett behov av fler ingripanden för att säkerställa mänsklig kontroll över AI.

I ett öppet brev signerat av 1300 anställda inom AI-bolag, är det flera stora namn inom branschen som kräver att den amerikanska staten stöttar internationella insatser för att utveckla lösningar för att medvetet hejda automatiserad AI.

Nina, AI-forskare – Ingen av bolagen tar ansvar och att de spelar med människors liv