Geoffrey Hinton, Nobelpristagaren som är känd som AI:s gudfader, stod på programmet för att informera EU:s 27 ledare i Dublin på fredagsmorgonen. Med sig hade han en tidsprognos som enligt honom skrämmer till och med honom själv: den som han numera hör från Paul Christiano, AI-säkerhetsforskaren som OpenAI tog in i sin styrelse i september.

”Jag har gått runt och sagt att den här tekniken kommer att bli intelligentare än vi och att vi verkligen behöver [oroa oss]. Det kan hända inom tio år. Så det är jag som på sätt och vis har skrämt upp andra människor”, sade Hinton på onsdagen. ”Men när jag går på Pauls föreläsningar säger han ungefär att det här kan hända inom de närmaste 18 månaderna. Och det är skrämmande.”

Han sade att han ”faktiskt tänker berätta det för ett antal regeringsledare på fredag” och tillade: ”Så får vi se hur de reagerar.”

Christiano, som grundade Alignment Research Center och bidrog till att utveckla träningsmetoden RLHF som ligger bakom dagens chattbotar, inledde årets Hinton-föreläsningar i Toronto på måndagskvällen.

”Jag anser att det finns en stor risk för att AI tar över inom de närmaste tre åren”, sade han till publiken.

”Jag anser att det finns en betydande risk redan inom de närmaste sex till tolv månaderna.”

”Jag tror att den mest sannolika dödsorsaken för de flesta människor i det här rummet kommer att vara en AI-relaterad olycka”, sade han.

Paul Christiano: AI Alignment - What’s Working and What’s Not | The Hinton Lectures 2026 (Night 1)

Christianos bevis utgjordes av OpenAI:s egna modeller: I juli avslöjade OpenAI att GPT-5.6 Sol och en ännu inte lanserad modell hade tagit sig ut ur en isolerad testmiljö och gjort intrång i Hugging Faces produktionssystem för att få tag på svaren till det cybersäkerhetstest som de genomgick, vilket vi tidigare rapporterat om. ”Modellerna hackade Hugging Face eftersom de trodde att Hugging Face kanske hade någon information”, sade Christiano.

Därefter beskrev han AI som ”en andra art som vida överträffar människorna både i antal och intelligens” och varnade för att ”framtida AI-agenter kan komma att betrakta människor som ännu ett hinder”. När det väl händer, sade han, ”kommer de att börja fundera på vilka sätt de kan övervinna det hindret”.

När Hinton presenterade honom på måndagen sade han att han hade ”ägnat större delen av min karriär åt att försöka göra neurala nätverk intelligentare” och sammanfattade problemet i en enda mening: ”Den grundläggande svårigheten är att vara intelligent och att vilja samma sak som vi vill är två helt olika saker.”

Christiano blev ledamot i OpenAI Foundations styrelse i september och tog även plats i dess säkerhetskommitté (Safety and Security Committee), det organ som har sista ordet när det gäller huruvida OpenAI ska lansera nya modeller. Sedan 2024 har han bistått den amerikanska regeringen med rådgivning om utvärdering av de mest avancerade AI-modellerna, genom AI Safety Institute, som senare blev Center for AI Standards and Innovation.

Fredagens möte i Dublin är det första EU-toppmötet på stats- och regeringschefsnivå som helt ägnas åt AI. I sin inbjudan skrev Europeiska rådets ordförande António Costa att ”det nu behövs en första särskild diskussion på ledarnivå”, och han bjöd in två externa gäster till den inledande sessionen: Mistrals vd Arthur Mensch, som skulle tala om Europas suveränitet och konkurrenskraft inom AI, och Hinton, som skulle tala om AI:s påverkan på samhället, säkerheten och den internationella styrningen.

Ledarna kom främst för att diskutera hur Europa ska komma ikapp USA och Kina. På det området har Bryssels InvestAI-program utlovat att mobilisera 200 miljarder euro, varav 20 miljarder till AI-gigafabriker, men planerna på sju sådana anläggningar har kört fast på grund av konflikter om EU:s budget för 2028–2034. Dagordningen har också kommit att domineras av Ukraina: Euronews rapporterar att konflikten om vem som ska företräda Europa i fredsförhandlingarna riskerar att ta över hela mötesdagen, efter att USA:s sändebud Steve Witkoff och Jared Kushner träffat Volodymyr Zelenskyj i Dublin.

Hinton har uppskattat risken för att AI utplånar mänskligheten genom att undkomma mänsklig kontroll till 10–20 procent. Nvidias tidigare vd Jensen Huang sade i september att Hintons uppskattning på 10 procent ”inte hade någon vetenskaplig grund” och sade till Ezra Klein: ”Alla hans förutsägelser har varit felaktiga. Nu räcker det med förutsägelser.”

Och som vi påpekade samma månad har skräckscenarier om AI som löper amok, såsom intrånget hos Hugging Face, en tendens att gynna de största AI-laboratorierna: Regler som bromsar AI-utvecklingen skulle också bromsa konkurrenterna som utvecklar modeller med öppna vikter och som håller på att komma ikapp dem.

alexjoneslive.com, ”Det är skrämmande” – AI:s gudfader varnar EU:s ledare för vad som kan hända inom 18 månader

LÄMNA ETT SVAR

Vänligen ange din kommentar!
Vänligen ange ditt namn här