Enligt Eric Schmidt, tidigare VD för Google, kan AI snart utgöra ett existentiellt hot mot mänskligheten och kan behöva ”kopplas ur” för gott.
”Vi kommer snart att kunna ha datorer som kör sig själva och bestämmer vad de vill göra,” sade Schmidt, som länge har varnat för AI:s faror, under en intervju i ABC:s program “This Week” på söndagen.
”Det är en farlig punkt: När systemet kan förbättra sig självt, måste vi seriöst överväga att koppla bort det,” fortsatte han.
Schmidt och andra framstående teknikprofiler och företagsledare är inte särskilt oroade över konsumentinriktade AI-system som ChatGPT, som har förbättrats exponentiellt de senaste åren, utan snarare över mer avancerad ”artificiell generell intelligens” (AGI). AGI skulle potentiellt kunna utveckla verklig självmedvetenhet och medvetna motiv som skiljer sig från människornas intentioner.
Schmidt påpekade att det i dagsläget inte finns några AGI-system, men att vi snabbt rör oss mot en ny mellannivå: system som saknar AGI:s självmedvetenhet men ändå kan agera självständigt, exempelvis inom forskning eller vapenkontroll.
”Jag har arbetat med detta i 50 år. Jag har aldrig sett innovation i denna skala,” sade Schmidt.
Han tillade att mer utvecklad AI skulle kunna ge stora fördelar för mänskligheten men också innebära lika många ”dåliga saker, som vapen och cyberattacker.”
Schmidt menar att problemets komplexitet och allvar kräver omfattande samarbete mellan företag och nationer. Samtidigt finns det starka incitament att hoppa över säkerhetsprotokoll för att få ett försprång över konkurrenterna.
”Tävlingsnivån är så intensiv att det finns en oro för att ett av företagen ska besluta att hoppa över [säkerhets]åtgärder och sedan släppa något som verkligen orsakar skada,” sade Schmidt. Skadorna kanske inte blir uppenbara förrän det redan är för sent.
I värsta fall skulle AGI-system kunna användas för att konstruera förödande biologiska och nukleära vapen, inklusive av terrorgrupper som ISIS. Schmidt betonade att det är avgörande att USA fortsätter att innovera inom området och behåller dominansen över Kina och andra motståndare.
Donald Trump har uttryckt sin önskan att göra USA till världens ledande aktör inom AI, samtidigt som han erkänt de utmaningar som teknologin kan medföra.
”Det medför svårigheter, men vi måste ligga i framkant,” sade Trump i Logan Pauls podcast.
”Det kommer att hända, och om det kommer att hända, måste vi leda över Kina. Kina är det största hotet.”
infowars.com, Självständig AI kan behöva kopplas ur innan det är för sent, säger tidigare Google-VD
