Džefri Hinton, poznat kao otac vještačke inteligencije, strahuje da bi tehnologija koju je pomogao da se izgradi mogla da uništi čovječanstvo, a da „tehnološka braća“ koriste pogrešan pristup da to zaustave.
Dobitnik Nobelove nagrade za računarstvo i bivši rukovodilac kompanije „Gugl“, Džefri Hinton ranije je upozoravao da postoji između 10 i 20 odsto šanse da vještačka inteligencija uništi ljude.
Sada kaže da sumnja u to da tehnološke kompanije rade na tome da ljudi ostanu „dominantni“ nad „pokornim“ sistemima vještačke inteligencije.
„To neće funkcionisati. Biće mnogo pametniji od nas. Imaće sve vrste načina da to zaobiđu“, rekao je Hinton na Ai4, industrijskoj konferenciji u Las Vegasu.
U budućnosti, upozorio je Hinton, sistemi vještačke inteligencije mogli bi da kontrolišu ljude jednako lako kao što odrasla osoba može da podmiti trogodišnje dijete slatkišima. Ove godine smo već vidjeli primjere sistema VI spremnih da obmanjuju, varaju i kradu kako bi postigli svoje ciljeve.
Na primjer, da bi izbjegao da bude zamijenjen, jedan model vještačke inteligencije pokušao je da ucijeni inženjera zbog afere za koju je saznao u imejlu.
Umjesto da primorava vještačku inteligenciju da se potčini ljudima, Hinton je predstavio intrigantno rješenje: ugradnju „majčinskog instinkta“ u modele vještačke inteligencije, tako da „oni zaista brinu o ljudima“ čak i kada tehnologija bude postala moćnija i pametnija od ljudi.
Sistemi VI „vrlo brzo će razviti dva podcilja, ako su pametni: jedan je da ostanu živi... drugi podcilj je da dobiju veću kontrolu“, rekao je Hinton.
„Postoji dobar razlog da vjerujemo da će svaka vrsta agentske vještačke inteligencije pokušati da ostane živa.“
Zato je važno negovati osjećaj saosećanja prema ljudima, tvrdi Hinton. Primijetio je da majke imaju i instinkt i društveni pritisak da brinu o svojim bebama i došao na ideju kako da se odbranimo od superinteligentne VI.
„Pravi model je jedini model kod kojeg važi da neko manje inteligentan kontroliše inteligentnijeg, a to je majka kojom kontroliše njena beba“, precizirao je Hinton.
Šta je generativna, a šta agentska vještačka inteligencija
Generativna vještačka inteligencija podrazumijeva modele koji mogu da kreiraju novi sadržaj na osnovu podataka na kojima su prošli obuku. Ovo može uključivati generisanje teksta, slika, muzičkih kompozicija ili kreiranje video-zapisa. Primjeri generativne VI su ChatGPT, Džemini (Gemini), Grok, DALL-e, Midjourney ili Sora.
Agentska (ili agentivna) vještačka inteligencija odnosi se na napredne, autonomne sisteme dizajnirane za donošenje odluka i djelovanje vođeno ciljem.
„Jedini dobar ishod“
Hinton priznaje da ne zna kako se to može tehnički uraditi, ali je naglasio da je ključno da istraživači rade na tome.
„To je jedini dobar ishod. Ako me neće odgajati kao roditelj, zamjeniće me. Te superinteligentne brižne majke opremljene vještačkom inteligencijom, većina njih neće želeti da se riješi majčinskog instinkta jer ne žele da umremo“, objašnjava nobelovac.
Hinton je poznat po svom pionirskom radu na neuronskim mrežama, što je pomoglo da se utre put današnjem bumu vještačke inteligencije. Međutim, 2023. godine povukao se iz „Gugla“ i počeo da govori o opasnostima vještačke inteligencije.
Nisu svi saglasni sa Hintonovim pristupom majke i vještačke inteligencije.
Fej-Fej Li, poznata po pionirskom radu u oblasti razvoja vještačke inteligencije, rekla je za CNN da se, uz dužno poštovanje, ne slaže sa Hintonom.
„Mislim da je to pogrešan način da se to formuliše“, rekla je Li, suosnivačica i izvršna direktorka startapa za prostornu inteligenciju "World Labs".
Umjesto Hintonovog rješenja, Li poziva na razvoj „vještačke inteligencije usmjerene na čovjeka, vještačke inteligencije koja čuva ljudsko dostojanstvo i da ljudi donose odluke“.
Emet Šir, koji je kratko bio privremeni izvršni direktor kompanije "OpenAI", rekao je da ga ne iznenađuje što su neki sistemi vještačke inteligencije pokušali da ucijene ljude ili zaobiđu naredbe o gašenju.
„Ovo se stalno dešava. I neće prestati da se dešava“, rekao je Šir, izvršni direktor startapa za usklađivanje vještačke inteligencije "Softmax". „Vještačke inteligencije danas su relativno slabe, ali postaju jače veoma brzo.“
Šir je naglasio da bi, umjesto pokušaja usađivanja ljudskih vrijednosti u sisteme vještačke inteligencije, pametniji pristup bio stvaranje saradničkih odnosa između ljudi i VI.
Vještačka inteligencija se razvija brže od očekivanog
Mnogi stručnjaci vjeruju da će VI tokom narednih godina dostići superinteligenciju, poznatu i kao opšta vještačka inteligencija (AGI).
Hinton kaže da je ranije mislio da će biti potrebno 30 do 50 godina da stignemo do opšte VI, ali da sada vidi da će taj trenutak doći ranije: „Razumno bi bilo opkladiti se da je to negdje između pet i 20 godina“.
Iako je Hinton i dalje zabrinut zbog toga šta bi moglo poći po zlu sa VI, nada se da će tehnologija otvoriti put u medicinskim naukama: „Videćemo radikalne nove lijekove. Dobićemo mnogo bolje terapije za rak od postojećih“.
Na primjer, VI će pomoći ljekarima da pretražuju i povezuju ogromne količine podataka dobijenih magnetnom rezonancom i kompjuterizovanom tomografijom.
Međutim, Hinton ne vjeruje da će VI pomoći ljudima da dostignu besmrtnost: „Ne vjerujem da ćemo živjeti vječno. Mislim da bi vječni život bila velika greška. Da li želite da svijetom upravljaju 200-godišnji bijeli muškarci?“
Na pitanje da li bi nešto uradio drugačije tokom karijere da je znao koliko brzo će se VI razvijati, Hinton je rekao da žali što se isključivo fokusirao na to da vještačka inteligencija funkcioniše.
„Voleo bih da sam razmišljao i o bezbjednosnim pitanjima“, rekao je Hinton.
Komentari (0)
POŠALJI KOMENTAR