Čovjek kojeg mnogi nazivaju kumom vještačke inteligencije dao je otkaz i upozorio “na sve veće opasnosti od razvoja na polju AI-a”. Geoffrey Hinton (75) najavio je ostavku u Googleu u intervjuu za New York Times, rekavši da sada žali zbog svog rada.
Za BBC je rekao da su neke od opasnosti AI chatbota “prilično zastrašujuće”.
“Trenutno nisu inteligentniji od nas, koliko ja vidim. Ali mislim da bi uskoro mogli biti”, rekao je.
Pionirsko istraživanje dr. Hintona o dubokom učenju i neuronskim mrežama otvorilo je put za sadašnje AI sisteme poput ChatGPT-a.
No, britansko-kanadski psiholog i informatičar rekao je za BBC da bi chatbot uskoro mogao prestići nivo informacija koju čuva ljudski mozak.
“Upravo sada vidimo da stvari poput GPT-4 zasjenjuju osobu u količini opšteg znanja koje ima. U smislu rezonovanja, nije tako dobro, ali već jeste u smislu jednostavnih obrazloženja. S obzirom na brzinu napretka, očekujemo da će prilično brzo postati sve bolji. Stoga moramo biti zabrinuti”, rekao je za BBC.
“Pogledajte kako je bilo prije pet godina, a kako je sada. Pogledajte koliki je to iskorak, a dalje ga širite. To je zastrašujuće”, istakao je.
Hinton je rekao da takmičenje između tehnoloških divova tjera kompanije da proizvode nove AI tehnologije opasnim brzinama, ugrožavajući radna mjesta i šireći dezinformacije.
“Teško je vidjeti kako možete spriječiti loše aktere da to iskoriste za loše stvari”, rekao je za Times.
“Scenarij iz noćne more”
U članku u New York Timesu Hinton je spominjao “loše ljude” koji bi pokušali koristiti AI za “loše stvari”. Kada ga je BBC upitao da to pojasni, odgovorio je: “Ovo je samo vrsta najgoreg mogućeg scenarija, vrsta scenarija iz noćne more. Možete zamisliti, na primjer, nekog poput ruskog predsjednika Vladimira Putina koji je odlučio dati robotima mogućnost stvaranja vlastitih pod-ciljeva.”
Naučnik je upozorio da bi to na kraju moglo “stvoriti podciljeve poput ‘Moram dobiti više snage'”. “Došao sam do zaključka da se vrsta inteligencije koju razvijamo jako razlikuje od inteligencije koju imamo. Mi smo biološki sistemi, a ovo su digitalni sistemi. A velika je razlika u tome što s digitalnim sistemima imate mnogo kopija istog modela svijeta”, rekao je.
“I sve te kopije mogu učiti zasebno, ali odmah dijele svoje znanje. Dakle, to je kao da imate 10.000 ljudi i kad god jedna osoba nešto nauči, svi to automatski znaju. I tako ti chatbotovi mogu znati mnogo više od bilo koje osobe”, zaključuje.
Radna mjesta i širenje dezinformacija
Iako se vještačka inteligencija koristi za podršku ljudskim radnicima, brzo širenje chatbota poput ChatGPT-a moglo bi ugroziti radna mjesta. AI “oduzima težak posao”, ali “može oduzeti više od toga”, rekao je za Times. Naučnik je upozorio na potencijalno širenje dezinformacija koje stvara AI, rekavši za Times da prosječna osoba “više neće moći znati što je istina”.
Hinton je takođe rekao da postoji nekoliko drugih razloga zbog kojih je dao otkaz. “Jedan je taj dan imam 75 godina. Dakle, vrijeme je za penziju. Drugi je – zapravo želim reći neke dobre stvari o Googleu. A one su vjerodostojnije ako ne radim za Google”, kaže.
Naglasio je da ne želi kritikovati Google te da je tehnološki div bio “vrlo odgovoran”.
Jeff Dean, vodeći naučnik za Google AI, zahvalio je Hintonu u izjavi američkim medijima. “Kao jedna od prvih kompanija koja je objavila načela vještačke inteligencije, ostajemo predani odgovornom pristupu vještačkoj inteligenciji”, dodaje se u izjavi.
“Neprekidno se učimo suočavati s novim rizicima, dok istovremeno hrabro unapređujemo”, istaknuo je.
Poziv na pauzu u razvoju AI-a
U martu su tehnološki milijarder Elon Musk i niz stručnjaka pozvali na pauzu u razvoju AI sistema kako bi se omogućilo vrijeme u kojemu bi se provjerilo i uvjerilo jesu li sigurni.
Otvoreno pismo, koje je potpisalo više od 1000 ljudi, uključujući Muska i suosnivača Applea Stevea Wozniaka, podstaklo je izdavanje GPT-4, puno moćnije verzije tehnologije koju koristi ChatGPT. Hinton u to vrijeme nije potpisao to pismo, ali je za The New York Times rekao da naučnicu ne bi trebali “povećati ovo dok ne shvate mogu li to kontrolisati”.
Zlo je stiglo !
U filmu Vil Smita Ja robot sve je dobro prikazano a film je snimljen ima i 10g….e to ce nas docekati..
Legendo, Terminator 2 je sninljen ima blizu 40 godina… kakvi Vil Smit i Penelope Kruz…
Jel Al dizel benzinac ili el bice bjezanija jos kad popije
Mozda nebi bilo lose da AI preuzme primat. Mozda bi svijet postao bolje i mirnije mjesto za zivot,,
Da bi svijet postao bolje i mirnije mjesto AI mora da unisti ljude sto nama ljudima bas i ne ide u korist.
Hahahahaha genijalan komentar
Pa civjeka bi onda izbrisali – sa pravom.
Konačno geek shvataju da je njihovo predatorstvo u bogaćenju donijelo konkretan krah svih njihovih genijalnosti.
Ovaj ne može a da i ovdje ne pomene Putina. Putin je gospoče, a opasnost je što vi Ameri imate AI. Rusija nikad nije porobljavala svijet, vi jeste.
Za pocetak da kazemo da smo mi poprilicno okupirani od strane rusa a ne amerikanaca!!! Ali dobro, to tebi nista ne znaci! Sto bi ti koristio mozak!!
Pojma ti nemas kako smo okupirani Rusima,kad Vucic je glavni igrac Amerike i on je glavni za otvoreni balkan a to projekat Amerike,Eskobara i te ekipe.Samo slusate tabloide i nista ne razumijete.Ruski vam je igrac samo sto oko ovogs Kosova izvlaci sto moze,ali to nije ruska teritorije no drzave Srbije,a Srbijaa nema koristi od Rusije ekonomski uopste da bi on… Više »
A moj Mejo. Ti da pričaš o Rusiji. Ispodprosječan si, a i ne raspolažeš sa istorijskim činjenicama. Śedi čista jedinica za kraj godine.
Pa odavno Google pretrazivac zna mnogo vise od bilo koje covjeka.
Naravno. Od tog imamo samo koristi. Samo treba znati koristiti.
Jeste,ali u Facebooko su krenuli dve vjesta inteligencije da komuniciraju izmedju sebe bez kontrole ljudi,na to je i Stiven Hoking obracao paznju,tako da ta vjestacka inteligencija je zlo ako preraste svijest svoju kao robot,i krene da masta kaao covjek,to i Elon Musk uporno govori da treba da se uvede zakon za koriscenje odavno jos