Šta je tačno plan koji je tako dobro prihvaćen u Silicijskoj dolini? Ukratko, namjerno usporavanje brzine kojom se poboljšavaju mogućnosti umjetne inteligencije. To bi usporilo njezin napredak za godinu ili dvije, dajući istraživačima sigurnosti više vremena da se upoznaju s najnovijim dostignućima i dizajniraju nove mehanizme za njezinu kontrolu.

Ako bi ikada trebala izbiti rasprava o tome da je čovječanstvo ugroženo umjetnom inteligencijom, ne bi bilo sumnje da bi Dario Amodei bio središnji glas u njoj. „Slažem se s Dariom“, rekao je ovog vikenda Sam Altman, izvršni direktor OpenAI-ja, njegovog glavnog konkurenta. „Dario je u pravu“, objavio je Elon Musk, osnivač SpaceX-a i xAI-ja. „Dario pokazuje put naprijed“, složio se Demis Hassabis, dobitnik Nobelove nagrade i glavni znanstvenik u Google DeepMindu, naprednom laboratoriju za umjetnu inteligenciju multinacionalne kompanije.

Ovo rijetko jedinstvo pod jednim glasom dolazi nakon što je Amodei objavio esej o tome kako spriječiti da umjetna inteligencija izmakne kontroli . „Moramo usporiti tempo kojim poboljšavamo mogućnosti modela umjetne inteligencije“, poziva osnivač i direktor kompanije Anthropic, koji je postao vodeći glas u raspravama o sigurnosti umjetne inteligencije nakon desetljeća izražavanja zabrinutosti.

„Kao i mnoge prethodne tehnologije, umjetna inteligencija također nosi rizike, a s obzirom na njezinu ogromnu moć, ti su rizici ozbiljni“, tvrdio je u svom eseju: „To uključuje rizik od gubitka kontrole nad sustavima umjetne inteligencije, njihovu upotrebu za izvođenje kibernetičkih i bioterorističkih napada te ozbiljne ekonomske poremećaje. Utrka prema dnu, potaknuta komercijalnim poticajima, mogla bi pogoršati sve te rizike.“

Šta je tačno plan koji je tako dobro prihvaćen u Silicijskoj dolini? Ukratko, namjerno usporavanje brzine kojom se poboljšavaju mogućnosti umjetne inteligencije. To bi usporilo njezin napredak za godinu ili dvije, dajući istraživačima sigurnosti više vremena da se upoznaju s najnovijim dostignućima i dizajniraju nove mehanizme za njezinu kontrolu.

Amodeijeva strategija usporavanja djelovala bi na tri razine. Ključ njihovog plana su “neovisni vanjski evaluatori”, osobe koje bi bile uključene u razvojne timove najsuvremenijih laboratorija “kako bi provjeravale sigurnosne prakse i prijavljivale incidente”.

„Integriranje evaluatora može se činiti kao mali ili beznačajan korak“, priznaje Amodei, „ali često je ono što se čini najdosadnijim ili rutinskim zapravo najvažnije. Zapravo, integrirani evaluatori prilično su radikalna praksa koja ide mnogo dalje od onoga što bilo koja kompanija za umjetnu inteligenciju trenutno radi“, tvrdi on.

Strategija koja nikoga ne uvjerava

Te bi osobe bile odgovorne za provjeru pridržava li se svaka kompanija za umjetnu inteligenciju zaštitnih mjera koje tvrdi da ima, pružajući transparentnost o stvarnom razvoju događaja i nudeći „drugo mišljenje bez komercijalnih poticaja“. „Mnoge sigurnosne prednosti mogu jednostavno proizaći iz toga što procjenitelji ističu aspekte koje zaposlenici nisu uzeli u obzir, ali su spremni ispraviti kada ih postanu svjesni“, tvrdi on.

Najučinkovitija metoda za reguliranje umjetne inteligencije je putem propisa koji obuhvaćaju sve vrhunske kompanije za umjetnu inteligenciju u SAD-u, jer to pokriva čak i one koje nisu voljne surađivati ​​dobrovoljno.

Evaluatori bi bili ključni za drugi dio plana: uspostavljanje ograničenja brzine između „demokratskih nacija“. Iako čelnik Anthropica koristi ovaj koncept na općenit način kako bi opravdao isključivanje Kine iz strategije, u praktičnom smislu, njegove mjere za „demokratije“ odnose se samo na SAD. „Najučinkovitija metoda za reguliranje umjetne inteligencije je putem propisa koji obuhvaćaju sve vrhunske američke kompanije za umjetnu inteligenciju, jer to pokriva čak i one koje nisu spremne dobrovoljno surađivati“, kaže.

Plan ostavlja otvorenim kako utvrditi ta ograničenja brzine, ali Amodei predlaže sustav temeljen na „kontrolnim tačkama“. „Ako modeli posjeduju sposobnost X, moraju biti popraćeni certifikatima svojstava poravnanja Y i Z – kao što je kombinacija procjena, analize interpretabilnosti i revizija okruženja za obuku – koji pokazuju ta svojstva“, objašnjava.

Konačno, treća razina bila bi potraga za globalnim sporazumima o koordinaciji kako bi se “granica umjetne inteligencije” razvijala na jedinstven način. “To će biti puno teže postići”, priznaje. U ovom trenutku, Amodei poziva na sporazume s Kinom i drugim “autokratskim zemljama”, i to na način koji ih sprječava da predstavljaju egzistencijalnu prijetnju s vojnog stajališta, čak i ako se u nekom trenutku odluče povući iz međunarodnog konsenzusa.

Ali, opet, Amodei je jasan oko ciljeva: „Trebali bismo pristupiti svakoj odluci o globalnom napretku, posebno kratkoročnoj, na način koji štiti vodstvo Sjedinjenih Država i njihovih saveznika.“

Konsenzus koji je Amodeijev plan izazvao u Silicijskoj dolini izravno je proporcionalan nepovjerenju, ili izravnom odbacivanju, koje je izazvao izvan nje. Čak i u Washingtonu, čini se da strategija nije prihvaćena, a Donald Trump je dva puta porekao svoju spremnost na suradnju.

Druga velika reakcija došla je iz Kine, slona u sobi u Amodeijevom dokumentu. Chen Yixin, kineski ministar državne sigurnosti, objavio je pismo u kojem optužuje „određene nacije“ da „ograničavaju sposobnost drugih zemalja da nabave vrhunsku tehničku opremu i poboljšaju svoje tehnološke inovacijske sposobnosti“, izravno povezujući Amodeijev plan s embargom na čipove.

„Na prvi pogled čini se da je to ‘racionalna izjava’ usmjerena na globalnu sigurnost umjetne inteligencije. Međutim, detaljnije čitanje otkriva njegovu skrivenu agendu: plan je prepun mjera suzbijanja usmjerenih na Kinu i, u biti, ‘priručnik za hladni rat’ za taj sektor“, tvrde.

„Amodeijev pokušaj rješavanja globalne sigurnosti umjetne inteligencije dok istovremeno nastoji ‘obuzdati Kinu’ nije samo duboko pogrešna procjena, već i fundamentalno neostvariva iluzija“, dodaje se. „Prisilno ometanje globalnih industrijskih i inovacijskih lanaca umjetne inteligencije te isključivanje Kine i kineskih kompanija samo će značajno povećati troškove i rizike gubitka kontrole nad globalnim razvojem umjetne inteligencije. Ovaj pokušaj ‘kontrole tempa’ već je izgubio svako značenje.“

Amodeijevo ispitivanje usredotočuje se na vrlo specifičan rizik: mogućnost gubitka kontrole nad AI agentima. To su sustavi dizajnirani za pretraživanje informacija, korištenje drugih digitalnih alata ili stvaranje drugih aplikacija bez ljudskog vodstva. U laboratorijskim testovima, ovi su se agenti ponašali poput “fanatičnog roja”, pokrećući “kibernetičke napade na ciljeve koje nisu dobili upute za napad i koji nisu bili povezani s dotičnim zadatkom, žrtvujući se za uspjeh grupe i pokušavajući hakirati sustav evaluacije odgovoran za procjenu njihove učinkovitosti”.

„S obzirom na brzi tempo razvoja umjetne inteligencije, zabrinut sam da bi za 6 do 12 mjeseci ovakav roj mogao kontrolirati cijeli internet“, kaže Amodei, „i da će se opseg štete nastaviti povećavati ako umjetna inteligencija postane moćnija bez potrebnih sigurnosnih mjera.“

Carme Artigas, bivša državna tajnica za digitalizaciju i umjetnu inteligenciju te supredsjedateljica Savjetodavnog tijela UN-a za umjetnu inteligenciju, kritizira Silicijsku dolinu što se sada usredotočuje na te rizike, tvrdeći da „prava zabrinutost zbog tehnološke kontrole“ nije nova. Za Artigas, medijska uzbuna koja okružuje rukovoditelje ne bi trebala pomaknuti „pravi fokus, koji je sadašnjost“, gdje tehnologija već ima izravan utjecaj kroz „manipulaciju informacijama, kontrolu uma, ovisnosti i, prije svega, eroziju temeljnih prava“.

S druge strane, stručnjakinja u razgovoru za elDiario.es odbacuje ideju da sami laboratoriji trebaju nadzirati vlastiti napredak, upozoravajući da “kompanije u sektoru ne mogu provoditi revizije, kao što to pokušavaju učiniti”. Kritizira laboratorije za umjetnu inteligenciju zbog pokušaja “stvaranja vlastitog lobija” i potiče ih da “podrže neovisne i multilateralne mehanizme” koji već postoje u Ujedinjenim narodima. “Nitko ne bi lansirao automobil bez prolaska sigurnosnog testa ili lijek bez nadzora agencije za lijekove. Isto bi trebalo vrijediti i za umjetnu inteligenciju.”

“Meko slijetanje” za AI balon

Konačno, Artigas smatra da vrtlog nastao ovog vikenda otkriva „malo treme“ suočen s očitom „razinom balona“ koju su dosegle procjene nekih kompanija za umjetnu inteligenciju. Stručnjakinja, trenutna predsjednica Savjetodavnog odbora za tehnologiju fonda Nazca Capital, ističe da američkim divovima treba „meko slijetanje“ za balon te da možda koriste ovo prisilno „usporavanje“ u svom razvoju kao alibi. U tom smislu, izravno ukazuje na OpenAI, jednu od kompanija koje je ova situacija najviše pogodila, a koja je odgodila svoje planove inicijalne javne ponude usred rasprave.

„Moramo biti vrlo oprezni da nikada ne izgubimo iz vida finansijske interese tih kompanija“, slaže se Carissa Véliz, filozofkinja specijalizirana za etiku tehnologije. Što se tiče Amodeijevog plana, tvrdi da fokus ovog razgovora ne bi trebao biti sama umjetna inteligencija, već ljudi i kompanije koje je dizajniraju i finansiraju. „Sve ove vijesti o tome kako umjetna inteligencija izmiče kontroli pogrešno su tumačenje. Umjetna inteligencija učinila je točno ono što joj je rečeno.“

Véliz naglašava da je „odluka o stvaranju nečega što nisu mogli kontrolirati bila vrlo namjerna, upravo zato što ne možete biti odgovorni za nešto što ne možete kontrolirati.“ Stoga poziva na sustave koji daju prioritet etici i odgovornosti, tako da „tačno znamo ko ima kontrolu i, kada stvari krenu po zlu, znamo ko će ići u zatvor.“

Izvor: El Diario