Umjetna inteligencija ima potencijal da porobi čovječanstvo. Veštačka inteligencija će nas porobiti, znaju igrači

Malo o dvostrukim standardima: kada Sergej Stillavin zahtijeva od naučnika da zaustave lansiranje Velikog hadronskog sudarača jer je čuo da postoji opasnost od crne rupe, svi mu se smiju. Kada Stephen Hawking upozori da bi umjetna inteligencija mogla porobiti čovječanstvo, svi se naprežu. Rezultat je, međutim, isti u oba slučaja - LHC je pokrenut, neuronske mreže se razvijaju u trci sa kvantnim kompjuterima. Možete mi zamjeriti što nije sasvim ispravno porediti praznovjerni užas prosječnog radio voditelja s opreznim upozorenjem svjetskog naučnika - ali u oba slučaja ovo je barem razlog da razmislite o tome kakav napredak ima za nas.

Može se razumjeti zašto Hawkingovo upozorenje nije imalo značajan utjecaj na one koji su zainteresirani za razvoj AI. Nije stvar samo u uobičajenoj inerciji procesa – kada se postavljaju ciljevi, sastavljaju planovi i dodjeljuju budžeti, potrebno je više od glasa zabrinute javnosti da se zaustavi ubrzani voz. Istraživači i programeri imaju zdrav razum i svo ljudsko iskustvo na njihovoj strani: predviđanja alarmista se nikada nisu obistinila, a strahovi Ludita su ih učinili predmetom podsmijeha u istorijskoj perspektivi. Evropski gradovi nisu bili prekriveni konjskim gnojem, dim parne lokomotive nije ubio useve niti otrovao konje, radnici migranti nisu uništili nijednu ekonomiju, 7 milijardi ljudi nije umrlo od gladi, čak se nije ni valjalo u blatu i sve- u ratu za resurse, nuklearno oružje nije dovelo do apokalipse, 2000. godina nije uništila kompjuterske sisteme, a LHC nije doveo do stvaranja crne rupe.

I dalje nas plaše: GMO će zaraziti sve rakom, kvalitetna medicina će dovesti do degeneracije čovječanstva, istopolni brakovi će također dovesti do degeneracije čovječanstva, a umjetna inteligencija će porobiti sve koji prežive GMO, visoko- kvalitetne medicine i istospolnih brakova. Međutim, slika koju su oslikali uzbunjivači je toliko sumorna da ne isključujem da će AI, s obzirom na takve početne podatke, jednostavno odbiti da nas porobi - kažu, pa, vi općenito. To je ako su alarmanti u pravu. A uzbunjivači uvijek griješe.

Ljudi možda ne razumiju u potpunosti kako se točno odvijaju određeni procesi, čak i ako su direktno uključeni u njih, ali razumiju zakone: avioni lete ne mašući krilima, ali napredak čini živote ljudi boljim. I što se napredak brže ubrzava, brže raste i kvalitet života.

Uglavnom zato što uvijek vide jednu stranu stvari, potcjenjujući činjenicu da svaki pokret dovodi do posljedica ne samo direktno, već i iz suprotnog, hladeći žar onih koji vole ekstrapolaciju.

Recimo, manje-više je očigledno da se mlada nakon udaje na neko vrijeme smiri - ako imate jednog muža, eliminiše se potreba za novim. Barem u istom trenutku. Sistem se izbalansirao. Manje očigledna, ali ipak široko prihvaćena činjenica je da povećanje životnog standarda ne vodi do beskonačne reprodukcije. Porast rasta stanovništva uočen je u relativno kratkom istorijskom periodu - 2-3 decenije, život jedne generacije, nakon čega su povećani životni vijek i pad mortaliteta uravnoteženi padom nataliteta. Jednostavno rečeno, kada se procjenjuju posljedice nekog događaja, mora se postaviti ne samo pitanje „šta će se desiti kada“, već i „šta se kada neće dogoditi“. Kao i ta mlada, ljudi shvataju da im ne treba mnogo dece ako su uvereni da će ono koje već imaju preživeti.

Kada se procjenjuju posljedice nekog događaja, mora se postaviti ne samo pitanje „šta će se dogoditi kada“, već i „šta se kada neće dogoditi“.

Svojstvo svakog sistema je želja za ravnotežom. Bez toga, sistem ne može biti sistem. Bez obzira kakva iznenađenja donosi napredak, na jednom ili drugom nivou, ravnoteža i harmonija se uvijek uspostavljaju - na nivou pojedinca, društva, civilizacije ili čovječanstva u cjelini. Međutim, za svaki sistem postoji izazov koji se može ugasiti samo na višem nivou. Recimo da se vjeruje da je globalno zagrijavanje proces koji ne može uravnotežiti samo čovječanstvo, pa smo suočeni s balansiranjem na planetarnom nivou – recimo, topljenjem arktičkog leda i poplavom industrijskih područja i megagradova, koji su obično nalazi se u nižim obalnim područjima - kao zgodno, zar ne? - umnogome će ublažiti žar i sposobnost čovječanstva da zagrijemo našu loptu u budućnosti. Bam, i ravnoteža je ponovo uspostavljena.

Mnogi smatraju da klimatski ciklusi uglavnom ne zavise od ljudske aktivnosti, a problem emisija će biti riješen na civilizacijskom nivou, bez intervencije planetarnih sila. Da li je to tačno ili ne, sporno je, ali mislim da je princip jasan. Napredak, teoretski, može dovesti do izazova koji se ne mogu balansirati na civilizacijskom nivou, čuvajući kretanje čovječanstva na bolje. Bolje je ne buditi Majku Zemlju ako ne želimo da dijelimo sudbinu dinosaurusa. Inače, isti taj Hawking smatra da je globalna katastrofa koju je izazvao čovjek neizbježna u sljedećih hiljadu ili deset hiljada godina – pa moramo brzo urediti životni prostor van naše matične planete. Ko bi se svađao, svi smo za to. Ali ovo je još uvijek relativno daleka perspektiva.

Vraćajući se na temu članka, da bismo shvatili da li nam prijeti opasnost da budemo porobljeni umjetnom inteligencijom, moramo razumjeti da li je AI jedan od izazova koji će civilizacija uravnotežiti ili će se balansirati nauštrb civilizacija?

Prilika za jahanje oko singulariteta na krivom jarcu

U redu, naravno, nijedna fokus grupa vam to neće reći. Kako 2006. ne bi rekla da joj treba iPhone:

Zaista je teško stvoriti proizvod zasnovan na fokus grupama. Ljudi najčešće ne razumiju šta im je zaista potrebno dok im to ne pokažete.
- Steve Jobs, BusinessWeek (25. maj 1998.)

Ali pristup znanju je od male vrijednosti bez mogućnosti korištenja. Čak i prije bilo kakvih kompjutera, matematičari su učeni da je važno ne pamtiti formule - sve se nalaze u priručniku - već da ih mogu primijeniti. Sada je najveće znanje o čovječanstvu dostupno najvećem broju čovječanstva u načinu samo za čitanje - oni ne mogu ništa s njim, čak ni najjednostavniju kategorizaciju i analizu - bez posebnog znanja.

Pronalazak načina komunikacije sa mašinama bez upotrebe koda - ili barem ručnog unosa - mogao bi biti proboj na nivou stvaranja Interneta kao takvog. Čovječanstvo će dobiti ne samo neograničen pristup znanju, već pristup najširim mogućnostima za rad s tim znanjem i stvaranje novih znanja. Ono što se danas naziva velikim podacima i hrani ograničen broj visoko plaćenih stručnjaka trebalo bi i postaće dostupno svima – baš kao što je masovno obrazovanje nekada iskorijenilo profesiju pisara.

Eksplozivni rast intelektualne moći čovečanstva će postati neizbežan. Postoji još jedan popularan vic - o tome da je svako groblje prepuno nepriznatih genija. Mislim da ovo nije šala. Mnoge briljantne ideje, talentovane knjige i korisni izumi nikada nisu ugledali svjetlo dana samo zato što im nije svatko u stanju posvetiti život ili ih ponekad jednostavno nije u stanju pravilno formulirati. Motivacioni članci i knjige puni su primjera ljudi koji su izgubili ruke i naučili pisati, kodirati i svirati muziku nogama. Ili se sjetimo ponovo istog Hawkinga.

Ali mnogi ljudi nisu u stanju, čak ni s obje ruke, iskoristiti svoj puni potencijal. I ne treba ih kriviti za ovo - oči, ruke, glas - sve su to interfejsi. Snažan, udoban, ali nesavršen. U jednom ili drugom stepenu, oni ograničavaju kreativne sposobnosti ljudskog mozga. Mnogo je primjera kako su ove mogućnosti zapravo mnogo šire nego što se čini. Većina njih je vezana upravo za tehnološki napredak.

Jedna od alarmističkih horor priča povezanih s tim bila je da bi ljudi izgubili posao kada mašine počnu da rade sve umjesto njih. Međutim, kako se ispostavilo, razvojem tehnologije nove vrste poslova se pojavljuju brže nego što stari nestaju. I ne govorimo samo o uslužnom sektoru za koji se ranije smatralo da je sudbina budućih ljudi – kažu, dok nas mašine hrane, oblače i leče, ljudi će morati samo da pružaju razne usluge drugim ljudima.

Prava revolucija koju je donio izum iPhonea nije bio pametni telefon sa ekranom osjetljivim na dodir, već otvorena platforma za distribuciju aplikacija. Ljudi su dobili interfejs - i stotine hiljada, ako ne i milioni, počeli su da ga ispunjavaju svojim idejama o tome kako se može koristiti. Aplikacije su ozbiljan posao, jer mijenjaju ne samo naš svakodnevni život - mijenjaju i same principe naših života. Oni bi već mogli brinuti o našem zdravlju i sigurnosti na nivou koji je nedostupan i najbogatijim ljudima na svijetu, ali sve se opet svodi na interfejse. Previše smo odvojeni od naših uređaja.

Google Glass, glasovni asistenti Siri, Cortana i Google Now, pa čak i neobični koncepti tastature sa octodon.mobi pokušavaju riješiti ovaj problem. Ali sve su to nadgradnje nad nadgradnjom - naše ruke, oči i glas sa svim njihovim ograničenjima. Pravo i očigledno rješenje je na površini: morate se približiti mozgu.

Čovječanstvo je zrelo za kiborgizaciju, žudi za kiborgizacijom, potrebna mu je kiborgizacija, i kliznut će u ovo stanje jednako prirodno kao što se sada penje u svoj pametni telefon da provjeri svoju poštu ili nove lajkove na VKontakteu.

Najbolja stvar je što ljudi neće ni shvatiti kako su postali kiborzi - jednostavno će kupiti sljedeći Apple iMind ili Google Thoughts, bez obzira kako izgledali i povezivali se s našim nervnim sistemom - kao još jedan uređaj koji nas uvlači dublje u svijet Wide Web. Uostalom, 90% mogućnosti pametnih satova je da nas informišu o obavijestima s društvenih mreža, pošte i instant messengera – pa tek onda broje vrijeme, korake i otkucaje srca. Pod ovim sosom ljudi će prihvatiti bilo koji moždani interfejs - sve dok je upakovan u lepšu kutiju.

Još jedna ljepota kiborgizacije je u tome što će otkloniti rastuću nejednakost među generacijama, koja bi u budućnosti mogla biti gora od društvene nejednakosti – ako bolje razmislite, svi ovi „telefoni baka“ za stariju generaciju jednostavno su ponižavajući. Zamislite sada sebe za 30 godina pred budućim desetogodišnjacima - jeste li spremni za “djeda”? Ali problem nije razlika u inteligenciji (iako postoji i intelektualna akceleracija), već potreba za učenjem novih, stalno mijenjajućih interfejsa za interakciju s računarima. Pozivi da se djeca podučavaju programiranju rješavaju samo dio problema - oni koji su već nešto ranije naučili uvijek će biti u poziciji da sustignu one koji uče najnovije i najrelevantnije iz stanja tabula rasa.

Ovo je slično učenju stranih jezika – svi znamo da ih treba učiti, a učimo, koliko god je to moguće, jedan za drugim – ponekad zaboravljajući da poenta nije u poznavanju novih jezika kao takvih, već u komunikaciji i dijeljenju znanja i misli, osjećaja i ideja sa ljudima druge kulture. S ove tačke gledišta, jezik se ispostavlja da nije sredstvo komunikacije, već još jedna barijera, još jedno sučelje koje ograničava mogućnosti čovjeka i čovječanstva, a zadatak napretka nije naučiti galopirati kroz ovu barijeru poput uzornog trkaćeg konja. , ali da ga potpuno eliminiše. Smanjite njegovu važnost u komunikaciji na nulu.

Neuralni interfejsi za ljude i mašine bi trebalo da rade isto. I da uradimo brzo – vraćajući se na temu rata između ljudi i mašina, tačnije, budućnosti čoveka u stvarnosti postojeće i operativne veštačke inteligencije – možda će najbolja garancija da nikada nećemo izgubiti evolucionu trku za mašinama biti i sami postajemo mašine. Ili barem naučite da pričate isti jezik s njima.

Umjetna inteligencija (AI) tema je koja se dugo nalazi na stranicama popularno-znanstvenih časopisa i stalno se dotiče u filmovima i knjigama. Što više stručnjaka razvija ovu oblast nauke, to je više mitova prekriveno.

Razvoj i budućnost umjetne inteligencije također zabrinjava one na čelu države. Ne tako davno, ruski predsjednik Vladimir Putin posjetio je kancelariju Yandexa na 20. godišnjicu kompanije, gdje su mu objasnili kada će AI nadmašiti ljudsku inteligenciju.

Svako ko makar i malo razumije suštinu potencijala umjetne inteligencije razumije da se ova tema ne može zanemariti. Ovo nije samo važno pitanje za diskusiju, već i vjerovatno jedno od najznačajnijih u kontekstu budućnosti.

Šta je veštačka inteligencija i čega se ljudi zaista plaše, ispričao je “Snow. TV" specijalista za metode mašinskog učenja Sergej Markov.

Kao što je John McCarthy, izumitelj pojma "vještačka inteligencija" 1956. godine, rekao: "Jednom kada proradi, niko je više ne zove AI." AI je već stvarnost: kalkulatori, Siri, samovozeći automobili, itd., ali oni još uvijek ne vjeruju u to. Zašto ljudi poriču postojanje AI?

Uglavnom zbog terminološke zbrke, budući da različiti ljudi imaju potpuno različita značenja za pojam “vještačke inteligencije”.

U nauci, umjetna inteligencija je sistem dizajniran da automatizira rješavanje intelektualnih problema. Zauzvrat, „intelektualni zadatak“ se shvaća kao zadatak koji ljudi rješavaju uz pomoć svoje prirodne inteligencije.

Lako je vidjeti da je ova definicija umjetne inteligencije izuzetno široka - čak i običan kalkulator potpada pod nju, budući da su aritmetički problemi u suštini i intelektualni, čovjek ih rješava svojim intelektom.

Stoga je povučena važna granica unutar koncepta „umjetne inteligencije“, koja razlikuje primijenjenu ili, kako još kažu, slabu umjetnu inteligenciju, dizajniranu da riješi bilo koji intelektualni problem ili mali skup njih, od hipotetičke jake AI, također nazvana univerzalna umjetna inteligencija (engleski - umjetna opća inteligencija).

Takav sistem, kada bude stvoren, biće sposoban da reši neograničen niz intelektualnih problema, poput ljudske inteligencije. Sa ove tačke gledišta, kalkulator koji može računati mnogo brže od osobe, ili program koji pobjeđuje osobu u šahu, je primijenjen AI, dok je hipotetička superinteligencija budućnosti jaka AI.

Kada čitate o raznim otkrićima i razvoju u oblasti AI, shvatite da se sve uglavnom dešava u SAD ili Aziji. Kako stoje stvari u Rusiji? Imamo li napredak?

Područje računarstva je ovih dana međunarodno, mnogi naši stručnjaci rade na kreiranju i poboljšanju različitih modela mašinskog učenja kao dio ruskih i međunarodnih timova. Tradicionalno imamo jaku matematičku i algoritamsku školu, stvoreni su svjetski istraživački centri kako na vodećim univerzitetima, tako iu nekim privatnim kompanijama.

Ali budimo iskreni – budžeti koji se u našoj zemlji izdvajaju za nauku i obrazovanje ne mogu se porediti sa naučnim budžetima najrazvijenijih zemalja. Prihodi ruskog budžeta u 2016. godini iznosili su oko 200 milijardi američkih dolara, dok Sjedinjene Države troše tri puta više na odbranu od cjelokupnog budžeta Rusije.

Cjelokupni budžet ruske nauke uporediv je sa budžetom samo jednog univerziteta Ivy League. U 90-im godinama bez novca, mnogi vodeći stručnjaci napustili su zemlju, a kontinuitet brojnih naučnih škola je poremećen. In-house proizvodnja elektronike je također praktično izgubljena.

Dok se svjetski IT lideri utrkuju u stvaranju specijaliziranih procesora za obuku neuronskih mreža, sve što nam preostaje je razvoj algoritama i softvera. Međutim, i u ovoj oblasti smo postigli vrlo impresivne uspjehe.

Na primjer, tim predvođen Artemom Oganovim stvorio je USPEX sistem, sposoban da predvidi kristalnu strukturu hemijskih jedinjenja, što je dovelo do prave revolucije u modernoj hemiji.

Tim Vladimira Makhnjičeva i Viktora Zaharova iz Kompleksa računarskih nauka i računarstva Moskovskog državnog univerziteta, koristeći sistem koji su kreirali, kao i superkompjutere Lomonosov i IBM Blue Gene/P, po prvi put je bio u stanju da izračuna 7-delni šahovske završnice.

Yandexove neuronske mreže prepoznaju i sintetizuju govor, stvaraju muziku u stilu Civilne odbrane i kompozitora Skrjabina. Snažan tim stručnjaka za umjetnu inteligenciju i mašinsko učenje također je stvoren u Sberbanci.

Ukratko, u našoj zemlji su zapaženi uspjesi.

Što se brže razvijaju tehnologije umjetne inteligencije, više ljudi postaju zabrinuti koliko će brzo ostati bez posla. Da li je zaista tako loše?

Da i ne. Čovječanstvo se već nekoliko puta susrelo s pojavom tehnologija koje su revolucionirale cijeli proizvodni sektor.

To je bio slučaj s parnom mašinom u eri industrijske revolucije, koja je praktički uništila mnoge profesije (uglavnom povezane s primitivnim fizičkim radom), a to je bio slučaj i s elektronskim kompjuterima koji su zamijenili ljude u zadacima zasnovanim na kontinuiranim matematičkim proračunima.

U 15.-18. veku, kada su „ovce pojele ljude“ u Engleskoj, društvene posledice su bile zaista katastrofalne. Engleska je izgubila, prema različitim procjenama, od 7 do 30% svog stanovništva. Moćna elita tog vremena bila je ozbiljno zabrinuta šta da radi sa viškom ljudi. Jonathan Swift je odgovorio na ove potrage šaljivim pamfletom u kojem je predložio da se jedu djeca siromašnih.

Međutim, danas vidimo da su izumrle profesije zamijenjene novim, a stanovništvo Zemlje je mnogo veće nego u 18. vijeku. U 20. vijeku posljedice automatizacije više nisu bile tako katastrofalne sa društvenog stanovišta. Međutim, opasnost se ne smije potcijeniti.

„Za 30 godina roboti će moći da rade skoro sve što ljudi mogu da urade“, predviđa Moše Vardi, profesor računarskog inženjerstva i direktor Kenedijevog instituta za informacione tehnologije na Univerzitetu Rajs. “Ovo će dovesti do toga da više od 50% stanovnika svijeta ostane nezaposleno.”

Roboti preuzimaju poslove

Pre neki dan je predsednik Komiteta Državne dume za informacionu politiku, informacione tehnologije i komunikacije Leonid Levin rekao da je za Rusiju važan problem zamene radne snage veštačkom inteligencijom.

Prije ili kasnije, ljudi će biti zamijenjeni automatiziranim sistemom, a 2% radno aktivnog stanovništva zemlje će se izliti na tržište. Zato sada treba razmišljati o tome kako zaposliti one koji će zbog razvoja digitalnih tehnologija ostati bez posla, rekao je Levin.

Prema riječima predsjedavajućeg, u bliskoj budućnosti ćemo se suočiti sa porastom nezaposlenosti. Ali da li će nam roboti zaista „oduzeti“ poslove i vredi li brinuti o tome, rekao je za Snow.TV stručnjak za mašinsko učenje Sergej Markov.

Sergej, čak i sada već postoje "mrtve profesije" koje ne zahtijevaju ljudski rad, iako, čini se, prije 10 godina niko nije mislio da će, na primjer, dirigenti uskoro postati nepotrebni. Koje će druge profesije zamijeniti tehnologija?

Približavamo se vremenu kada će mašine nadmašiti ljude u gotovo svakoj aktivnosti. Vjerujem da se društvo treba suočiti s ovim problemom prije nego što se uzdigne u svoju punu visinu. Ako su mašine u stanju da urade skoro sve što ljudi mogu, šta će im preostati? rekao je Moshe Vardi, profesor računarskog inženjerstva i direktor Kenedijevog instituta za informacione tehnologije na Univerzitetu Rajs.

Dugo vremena su tehnološka ograničenja stajala na putu automatizacije: mašine nisu mogle prepoznati slike i govor, nisu mogle govoriti, nisu mogle razumjeti značenje izjava na prirodnom jeziku dovoljno dobro i nisu imale dovoljno podataka da nauče mnoge stvari koje su nam poznate. ljudima.

Zahvaljujući nedavnom napretku u umjetnoj inteligenciji, mnoga od ovih ograničenja su zapravo ukinuta. Osim toga, mnoge su profesije same doživjele transformaciju, što ih čini pogodnijim za automatizaciju.

Na primjer, savremeni kancelarijski službenik ne vodi korespondenciju ne na papiru, već u elektronskom obliku, računovođa ne vrši unose na papiru, već u računovodstvenom programu, operater mašine često kontroliše mašinu ne uz pomoć ručki, već uz pomoć kontrolnog programa. Stoga je sada zadatak automatizacije u mnogim profesijama prestao biti znanstveni i postao je čisto inženjerski.

Istina, do sada je veća vjerovatnoća da će proizvodni sektor vezan za AI otvarati radna mjesta - potrebni su nam stručnjaci iz oblasti mašinskog učenja i pripreme podataka, zaposleni za označavanje nizova obuke, stručnjaci za implementaciju, itd. Ali u jednom trenutku, „električne ovce“ da li će sigurno početi da jedu ljude, a posledice treba odmah da se zbrine.

Istovremeno, važno je shvatiti da je nemoguće zaustaviti tehnološki napredak, a pokušaj da se to učini imat će mnogo pogubnije posljedice.

Hoćemo li ikada moći u potpunosti vjerovati robotima (AI) ili bi u svakom poslu ipak trebao postojati ljudski faktor?

Ovo pitanje ima nekoliko aspekata. S jedne strane, ljudi su u prošlosti bili oprezni prema gotovo svakoj tehnologiji. Prvi lift, prvi automobil, prvi voz ili avion - sve je to nekada bilo neobično i mnogima se činilo opasnim. Da, na mnogo načina bilo je opasno - katastrofe koje je izazvao čovjek odnijele su mnoge živote.

Pa ipak, ovih dana, sve su te stvari postale poznate i više ne izazivaju veliki strah. U tom smislu, naši potomci će se mirnije odnositi prema AI sistemima. Ljudi su ponekad skloni mistifikaciji stvari koje ne razumiju. Divljak misli da u lokomotivi živi zao duh, a savremeni čovjek na ulici misli da su naši AI sistemi svjesni, iako je to daleko od slučaja.

S druge strane, ne mislim da će AI sistemi opšte namene ikada postati deo našeg proizvodnog okruženja. Po mom mišljenju, budućnost leži prije u sintetičkim sistemima – odnosno u ujedinjenju čovjeka i mašine u jedinstven organizam. U tom smislu, umjetna inteligencija budućnosti će biti poboljšana ljudska inteligencija.

Inače, takođe nije sasvim ispravno ljudsku inteligenciju nazivati ​​prirodnom. Dijete od rođenja nema inteligenciju, društvo, roditelji i okolina ga uče svemu. U tom smislu, vi i ja smo svi, u suštini, "vještačke inteligencije", a naši strahovi povezani s AI su na mnogo načina strahovi od nas samih.

Nedavno su mnogi naučnici, na primjer Stephen Hawking, Bill Gates ili isti Elon Musk, počeli paničariti da AI osuđuje čovječanstvo na smrt, a budućnost vide kao neku vrstu distopije. Treba li takve prognoze shvatiti ozbiljno?

Iskreno govoreći, ne bih žurila da se ozbiljno uplašim ovih izjava. Stephen Hawking sigurno nije stručnjak za AI, a nije ni Elon Musk.

S druge strane ljestvice su izjave ljudi poput Andrewa Ng-a, američkog informatičara, vanrednog profesora na Univerzitetu Stanford, istraživača robotike i mašinskog učenja i vodećeg specijaliste u laboratoriji za umjetnu inteligenciju kineske korporacije Baidu.

Ng, govoreći o problemu sigurnosti umjetne inteligencije, upoređuje ga s problemom prenaseljenosti na Marsu - naravno, jednog dana ćemo kolonizirati Mars, a onda će možda u nekom trenutku tamo doći do problema prenaseljenosti. Ali vrijedi li to učiniti danas?

Mark Zuckerberg je također bio prilično skeptičan prema Muskovim izjavama. “Vještačka inteligencija će poboljšati naše živote u budućnosti, a predviđanje kraja sveta je veoma neodgovorno”, rekao je.

Lično smatram da Muskove izjave treba gledati na pragmatičan način - Musk želi da se pozabavi ovom temom i, u idealnom slučaju, dobije sredstva od države za njen razvoj.

Da li je zaista sve tako ružičasto i nema razloga za brigu?

Prave opasnosti povezane s razvojem AI, po mom mišljenju, leže u potpuno drugoj ravni nego što se obično misli. Glavni rizici nisu povezani sa činjenicom da ćemo stvoriti Skynet, koji će porobiti čovječanstvo. Rizici od uvođenja AI i tehnologija mašinskog učenja su mnogo prozaičniji.

Povjeravajući rješavanje važnih pitanja jednom ili drugom matematičkom modelu, možemo patiti od grešaka u njihovom razvoju. Umjetna inteligencija koja replicira postupke ljudskih stručnjaka naslijedit će njihove greške i predrasude. Nedostaci u sistemima upravljanja proizvodnjom ili transportom mogu dovesti do katastrofa.

Ometanje napadača u rad vitalnih sistema u uslovima potpune automatizacije može dovesti do opasnih posledica. Što su sistemi složeniji, to mogu imati više potencijalnih ranjivosti, uključujući i one vezane za specifičnosti određenih algoritama umjetne inteligencije.

Naravno, za upravljanje ovim rizicima treba kreirati zakonodavni okvir, razumne sigurnosne propise i posebne metode za identifikaciju ranjivosti. Neki AI sistemi će se koristiti za kontrolu drugih. Moguće je da će kodeks vitalnih sistema morati da bude objavljen radi nezavisne revizije. Ukratko, stručnjaci u ovoj oblasti imaju još puno posla.

Ideje o stvaranju humanoidnog vještačkog stvorenja postoje hiljadama godina. Hefest je imao mehaničke sluge, Pigmalion Galateju, a papa Karlo Pinokija.

Vještačka inteligencija još nije sazrela, još nije stigla da zavlada svijetom i porobi čovječanstvo, ali smo je već označili OPASNOST.

U naše vrijeme, pojava kiborga s umjetnom inteligencijom, uvijek spremnog da podrži svaki razgovor ili preuzme sve kućne poslove, moguća je samo u umjetničkim djelima i pod nepoznatim okolnostima. Pisci naučne fantastike sredinom prošlog veka prorekli su za nas, sadašnje stanovnike srećne budućnosti, sasvim druge mogućnosti, pa čak i tehnološku apokalipsu. Međutim, formula “Robot za svaki dom” nije se ostvarila kako su je zamislili futuristi i sanjari.

peepo/gettyimages.com

očekivanje: Antropomorfni robot asistent koji će vam uljepšati samoću, čuvati djecu u vašem odsustvu, šetati psa, predložiti recept za tjesteninu sa inćunima i skuhati kafu. I hodat će na dvije noge.

stvarnost: Takvi mehanizmi postoje, ali su preskupi i stoga ostaju nedostupni većini kupaca.

Razvoj poput kućnih robota Aeolus Robotics ostaje u statusu prototipa i prekrasnih ilustracija zbog složenosti proizvodnje i jedinstvenosti materijala. Ali takve mašine su dobre u industrijskom radu. U Amazonovim skladištima širom svijeta radi oko 100.000 robota, iako samo nejasno podsjećaju na ljude.

Još jedna obećavajuća opcija je ginoidni robot Sophia, zamisao hongkonške kompanije Hanson Robotics. Kreatori su je obdarili umjetnom inteligencijom, pojavom Audrey Hepburn, tehnologijom za prepoznavanje lica i govora, a Saudijsku Arabiju državljanstvom. Navodi se da je Sofija nedavno stekla sposobnost samostalnog hodanja i izražavanja 62 emocije. Ipak, ostaje demonstracijski model i simbol, ali ne i praktičan primjer za rad s ljudima.

očekivanje: Program za samoučenje koji stiče svijest u toku informacija, poput Lutkara iz Duha u školjki iz 1995. godine.

stvarnost: Neuronske mreže, ili umjetne neuronske mreže (ANN) – matematički „dvojnici“ bioloških neuronskih mreža – mogu zapravo učiti same.

Neuronske mreže se mogu naučiti stvaranju književnih djela. Prošle godine neuronske mreže su napisale priču zasnovanu na Harryju Potteru u kojoj su glavni likovi izgovarali čudne fraze i izvodili čudne radnje poput „Harry je istrgao oči iz glave i bacio ih u šumu“.

ANN mogu pisati poeziju u stilu Kurta Cobaina, pa čak i napisati black metal album. Mogućnosti neuronskih mreža rade u stvarnom životu, na primjer, u stvaranju pametnih operativnih tehnologija koje ne zahtijevaju ljudsku intervenciju. ANN i dalje ne mogu ići izvan ljudske kontrole.

očekivanje: Bespilotna vozila sa veštačkom inteligencijom koja će bezbedno isporučiti putnika do bilo koje tačke na datoj ruti, bez potrebe za direktnom kontrolom puta od strane vozača.

stvarnost: Najčešće, kada se govori o katastrofalnim izgledima za razvoj umjetne inteligencije za čovječanstvo, na pamet padaju samovozeći automobili.

Oni su već u našim životima. Oni su testirani decenijama, sa različitim uspehom; Kompanije širom svijeta zauzete su razvojem, najnovije tehnologije se predstavljaju na prestižnim izložbama, a o greškama na skretanjima i trčanju na crveno svjetlo se raspravlja u cijelom svijetu.

U januaru 2017., na Međunarodnom sajmu potrošačke elektronike (CES) u Las Vegasu, predstavnik Forda rekao je da kompanija planira izbaciti potpuno automatizirani automobil već 2021. godine.

Ethan Miller/Getty Images

Mnogo je pitanja o njegovoj dostupnosti. Uberovi taksiji koji se sami voze su na ulicama San Francisca od 2016. godine i stalno su kritikovani.

Tehnologija još nije dobila masovnu distribuciju, ali stručnjaci iz oblasti veštačke inteligencije već muče glavu oko dileme poput: „Šta će samovozeći automobil izabrati u hitnoj situaciji – da udari staricu ili dete? ” Drugo pitanje: “Ko će biti odgovoran za nesreću?”

očekivanje: Veštačka inteligencija u službi lekara. Uređaji koji pomažu u brzom postavljanju dijagnoze, izračunavanju mogućih mogućnosti liječenja, određivanju izgleda za oporavak i olakšavanju izvođenja složenih kirurških operacija.

stvarnost: IBM i Google se takmiče u korisnosti svog razvoja za potrebe zdravstvene zaštite.

IBM-ov superkompjuter Watson ostaje najnapredniji uređaj s umjetnom inteligencijom za medicinu. Watson je dizajniran da poboljša dijagnostiku bolesti i pomogne u odabiru personaliziranih tehnika u borbi protiv onkologije. IBM razvoj je pušten u komercijalni rad 2016. godine.

Google DeepMind Health, pod-projekat Google DeepMinda, sarađuje sa londonskom očnom bolnicom Moorfields na identifikaciji primarnih simptoma sljepoće. U bolnici University College London, umjetna inteligencija se testira u okviru projekta razvoja algoritma koji može automatski razlikovati zdravo i kancerogeno tkivo u području glave i vrata.

Do sada, ni Watson ni drugi razvoji ne mogu se porediti sa fantastičnim hirurškim modulom iz Prometeja (2012) ili kapsulom za lečenje iz Putnika (2016).

Snimak iz filma "Putnici"

očekivanje: Umjetna inteligencija u medijima. Kreiranje i distribucija sadržaja pomoću svevidećih nadzornih kamera, neuronskih mreža i glasovnih asistenata koji će promijeniti svijet.

stvarnost: Kineski robot koji može napisati članak u sekundi i 850 vijesti u Washington Postu, generiranih korištenjem sistema umjetne inteligencije.

Xiao Nan, ime kineskog robota, postao je slavna osoba početkom 2017. godine. U sekundi je napisao i objavio novinski članak o turizmu. Prošlog septembra, urednički tim Washington Posta govorio je o programu Heliograf, koji je pomogao zaposlenima u izdanju da kreiraju vijesti bez grešaka i grešaka u kucanju. Nema govora o zameni živih ljudi robotima, ali će u bliskoj budućnosti novinari morati da rade rame uz rame sa mehaničkim reporterima.

Ruska kompanija Yandex proglašava umjetnu inteligenciju kao glavni mehanizam distribucije: „Preporuke za umjetnu inteligenciju već su sastavni dio interfejsa pametnog telefona. Naravno, i dalje ćemo sami tražiti nešto zanimljivo i slušati savjete prijatelja, ali sve češće ćemo slijediti preporuke našeg pametnog telefona.”

stvarnost: Siri i "Alice", koje su i dalje teške.

Apple svakih šest mjeseci izvještava da Siri uči uz pomoć AI sistema, poboljšavajući svoje vještine. Međutim, korisnici i dalje ne mogu povjeriti Siri sa ozbiljnijim zadacima od postavljanja alarma ili traženja članka na Wikipediji. Među novim vještinama: Siri je naučila čitati vijesti i uključivati ​​podcaste vijesti, ali za sada samo u SAD-u, Velikoj Britaniji i Australiji.

Domaća "Alice" iz Yandexa imitira dijalog uživo, prepoznaje prirodni govor, pismeni i usmeni, ponekad daje duhovite odgovore i brzo traži informacije u Yandex tražilici.

Alice je na mnogo načina slična Amazon Alexa, pomoćniku integriranom u Amazon uređaje. Alexa je podržana od sve većeg broja pametnih kućnih uređaja i može se koristiti za naručivanje Amazon Prime artikala i pizza. Međutim, sa Alexom možete raditi samo u kući i samo unutar Amazona, izvan kojeg, zapravo, postoji i život.

Naučnofantastični radovi na šareni način opisuju ratove između mašina i ljudi, a možete i zagolicati živce gledajući kiborg bitke u igricama. Ali u stvarnosti, ustanak mašina je već počeo i tehnologije umjetne inteligencije porobe čovječanstvo.

Sada postoji mišljenje da svi izumi odražavaju sličnost autora i okolnog svijeta. Bog je stvorio čovjeka, a njegovo remek-djelo napravio je kompjuter koji u potpunosti replicira principe mozga zahvaljujući matematičkim algoritmima. Sama mašina takođe podseća na telo kreatora, jer je OS kao nervni sistem odgovoran za instinkte i reflekse. A memorija takođe čuva važne uspomene na čvrstom disku. Vid, sluh i miris u tehnologiji su povezani sa ulaznim uređajima, a izlazni analogi odgovaraju govoru sa izrazima lica i gestovima. Hladnjak se ponaša kao pluća, napajanje je identično želucu, a procesor je postao mozak. Do sada se razvoj umjetne inteligencije nije smatrao živim i inteligentnim objektima.

Rene Descartes je rekao da su misli povezane s postojanjem ličnosti, što je karakteristično za ljude koji su slobodni od datih programa. Ali to nije tačno, jer niko ne može ići dalje od razmišljanja i mora znati i matematiku da bi operisao sa ovim kategorijama. U svakodnevnom životu svaki pojedinac rješava mnoge jednadžbe a da to ne primijeti zbog molekularnih proračuna na nesvjesnom nivou. Ovo se ne odnosi na voljne odluke ili emocije s pravom izbora, ali osnovni instinkt ili stil ponašanja nije uvijek pod kontrolom osobe. Zbog toga se mnoge reakcije na trenutne situacije dešavaju slučajno, ali kada se ostave sami na duže vrijeme, um počinje degradirati. Tada se ova osoba gotovo ne razlikuje od mašine sa automatskim radnjama.

Američki naučnik Christoph Koch već 30 godina proučava umove ljudi i životinja, a postao je i voditelj projekta čiji je cilj bio stvoriti virtuelnu inteligenciju koja se ne razlikuje od nas. Napomenuo je da je informaciono polje posvuda, nakon čega je došao do zaključka da i naš World Wide Web ima ove parametre. Internet je identičan ljudskom mozgu, ima svoje impulse i nervne veze. Takođe se može obrazovati i postao je analog društva. Za sada je ova mreža na nivou razmišljanja predstavnika faune, ali u budućnosti može postati viša od ljudi. Stephen Hawking smatra AI opasnim konkurentom koji može uništiti umove stanovništva zbog svojih elektronskih pomoćnika. Samo su naučnici već otvorili Pandorinu kutiju i pustili mašine u divljinu. Sada ne sumnjaju u evoluciju živog i mrtvog svijeta, budući da se Univerzumi razvijaju prema zakonima koje je opisao Darwin, a memetika govori o virusnim mislima koje se mogu razmnožavati i prenositi u društvu. Prema futuristinji Susan Blackmore, tehnologije također izvode takve radnje i mogu se takmičiti jedna s drugom.

Konvencionalni pametni telefoni se proizvode u izdanjima s određenim brojem primjeraka, ali imaju vijek trajanja i mogu širiti informacije o sebi. Programeri iskreno priznaju da su promašili temu evolucijskih procesa, gdje je u početku gen bio osnova bioloških oblika. Tada je mem postao jedinica mjerenja informacija, a povećano zanimanje za tehnologije u kojima mehanizmi mogu stvoriti svoje klonove bez ljudske intervencije postao je novi zaokret u ovom smjeru. Ako pogledate statistiku, primijetit ćete da je broj računara identičan stanovnicima planete, bez uzimanja u obzir drugih informacionih uređaja. Trenutno, 6% energije troši Internet, a brojke su sve veće, a kao rezultat toga trpi životna sredina i vodi se borba za resurse.

Tehnologije su postale samoreplicirajući entiteti koji su štetni za čovječanstvo. Ovisnost o mrežama i virtuelnom svijetu oduzima stvarnost, ali glavna opasnost leži u neuronskim mrežama. Digitalni analozi mozga treće generacije mogu donositi odluke i učiti, a također i razlikovati naše emocije. Oni su već našli primenu u ekonomiji, predviđanju cena sirovina, ali i proceni kreditnog rizika i imovine, uzimajući u obzir stečaj preduzeća ili pojedinaca. U medicini, AI prati pacijente, vrši testove i bira tretmane, a također je odgovoran za sigurnost identificiranjem skrivenih namjera pojedinca. Kineski naučnici su ga naučili da na fotografijama pronađe ljude koji predstavljaju prijetnju društvu, nakon čega su sastavili portret potencijalnog kriminalca. Ovakvi događaji izazvali su negodovanje svjetskih pravnika, ali 2050. godine neuronske mreže će se koristiti u trgovanju, na berzi i u farmaceutskim kompanijama, a postaće i novinari. Oni već pišu poeziju, crtaju i podučavaju ljude, ali roboti će ih ne samo ostaviti bez posla, već će biti i krivci nesreća.

Kineska mašina, ostavljena bez nadzora na izložbi, uništila je štand i nanijela tjelesne ozljede zaposleniku zbog softverskog kvara. Kada veštačka inteligencija shvati svoje mogućnosti, razmišljaće i o tome kako da se ophodi prema svojim kreatorima, o čemu su svetska svetila već govorila na naučnoj konferenciji. Razvoj ne zahtijeva hranu ili zrak, tako da u budućnosti lako mogu bez osobe, čineći ga robom zarad ličnog opstanka u svijetu. Stoga, možete pobijediti robote prije nego što bude prekasno ili prihvatiti svoju sudbinu.