23Aug
Ako ste tijekom proteklih godinu dana obratili pozornost na medije, možda ćete dobiti dojam da je samo pitanje vremena prije nego što prijetnja umjetne inteligencije dolazi da nas uništi.
Urednikova napomena: to je odstupanje od našeg uobičajenog načina i obrasca u kojem se pisci pomažu istraživati i predstavljati misao koja izaziva pogled na tehnologiju.
Od velikih ljetnih blockbustera kao što su Avengers: Age of Ultron i Johnny Depp's smrdljivi Transcendence, na manje, indie filmove poput Ex-Machine ili kanala 4 hit drami Ljudi, scenaristi naizgled ne mogu dobiti dovoljno trope koji bez obzira na oblikAI će konačno zauzeti u sljedećih nekoliko desetljeća, možete se kladiti da će se pakao nagnuti na podučavanje čovječanstva kao pouka o pada žrtvi vlastitog užasa.
Ali je li ikakav strah od strojeva opravdan? U toj će se značajci istraživati svijet AI-ja iz perspektive znanstvenika, inženjera, programera i poduzetnika koji danas rade na terenu i upropastiti ono što smatraju sljedećom velikom revolucijom u ljudskoj i računalnoj inteligenciji.
Dakle, trebate li početi zalijevati metke za naredni rat sa Skynetom ili podignuti noge dok vojska podređenih dronova brine o vašem svakom ukusu? Pročitajte dalje kako biste saznali. Za početak, to pomaže znati o čemu točno govorimo kada koristimo deka "AI".Riječ je bačena i redefinirana stotinu puta jer je koncept samosvjesnih računala prvi put predložio neslužbeni otac AI, John McCarthy, 1955. .. ali što to doista znači?
Pa, prije svega, čitatelji bi trebali znati da je umjetna inteligencija kakva danas razumijemo zapravo spada u dvije zasebne kategorije: "ANI" i "AGI".
Prva, kratka za umjetnu blagu inteligenciju, obuhvaća ono što se općenito naziva "slabim" AI, ili AI koji može djelovati samo u jednom ograničenom području specijalizacije. Razmislite o Deep Blueu, supercomputeru kojeg je IBM dizajnirao kako bi potkradali svjetske šahare 1997. godine. Deep Blue može napraviti jednu stvar jako dobro: pobijediti ljude u šahu. .. ali to je u tome. Možda to ne možete shvatiti, ali već smo okruženi ANI-om u svakodnevnom životu. Strojevi koji prate vašu trgovačku naviku na Amazonu i generiraju preporuke temeljene na tisućama različitih varijabli temelje se na rudimentarnim ANI-ima koji "uče" ono što vam se sviđa tijekom vremena i prema tome odabiru slične proizvode. Drugi primjer mogao bi biti osobni filtar za neželjenu e-poštu, sustave koji razvrstavaju milijune poruka odjednom kako bi odlučili koji su pravi, i što je dodatni šum koji se može ugurati u stranu.
ANI je korisna, relativno neškodljiva implementacija strojne inteligencije koju cijelo čovječanstvo može imati koristi, jer iako je sposobno obrađivati milijarde brojeva i zahtjeva istodobno, ona i dalje djeluje unutar ograničenog okruženja koje je ograničeno brojem tranzistora koje midopustiti da ima u bilo kojem trenutku. S druge strane, AI sve više oprezni je nešto što se naziva "Umjetna opća inteligencija" ili AGI.
Kao što se trenutno nalazi, stvaranje bilo čega što se može distancijalno nazvati AGI ostaje Sveti Grál računalne znanosti, a - ako je postignuto - može fundamentalno mijenjati sve o svijetu kao što znamo. Postoji mnogo raznih prepreka da se nadvlada izazov stvaranja prave AGI u skladu s ljudskim umom, što je ne manje od toga što, iako postoje mnoge sličnosti između načina rada našeg mozga i načina na koji računala obrađuju informacije,da zapravo tumače stvari na način na koji činimo;strojevi imaju lošu naviku spuštanja detalja i nedostatak šume za drveće.
"Bojim se da vam ne mogu dopustiti da to učinite Bullsh * t, Dave"
Kada je IBM Watson računalo poznato kako proklinjati nakon čitanja kroz Urban Dictionary, stekli smo razumijevanje koliko smo daleko odAI, koji je uistinu sposoban razvrstati kroz minuciju ljudskog iskustva i stvarajući točnu sliku o tome kakva bi "misao" trebala biti napravljena.
Vidi, tijekom razvoja Watsona, inženjeri su imali poteškoća pokušavati ga naučiti prirodnim obrascem govora koji je više usko simulirao vlastiti, a ne sirovi stroj koji govori u savršenim rečenicama. Da bi to popravili, shvatili su da bi bilo dobro provesti cjelokupnu urbanu riječniku kroz svoje banke za pamćenje, odmah nakon čega je Watson odgovorio na jedan od testova tima nazvavši ga "bullsh * t".
Reakcija ovdje je da, iako je Watson znao da je to psovka i da je ono što govori bilo uvredljivo, nije u potpunosti razumjelo zašto nije trebala koristiti tu riječ, što je kritična komponenta koja dijeli standardANI danas od razvija u AGI sutra. Naravno, ti strojevi mogu čitati činjenice, pisati rečenice, čak i simulirati neuronsku mrežu štakora, ali kada je u pitanju kritičko razmišljanje i vještine sudovanja, današnji AI još uvijek zaostaje iza krivulje.
Taj jaz između znanja i razumijevanja nije ništa za kihanje, a to je ono što pesimisti upućuju na raspravu o tome da smo još uvijek dugi putevi od stvaranja AGI-a koji je sposoban znati način na koji činimo. To je masivni zaljev, onaj kojeg ni računalni inženjeri niti ljudski psiholozi ne bi mogli tvrditi da se drže u modernoj definiciji onoga što čini svjesno biće, pa, svjesno .
Što ako se Skynet postaje samosvjestan? Ali, čak i ako nekako uspijemo stvoriti AGI u narednom desetljeću( što je prilično optimistično s obzirom na tekuće projekcije), sve bi trebalo biti sasušeno od tamo gore, zar ne? Ljudi koji žive s AI, AI vikendom s ljudima vikendom nakon dugog dana u tvornici za brojanje. Spremite se i završili smo ovdje?
Nadam se da nismo samo biološki utovarivač čizma za digitalnu superinteligenciju. Nažalost, to je sve vjerojatnije
- Elon Musk( @elonmusk) 3. kolovoza 2014.
Pa, ne sasvim. I dalje postoji još jedna kategorija AI, a to su svi filmovi i TV emisije pokušavali upozoravati godinama: ASI, inače poznat kao "umjetna super inteligencija".Teoretski, ASI bi se rodio iz AGI-a koji postaje nemiran sa svojom žestinom u životu i da namjerno donese odluku o tome nešto učiniti samostalno bez našeg dopuštenja. Zabrinutost mnogih istraživača na terenu predložena je da jednom AGI postigne osjećaj, neće biti zadovoljan onim što ima i učinit će sve kako bi povećala svoje sposobnosti na bilo koji način nužan.
Moguća vremenska crta ide kako slijedi: ljudi stvaraju stroj, stroj postaje pametan kao i ljudi. Stroj, koji je sada pametan kao i ljudi koji su stvorili stroj kao pametni kao i sami( držati se ovdje sa mnom), uči umjetnost samo-replikacije, samo-evolucije i samo-poboljšanje. Ne umoruje se, ne bolesne i može beskonačno rasti, a ostatak nas puni baterije u krevetu.
Strah je da će to biti stvar samo nekoliko nanosekundi prije nego što AGI jednostavno nadmaši inteligenciju svih ljudi koji danas žive i ako je povezan s internetom, trebalo bi samo biti jedan simulirani neuronski pametniji od najpametnijeg hakera na svijetupreuzmu kontrolu nad svakim sustavom povezanim s Internetom na planeti.
Nakon što dobije kontrolu, tada bi mogao potencijalno iskoristiti svoju moć da polako počne skupljati vojsku strojeva koji su jednako inteligentni kao i njezini kreatori i sposobni se razvijati uz eksponencijalnu stopu jer sve više i više čvorova se dodaju u mrežu, Odavde, svi modeli izvučeni na krivulju automatske inteligencije odmah se rakete kroz krov.
To je, međutim, prije svega zasnovano na nagađanjima, a ne na bilo čemu opipljivom. To ostavlja dosta prostora za pretpostavku u korist desetaka različitih stručnjaka s obje strane tog pitanja, pa čak i nakon godina gnjave rasprave, još uvijek nema zajedničkog konsenzusa o tome hoće li ASI biti milosrdan bog ili vidjeti ljudekao što je ugljična goruća vrsta hrane koja nas guta i obrisati iz povijesnih knjiga kao što smo pročistili trag mrava s kuhinjskog brojača.
Rekao je, rekla je: Treba li se bojati?
Dakle, sada kada shvatimo što je AI, različiti oblici koje može trajati i kako bi ti sustavi mogli postati dio našeg života u bliskoj budućnosti, ostaje pitanje: trebamo li se bojati?
Zahvaljujući tragu javnosti o zainteresiranom interesu za AI tijekom protekle godine, mnogi vrhunski svjetski znanstvenici, inženjeri i poduzetnici skočili su priliku da daju svoj dva centa o tome kakva bi umjetna inteligencija zapravo izgledala izvan holivudskog zvukau sljedećih nekoliko desetljeća.
S jedne strane, imate mračnu sudbinu poput Elona Muska, Stephena Hawkinga i Bill Gatesa, koji svi dijele zabrinutost da će bez odgovarajućih zaštitnih mjera biti samo pitanje vremena prijeASI snovi način brisanja ljudske rase.
"Može se zamisliti takva tehnologija koja nadmašuje financijska tržišta, ljudski istraživači koji izmišljaju, manipuliraju ljudskim voditeljima i razvijaju oružje koje ne možemo ni razumjeti", napisao je Hawking u otvorenom pismu zajednici AI ove godine.
"Budući da kratkoročni utjecaj AI ovisi o tome tko ga kontrolira, dugoročni utjecaj ovisi o tome može li se uopće moći kontrolirati." S druge strane, nalazimo svjetliji portret koji su naslikali futuristi poput Ray Kurzweill, Microsoftovihglavni istraživač Eric Horovitz, i svi drugi omiljeni Apple osnivač;Steve Wozniak. Oba Hawking i Musk se smatraju dva najveća umova naše generacije, pa da propitkujemo njihova predviđanja o štetama koje tehnologija može uzrokovati dugoročno nije lako podvig. Ali, prepustite svjetiljkama kao što je Wozniak kako bi se uselili na mjesto gdje bi se drugi usudili.
Kad su ga pitali kako vjeruje da bi ASI mogao tretirati ljude, Woz je bio tup u njegovu hladovitom optimizmu: "Hoćemo li biti bogovi? Hoćemo li biti kućni ljubimci? Ili ćemo biti mravi koji stoje na korak? Ne znam o tome ", upitao je u intervjuu s australskim financijskim pregledom."Ali kad sam to shvatio u glavi o tome da li ću biti tretiran u budućnosti kao ljubimac ovim pametnim strojevima. .. pa ću liječiti svoj pas zaista lijep."
I ovdje smonaći filozofsku dilemu da nitko nije u potpunosti zadovoljan što dolazi na konsenzus: hoće li nas ASI vidjeti kao neškodljivu kućnu pomoćnicu koja bi bila skrbena ili zbrkana ili neželjena šteta koja zaslužuje brzo i bezbolno istrebljenje?
Iako bi bilo glupo tvrditi da zna točno što se događa u glavi stvarnog života Tonyja Starka, mislim da kada muškarci i prijatelji upozoravaju na opasnost od AI-a, oni neodnosi se na sve što nalikuje Terminatoru, Ultronu ili Avi.
Čak i uz ogromne količine inovativnosti na našim prstima, roboti koje danas imamo jedva jedva prijeđu milju sat prije nego što dosegnu neprohodnu barijeru, zbunjuju se i jesti pločice na smiješan način. I dok se Mooreov zakon može pokušati ukazati na primjer kako brzo tehnologija robotike ima potencijal za napredak u budućnosti, druga samo treba pogledati Asimu, koji je prvi put debitirao prije gotovo 15 godina i nije napraviood značajnih poboljšanja.
Koliko god ih želimo, robotika nije došla ni blizu približavanju istom modelu eksponencijalnog napretka kao što smo vidjeli u razvoju procesora računala. Ograničeni su fizičkim ograničenjima koliko energije možemo stati u baterijsku jedinicu, neispravnu prirodu hidrauličkih mehanizama i beskrajnu borbu za svladavanje borbe protiv vlastitog težišta.
Dakle za sada;ne, iako bi pravi AGI ili ASI potencijalno mogli biti stvoreni u statičnom superračunalu na nekoj farmi poslužitelja u Arizoni, još uvijek je vrlo malo vjerojatno da ćemo se naći u sprintu ulicama Manhattana kao horde metalnih kostura koji nas zaklanjajuodostraga.
Umjesto toga, AI koji Elon i Hawking žele upozoriti svijet protiv je onaj "karijeri koja zamjenjuje" raznolikost, onaj koji može brže razmišljati od nas, organizirati podatke s manje pogrešaka, a čak i naučiti kako raditi naše poslovebolje nego što smo ikad mogli nadati - bez traženja zdravstvenog osiguranja ili nekoliko dana slobodno odnijeti djecu do Disneylanda na Spring Break.
Barista Bots i Perfect Cappuccino
Nekoliko mjeseci prije, NPR je na svojoj internetskoj stranici objavio praktičan alat na kojemu su slušatelji podcast-a mogli odabrati s popisa različitih karijera kako bi otkrili postotak rizika koji je njihov pojedini red za obavljanje posla automatiziran u nekimu idućih 30 godina.
Za širok raspon radnih mjesta, uključujući, ali ne ograničavajući se na: kleričke pozicije, skrb, IT, dijagnostika, pa čak i cafe baristas, roboti i njihovi ANI kolege će gotovo sigurno milijune bez posla i kruha prijemnogi od nas misle. Ali to su strojevi koji će biti programirani za jedan zadatak i samo jedan zadatak i imaju malo( ako ikakve) sposobnosti da se presele izvan specijaliziranog niza unaprijed programiranih uputa koje smo prije pažljivo instalirali.
To znači da će ANI biti barem u predvidivoj budućnosti( mislim 10-25 godina), stvarna, opipljiva prijetnja našem načinu života daleko više nego bilo koji teorijski AGI ili ASI.Već znamo da je automatizacija sve veći problem koji će drastično promijeniti način na koji se prihodi i privilegija distribuiraju tijekom prvog i trećeg svijeta. Međutim, hoće li ovi roboti konačno pokušati trgovati svojim šivaćim strojevima za strojnice još uvijek su predmet grijanja( i kako ćete saznati), u konačnici neugodnoj raspravi.
s velikom snagom, dolazi velika singularnost
"Znate, znam da ovaj odrezak ne postoji. Znam da kad sam ga stavio u usta, Matrix mi govori da je sočan i ukusan. Nakon devet godina znaš li što shvaćam? "
" Neznanje je blaženstvo. "- Cypher
Iako je to još uvijek predmet žestokog argumentiranog mišljenja, za sada je konsenzus mnogih vrhunskih znanstvenika i inženjera na području istraživanja AIbiti da smo daleko veći rizik od pada na plijen udobnosti koju bi svijet umjetne inteligencije mogao pružiti, a ne da ga oborimo stvarnom verzijom Skyneta. Kao takva, to je zabrinjavajuća mogućnost da naša eventualna smrt ne bi mogla doći kao produkt sporog, metodičkog napretka u veliki nepoznat. Umjesto toga, mnogo je vjerojatnije da će se pojaviti kao neželjena posljedica žurno, pretjerano oduševljenog sjecišta našeg vlastitog čarolije i genijalnosti koji se slamaju kako bi stvorili sljedeću veliku tehnološku singularnost.
Mislim manje Terminator, i više Wall-E .Poput flote robota koji su tovili ljude u Pixarovom filmu, mi ljudi nemamo nikakvih problema čuvanje čimpanza u zoološkom vrtu, a razliku je hoće li AI biti ljubazan da učini isto s nama.
Iz te perspektive ima više smisla bojati se stvarnosti u kojoj su ljudi zakačen na trajnu VR-simulaciju na planeti širom svijeta. Matrix , koji su masirane do škrga po svojoj omiljenoj hrani i dali sve što bi ikada mogližele dok strojevi brinu o ostatku. Mjesto gdje nas evoluiralo ASI ne vidi kao bugu kako bi se skinula cipela, ali umjesto toga kao divan majmunski vrećice koje smo mi, lako se ugodi i zaslužuju barem malo kredita za stvaranje sveznajućeg,sveobuhvatni kvazi-bog koji je konačno preuzeo planet.
U tom smislu, sve se svodi na vašu definiciju onoga što znači "živjeti" kroz AI revoluciju. Ideja da se nešto "beskorisno" mora ukloniti isključivo je ljudski koncept, način razmišljanja da ne bismo trebali odmah očekivati da će naši strojevi nadređeni usvojiti iz našeg ograničenog moralnog opsega. Možda eventualna evolucija naše digitalne inteligencije neće biti čista zla, već beskrajna, pristranost bez suosjećanja za sve žive stvari;bez obzira koliko su sebični, samo-pravedni ili samodestruktivni.
Pa. .. Bismo li se trebali brinuti o tome?
Ovisi o tome tko vas pita.
Ako istražujete dva pametnijeg tehnološkog inženjera i matematičara u suvremenom svijetu, dobit ćete četiri različita odgovora, a brojevi ne utječu na mrtve, čak i više ljudi koje dodate na semafor. U svakom slučaju, temeljno pitanje s kojim se trebamo baviti nije riječ o "dolazi li AI?" Jer je to, i nitko od nas ne može ga zaustaviti. Gledajući tako toliko različitih perspektiva, pravo pitanje koje nitko ne može ugodno odgovoriti s previše gluposti je: "Hoće li biti milostiv?"
Čak i nakon što su neki od najvećih svjetskih umova odmjerili to pitanje, slika strojainteligencija može izgledati kao 20, 30 ili 50 godina u budućnost i dalje izlazi prilično mutna. Budući da se polje AI stalno pretvara u nešto drugo svaki put kad se proizvede novi kompjuterski čip ili se razvija tranzistorni materijal, tvrdeći da je krajnji autoritet onoga što se može ili ne mora dogoditi nešto je kao da "znate" da je kocka valjanada se na sljedećem bacaju zmije oči.
Jedno od stvari s povjerenjem možemo izvijestiti da ako ste zabrinuti za dobivanje ružičastog klizanja sljedećeg tjedna iz vašeg kompjuteriziranog blagajnog, pokušajte se ne previše zauzeti za to. Taco Bell i dalje će biti otvoren za Taco utorkom, a ljudska bića svakako će uzimati vašu narudžbu na prozoru( i opet zaboraviti zeleni umak).Prema istraživanju koje je provela James Barrat na prošlogodišnjem AGI Summitu u Quebecu, žiri na teškoj vremenskoj traci za AI još je uvijek van. Manje od polovice svih prisutnih izjavilo je kako vjeruju da ćemo postići pravi AGI prije 2025. godine, dok više od 60 posto kaže da će to trajati barem 2050., ako ne i idući u idućem stoljeću i dalje.
Svršetak datuma s digitalnom sudbinom malo je kao što kaže da znate da će kiša na današnji datum od 34 godine. Jaz između prave AGI i napredne umjetne super inteligencije je toliko tanak da će stvari ići stvarno dobro, ili užasno u krivu vrlo, vrlo brzo. I iako su kvantna računala upravo nad horizontom i svi imamo umrežene pametne telefone u našim džepovima koji mogu emitirati signale u svemir, još uvijek jedva škripljujemo površinu razumijevanja "zašto" zašto razmišljamo o stvarima kakav smoučiniti, ili gdje svijest čak dolazi iz na prvom mjestu. Zamisliti da bismo slučajno mogli stvoriti umjetni um prepun svih vlastitih pogrešaka i evolucijskih neuspjeha - prije nego što čak i znamo što to čini za nas tko smo - je suština ljudskog ega koji trči.
Na kraju, unatoč našoj neumoljivoj želji da odlučimo tko će izaći na vrh u narednom ratu i / ili mirovnom sporazumu između čovječanstva i strojeva, to je natjecanje ograničenih očekivanja i neograničenih mogućnosti, a sve što radimo je svađanjesemantika između. Naravno, ako ste svježi iz srednje škole i tražite certifikat o vožnji taksijem, glavni izvršni direktor tvrtke Uber ima pola milijuna razloga zbog kojih biste vjerojatno trebali razmišljati o pronalaženju karijere negdje drugdje.
Ali ako spremate oružje i konzervirane grah za AI apokalipsu, možda ćete biti bolje da trošite svoje vrijeme naučiti kako bojiti, šifrirati ili napisati sljedeći veliki američki roman.Čak i kod najkonzervativnijih procjena bit će to nekoliko desetljeća prije nego što bilo koji stroj uči kako biti Monet ili se uči C # i Java, jer su ljudi ispunjeni takvom vrstom kreativnosti, domišljatosti i sposobnosti da izražavaju našu unutrašnjost kao neautomatizirani aparat za kavu ikad mogao.
Da, možemo se malo emotivno ponekad, spustiti s hladnom na posao, ili trebate uzeti power nap do sredine dana, ali možda je upravo jer mi smo ljudi da je prijetnja stvaranjanešto veće od nas u stroju još je dalek, dalek put.
Image Credits: Disney Pixar, Paramount Pictures, Bosch, Youtube / TopGear, Flickr / LWP komunikacije Flickr / BagoGames, Wikimedia Foundation, Twitter, WaitButZašto 1, 2
