23Aug
Jei per pastaruosius metus atkreipėte dėmesį į žiniasklaidą, galėtumėte susidaryti įspūdį, kad tai tik laiko klausimas, kol dirbtinio intelekto grėsmė sunaikina mus visus.
redaktoriaus pastaba: tai yra nukrypimas nuo mūsų įprasto aiškinamojo ir aiškinamojo formato, kuriuo leidžiame savo rašytojams ištirti ir pristatyti pažangą pažvelgti į technologijas.
Iš didžiųjų vasaros blokbusters, tokių kaip "Avengers: Ultron" ir "Johnny Depp" grobio šventė "Transcendencija", mažesniems indie klipams, pavyzdžiui, "Ex-Machina" arba "Channel 4" hitai "Dramos žmonės", scenarijaus žmonės, matyt, negali gauti pakankamai trope, kad ir kokia formaAI galų gale imsis per keletą ateinančių dešimtmečių, jūs galite statyti tai, kad bus pragaras, stengiantis žmonijai mokyti pamoką, kad nukentėjote nuo savo pačių.
Bet kokia iš šių mašinų baimė yra pateisinama?Šioje funkcijoje mes ketiname išnagrinėti AI pasaulį šiandieninėje srityje dirbančių mokslininkų, inžinierių, programuotojų ir verslininkų požiūriu ir nulemti tai, kas, jų nuomone, galėtų būti kita didžioji žmogaus ir kompiuterių žvalgybos revoliucija.
Taigi, ar jūs turėtumėte pradėti kaupti kulkas ateinančiam karui su "Skynet", ar pakelti kojas, o kariuomenė, kurioje dirba nereguliarūs laivai, rūpinasi savo kiekvienu priespaudu? Skaitykite toliau, kad sužinotumėte.
"Know Your Enemy"
Norėdami pradėti, tai padeda sužinoti, ką mes kalbame apie tai, kai mes naudojame blanką "AI".Žodis buvo išmestas ir iš naujo apibrėžtas šimtą kartų, nes "savimonių" kompiuterių koncepciją pirmą kartą pasiūlė neoficialus AI tėvas John McCarthy 1955 m.. .. bet ką tai iš tikrųjų reiškia?
Na, pirmiausia, skaitytojai turėtų žinoti, kad dirbtinis intelektas, kaip mes suprantame, šiandien iš tikrųjų patenka į dvi atskiras kategorijas: "ANI" ir "AGI".
Pirmasis, trumpas "Dirbtinis siaurasis intelektas", apima tai, kas paprastai vadinama "silpna" AI ar AI, galinti veikti tik vienoje riboto specializacijos srityje."Think Deep Blue" - tai superkompiuteris, kurį IBM sukūrė 1997 m., Kad įveiktume pasaulio čempionus. "Deep Blue" tikrai gali padaryti vieną dalyką: šaškius įveikti žmonėmis. .. bet apie tai.
Jūs negalite to suvokti, bet mūsų kasdieniniame gyvenime jau yra apsuptas ANI.Mašinos, kuriomis seka jūsų "Amazon" apsipirkimo įpročiai ir kuriamos rekomendacijos, pagrįstos tūkstančiais skirtingų kintamųjų, yra pagamintos ant pradinių ANI, kurie "išmoksta", kas jums patinka laikui bėgant, ir atitinkamai parenka panašius produktus. Kitas pavyzdys galėtų būti asmeniniai elektroniniai šlamšto filtrai, sistemos, kurios vienu metu išsinuomoja milijonus žinučių, kad išspręstų, kas yra realus, ir koks yra papildomas triukšmas, kuris gali būti nukreiptas į šoną.
ANI yra naudingas, palyginti nekenksmingas mašininio intelekto įdiegimas, kurį gali pasinaudoti visa žmonija, nes nors jis vienu metu gali apdoroti milijardus skaičių ir užklausų, jis vis dar veikia ribotoje aplinkoje, kurią riboja tranzistorių skaičius, kurį mesleiskite tai turėti bet kuriuo metu. Kita vertus, AI, kuriame mes vis labiau susirūpinome, yra kažkas vadinamas "dirbtinis bendras intelektas" arba AGI.
Šiuo metu jis sukuria viską, kas netgi gali būti vadinama nuotoliniu būdu, kadangi AGI išlieka kompiuterinių mokslų "The Holy Grail" ir, jei pasiekta, iš esmės galėtų pakeisti viską apie pasaulį, kaip mes tai žinome. Yra daug įvairių kliūčių, kad būtų įveiktas iššūkis sukurti tikrą AGI, palyginti su žmogaus protu, be kita ko, nors ir yra daug panašumų tarp to, kaip veikia mūsų smegenys, ir kaip kompiuteriai apdoroja informaciją, kai kyla grėsmėfaktiškai interpretuoti dalykus taip, kaip mes darome;mašinos turi blogą įprotį pakabinti ant detalių ir trūksta medžių miško.
"Aš bijoju, aš negaliu leisti jums tai padaryti", Bullsh * t, Dave "
Kai IBM" Watson "kompiuteris puikiai sužinojo, kaip prakeisti per" Urban Dictionary ", mes supratome, kiek toli esame išAI, kuris iš tiesų sugeba rūšiuoti per žmogaus patirties minutią ir sukurti tikslią vaizdą apie tai, ką turėtų būti "mintis".
Žiūrint, Watsono kūrimo metu, inžinieriams buvo sunku bandyti jį išmokyti natūraliu kalbos modeliu, kuris labiau panašus į save, o ne į neapdorotą mašiną, kalbantį puikiais sakiniais. Norėdami išspręsti šią problemą, jie suprato, kad būtų naudinga paleisti visą miestų žodyną per savo atminties bankus, o po to Watsonas atsakė į vieną iš komandos bandymų, vadindamas jį "bullsh * t".
Čia gaila, kad nors Watsonas žinojo, kad jis buvo prakeiksmas ir kad tai, ką jis sakė, buvo įžeidžiantis, jis nevisiškai suprato , kodėl neturėjo naudoti šio žodžio, kuris yra svarbiausias komponentas, kuris atskiria standartąŠiandieninė ANI išauga į rytojaus AGI.Žinoma, šios mašinos gali skaityti faktus, rašyti sakinius ir netgi imituoti žiurkių neuronų tinklą, tačiau, kalbant apie kritišką mąstymą ir sprendimo įgūdžius, šiandieninis AI dar blogai atsilieka nuo kreivės.
Tai skirtumas tarp žinojimo ir supratimo nėra nieko čiaudėti, ir tai yra tas, kurį pesimistai nurodo, teigdami, kad mes vis dar toli nuo to, kai sukuriame AGI, galinčią žinoti save taip, kaip mes darome. Tai didžiulė įlanka, kurią nei kompiuteriniai inžinieriai, nei žmogaus psichologai negalėjo teigti, kad jie turi ranką šiuolaikiniame sąmoningumo apibrėžime, o sąmonėje yra .
Ką daryti, jei "Skynet" tampa savarankiška?
Tačiau, net jei mes kažkaip sugebėsime sukurti AGI per artimiausią dešimtmetį( tai yra gana optimistiška, atsižvelgiant į dabartines prognozes), visa tai turėtų būti padažas iš ten, ar ne?Žmonės, gyvenantys kartu su AI, AI, pasibaigus ilgai dieną, stengiasi su žmonėmis susitikti su žmonėmis. Pakrauti ir mes čia baigta?
Tikimės, kad mes ne tik biologinis įkroviklis skaitmeninei supervizijai. Deja, tai vis labiau tikėtina,
- Elonas Muskas( @elonmusk) 2014 m. Rugpjūčio 3 d.
Na, ne visai. Vis dar išlieka dar viena AI kategorija, ir tai, kad visi filmai ir televizijos laidos bando įspėti mus apie metus: ASI, kitaip vadinama "dirbtiniu super intelektu".Teoriškai ASI būtų gimęs iš AGI, kuris nesijaudinęs savo gyvenimo dalimi, ir iš anksto apgalvotais sprendimais ką nors padaryti su savimi be mūsų leidimo. Siūlomas daugelio šios srities mokslininkų susirūpinimas yra tas, kad, kai AGI pasiekia suvokimą, jis nebus patenkintas tuo, ką jis turės, ir padarys viską, ką gali, norėdamas padidinti savo pajėgumus visomis būtinomis priemonėmis.
Galima laiko eilutė yra tokia: žmonės kuria mašiną, mašina tampa toks protingas kaip ir žmonėms. Mašina, kuri dabar taip pat protinga kaip žmonės, kuri sukūrė mašiną tokia protinga kaip patys( laikykitės čia), mokosi savirealizacijos, savęs tobulėjimo ir savęs tobulėjimo meną.Tai nenustygsta, nesirgsta, ir ji gali augti be galo, o likusieji iš mūsų kraunami baterijos lovoje.
Baimė yra tai, kad tai būtų tik kelias nanosekundes, kol AGI lengvai pralenkė visų šiandien gyvenančių žmonių intelektą ir, prijungus jį prie interneto, reikės tik vieno imituoto neurono, kuris būtų protingesnis nei protingiausias hakeras pasaulyje.kontroliuoti kiekvieną interneto prijungtą sistemą planetoje.
. Kai tik ji pasieks kontrolę, ji galės panaudoti savo galią, kad lėtai pradėtų kaupti mašinų, kurios yra vienodai protingos, kaip jos kūrėjas, kariuomenė ir galėtų vystytis eksponentiniu greičiu, nes vis daugiau ir daugiau mazgų yra pridedami prie tinklo. Iš čia visi modeliai, pagaminti iš mašininio intelekto kreivės, skubiai paleidžiami per stogą.
Tačiau sakydamas, jie visų pirma vis dar remiasi spekuliacija, o ne kažkuo apčiuopiamu. Dėl to daugybė įvairių ekspertų, atstovaujančių abiejose šio klausimo pusėse, palieka daugybę prielaidų, ir net po karštų diskusijų metų vis dar nėra bendro sutarimo dėl to, ar ASI bus gailestingas dievas ar žmonėskaip anglies deginimo, maisto gorging rūšis, kad mes esame ir nuvalykite mus iš istorijos knygų kaip mes šveitimas skruzdžių skudurų nuo virtuvės kovos.
Jis sakė, ji sakė: "Ar turėtume bijoti?"
Taigi, dabar, kai mes suprantame, kas yra AI, įvairiomis formomis tai gali trukti ilgą laiką, ir kaip šios sistemos galėtų tapti mūsų gyvenimo dalimi artimiausioje ateityje, lieka klausimas: ar turėtume bijoti?
Pastaraisiais metais, kai dauguma pasaulio aukščiausiųjų mokslininkų, inžinierių ir verslininkų, žvelgdami į visuomenės akivaizdų susidomėjimą AI keliu, pasinaudojo proga padovanoti du centus už tai, ką dirbtinis intelektas gali atrodyti ne iš Holivudo garsokelis dešimtmečius.
Viena vertus, jūs turite tokius niūrus ir pasmerkusius dalykus kaip Elonas Muskasas, Steponas Hawkingas ir Billas Gatesas, kurie visi yra susirūpinę, kad netaikant tinkamų apsaugos priemonių tai bus tik laikas ikiASI svajina būdą sunaikinti žmonių rasę.
"Galima įsivaizduoti, kad tokios technologijos išprovokuoja finansines rinkas, išrado žmogaus tyrinėtojus, nevaldydavo žmonių lyderių ir kurdami ginklus, kurių negalime net suprasti", - Hawkingas parašė atvirame laiške AI bendruomenei šiemet.
"Kadangi trumpalaikis AI poveikis priklauso nuo to, kas jį kontroliuoja, ilgalaikis poveikis priklauso nuo to, ar jis visais atvejais gali būti kontroliuojamas."
Kita vertus, radome ryškesnį portretą, parašytą futuristus, tokius kaip Ray Kurzweill, "Microsoft"vyriausiasis tyrėjas Ericas Horovitzas ir visi kiti "" mėgstamiausi "Apple" steigėjai;Steve Wozniak. Tiek "Hawking", tiek "Musk" laikomi dviem didžiausiais mūsų kartos protais, todėl abejoti jų prognozėmis dėl žalos, kurią technologija gali sukelti ilgainiui, nėra lengva. Tačiau palikite šviestuvams, kaip Wozniak, įsitaisyti, kur kiti tik išdrįs.
Kai buvo paklaustas, kaip jis mano, kad ASI gali gydyti žmones, Wozas buvo tamsus savo šešėlyje optimizmu: "Ar mes būtume dievai? Ar mes būsime šeimos augintiniai? Ar mes tapsime skruzdėlėmis? Aš apie tai nežinau ", - klausė jis interviu su Australijos finansų apžvalga."Bet kai aš galvoju apie tai, ar ateityje ateityje su manimi elgsis šitos protingos mašinos. .." Aš tikrai ketinu gydyti savo naminį šunį tikrai gražiai ".
Ir čia mesrasti filosofinę dilemą, kad niekas nėra visiškai patogus pasiekti bendrą sutarimą dėl to, ar ASI matys mus kaip nekenksmingą naminių gyvūnėlių šukuoseną, kuriam reikia rūpintis, ar nepageidaujamas kenkėjas, vertas greitai ir neskausmingai sunaikinti?
"Hasta la Vista", "Baby
". Nors tai būtų kvailys, reikalaujantis tiksliai žinoti, kas vyksta realiame gyvenime Tony Starko galvoje, manau, kad muskus ir draugai įspėja mus apie AI pavojų, jie nėrakalbant apie viską, kas primena Terminator, Ultron arba Ava.
Net esant didžiuliems naujovių kiekiams mūsų rankose robotai, kuriuos mes turime šiandien, vargu ar gali vaikščioti per mylią valandą, kol jie pasieks neapsaugotą barjerą, pasipiktins ir linksmins. Ir nors galėtumėte pabandyti atkreipti dėmesį į Moore'o įstatymą kaip pavyzdį, kaip greitai robotų technologijos gali ateityje siekti pažangos, kita turi tik pažvelgti į "Asimo", kuris pirmą kartą pasirodė beveik prieš 15 metų, ir nepadarė jokiųžymiai pagerėjo nuo tada.
Tiek, kiek norėtume, robotai nepasiekė nieko panašaus į tai, kad laikomasi to paties eksponentinio progreso modelio, kaip matėme kompiuterio procesoriaus raida. Jas varžo fizinės ribos, kiek energijos galime priderinti prie akumuliatoriaus paketo, netinkamo hidraulinių mechanizmų pobūdžio ir begalinės kovos užvaldyti kovą su savo sunkiu centru.
Taigi, kol kas;ne, nors tikrą AGI ar ASI gali būti sukurta statiniame superkompiuteryje kai kuriuose serverių ūkiuose Arizonoje, vis tiek išlieka labai mažai tikėtina, kad mes atsidursime per Manheteno gatves, nes metalo skeletai lydės mus žemyniš nugaros.
Vietoj to AI, kurį Elonas ir Hawking yra linkę įspėti prieš pasaulį, yra "karjeros pakeičiančios" veislės, kuri gali manyti greičiau nei mes, organizavimas su mažiau klaidų ir net išmokti dirbti mūsų darbegeriau nei mes galėtume kada nors tikėti - visi, neprašydami sveikatos draudimo ar keletą dienų išvesti vaikus į Disneilendą "Spring Break".
"Barista Bots" ir "Perfect Cappuccino"
Prieš keletą mėnesių NPR išleido patogų įrankį savo tinklalapyje, kuriame "Podcast" klausytojai galėjo pasirinkti iš įvairių karjeros sąrašų, norėdami išsiaiškinti rizikos procentą, kurį jų konkreti darbo linija atlieka automatiniamnurodykite per ateinančius 30 metų.
Daugeliui darbo vietų, įskaitant, bet neapsiribojant: klerikos pareigas, slaugymą, IT, diagnostiką ir netgi kavinių baristas, robotai ir jų ANI kolegos beveik neabejotinai atitrauks milijonus mūsų iš darbo ir į duonos liniją greičiau neidaugelis iš mūsų galvoja. Tačiau tai yra mašinos, kurios bus užprogramuotos atlikti tik vieną užduotį ir vieną užduotį, ir turės mažai( jei tokių yra) galimybę pereiti iš specializuotų iš anksto suplanuotų instrukcijų, kurias mes atidžiai įdiegsime iš anksto.
Tai reiškia, kad bent jau artimiausioje ateityje( manoma, 10-25 metų) ANI bus tikra ir reali grėsmė mūsų gyvenimo būdui kur kas daugiau nei bet kuri teorinė AGI ar ASI.Mes jau žinome, kad automatika yra vis didesnė problema, kuri smarkiai pakeis pajamų ir privilegijų paskirstymą pirmajame ir trečiajame pasaulyje. Tačiau, ar tie robotai galų gale bandys prekiauti savo kulkosvaidžių siuvimo mašinomis, vis tiek šildomas( ir, kaip jūs sužinosite), galiausiai atsiras vangios diskusijos.
su dideliu galingumu pasižymi puikiu singlu
"Jūs žinote, aš žinau, kad šis kepsnys neegzistuoja.Žinau, kad, kai aš ją įdėti į mano burną, "Matrix" mano smegenyse sako, kad tai yra sultinga ir skanu. Po devynerių metų jūs žinote, ką aš suprantu? "
" Nežinojimas yra palaima ". - Cypher
Nors tai vis dar niūrios nuomonės reikalas, dabar daugelio aukštųjų mokslininkų ir inžinierių sutarimas AI tyrimų srityje yra toks:būkime tuo, kad esame kur kas didesnė rizika, kad pasidarysite patogumų, kuriuos galėtų suteikti dirbtinio intelekto pasaulis, o ne sukrėtė reali versija "Skynet".Kaip tokia, tai yra galimybė, kad galų gale mūsų mirtis gali būti lėtos, metodinės pažangos produktas į didžiulį nežinomą.Vietoje to daug labiau tikėtina, kad jis bus paviršutiniškas, nes tai yra nenuspėjamas pasikartojęs, pernelyg entuziastingas mūsų pačių kūnas ir išradingumo susiliejimas, kartu sukuriant kitą didžiulę technologinę savitumą.
Pagalvokite mažiau Terminatorius, ir daugiau Wall-E .Kaip ir robotų, kurie penetavo žmones Pixar filme, laivą, žmonėms nėra problemų, kaip išlaikyti šimpančius zoologijos sode, ir skirtumas yra tai, ar AI bus pakankamai malonu, kad tai atliktų su mumis.
Nuo šios perspektyvos prasminga bijoti tikrovės, kai žmonės yra užsikabinę iki nuolatinio planetos VR modeliavimo à la "Matrix ", kuris yra išpjautas į žiaunas pagal mėgstamus maisto produktus ir suteikdamas viską, ką jie galėjonori, kol mašinos rūpinasi poilsio. Vieta, kur išsivysčiusi ASI mus nemato kaip klaidą, kad išbrėžtų iš jo batų, bet vietoj to, kaip žavios beždžionių mėsos maišelius, mes esame lengva, maloniai prašome ir nusipelnė bent šiek tiek kredito, kad sukurtume viską žinančią,visapusiškas kvazi-dievas, kuris galiausiai perėmė planetą.
Šiuo atžvilgiu viskas priklauso nuo jūsų apibrėžimo, ką reiškia "gyventi" per AI revoliuciją.Idėja, kad kažkas "nenaudingas" turi būti panaikintas, yra tik žmogaus samprata, mąstysena, kad mes neturėtume iš karto tikėtis, kad mūsų mašinų viršininkai perimtų iš mūsų ribotos moralinės apimties. Galbūt mūsų skaitmeninio intelekto evoliucija nebus grynas blogis, bet begalinis, be šališkumo gailestingas visiems gyviems dalykams;nesvarbu, koks yra savanaudis, savęs teisus ar save sugadinantis.
Taigi. .. ar mes turėtume jaudintis?
Tai priklauso nuo to, ko jūs klausiate.
Jei apklausite dviejų protingiausių technologinių inžinierių ir matematikų šiuolaikiniame pasaulyje, gausite keturis skirtingus atsakymus, o skaičiai nuo mirties netvarka, tuo daugiau žmonių pritrauksite į rezultatų suvestinę.Bet kuriuo atveju pagrindinė problema, kurią turėtume spręsti, yra ne apie "ar AI ateina?", Nes tai yra, ir nė vienas iš mūsų nesugebės jį sustabdyti.Žvelgdamas į daugybę skirtingų perspektyvų, realus klausimas, kad niekas nėra patogus, atsakydamas į pernelyg didelį priespaudą, yra: "Ar tai bus gailestingas?"
Netgi kai kurie iš didžiausių pasaulio protų svarstė šį klausimą, tai kokia mašinažvalgyba gali atrodyti 20, 30 ar 50 metų į ateitį vis dar pasirodo gana siaubinga. Kadangi AI sritis nuolat keičiasi į kažką kitą kaskart, kai gaminama nauja kompiuterio mikroschema arba sukurta tranzistoriaus medžiaga, teigdamas, kad galutinis autoritetas dėl to, kas gali arba negali įvykti, yra šiek tiek panašus į tai, kad jūs "žinote", kad kauliukai yra tikriateiti kitoje mesti gyvatės akis.
Vienintelis dalykas, su kuriuo mes galime pasakyti, yra tai, kad jei jūs nerimuojate, kad kitą savaitę atsineškite rausvą slydimą iš kompiuterizuoto kasos aparato, pabandykite nepatyrinėti."Taco Bell" vis dar bus atvira "Taco" antradieniams, o žmogus, be jokios abejonės, vėl priims jūsų užsakymą prie lango( ir vėl pamirsite žalią padažą).Pasak "James Barrat" atlikto tyrimo, atlikto praėjusių metų AGI aukščiausiojo lygio susitikime Kvebeke, žiuri sudėtingoje AI tvarkaraštyje vis dar nėra. Mažiau nei pusė visų dalyvaujančiųjų teigė, kad jie tiki, kad iki 2025 m. Galėsime pasiekti tikrą AGI, o daugiau kaip 60 proc. Teigė, kad tai užtruks bent 2050 m., Jei ne ateinant į kitą amžių ir už jos ribų.
Sunkios datos įvedimas su skaitmeniniu likimu yra šiek tiek panašus į tai, kad jūs žinote, kad ši diena yra 34 metų nuo šiandienos. Atotrūkis tarp tikros AGI ir pažengusio dirbtinio superintegracijos yra toks plonas, kad viskas bus labai teisinga arba labai baisi neteisinga, labai greitai. Ir nors kvantiniai kompiuteriai yra šiek tiek per horizontą, ir mes visi turime tinklo kišenėje esančius išmaniuosius telefonus, galinčius persiųsti signalus į erdvę, mes vis dar nesunkiai įsimename suprasti "kodėl", kodėl mes galvojame apie dalykus, kaip mesdaryk, arba kai sąmonė netgi ateina iš pradžių.
Įsivaizduokite, kad atsitiktinai galėtume sukurti dirbtinį mąstymą, liudijantį visais savo trūkumais ir evoliucinėmis prastaisiais uždegimais - kol mes net nežinome, kas tai daro mus, kas mes esame, yra žmogaus ego egzistencijos esmė.
Galų gale, nepaisant mūsų nepakenčiamo noro nuspręsti, kas ateityje vyks į ateitį į karą ir( arba) taikos sutartį tarp žmonijos ir mašinų, tai yra ribotų lūkesčių ir neribotų galimybių konkursas, ir viskas, ką mes darome, ginčijasemantika tarp.Žinoma, jei jūs esate švieži iš vidurinės mokyklos ir norite gauti savo taksi vairuotojo pažymėjimą, "Uber" generalinis direktorius turi pusę milijono priežasčių, kodėl turėtumėte galbūt galvoti apie karjeros kažkur kitur.
Bet jei jūs sukaupiate ginklus ir konservuotus pupelius AI apokalipsės, jums gali būti geriau praleisti laiką mokytis, kaip dažyti, koduoti ar parašyti kitą didžiulį Amerikos romaną.Net pagal pačius konservatyviausius skaičiavimus tai bus daugybė dešimtmečių, kol bet kuri mašina išmoksta, kaip būti "Monet", arba moko save "C #" ir "Java", nes žmonėms būdingas kūrybiškumas, gudrybės ir gebėjimas išreikšti savo vidinį šnipą kaip neautomatizuotas kavos virimo aparatas kada nors galėtų.
Taip, kartais galime šiek tiek emocionuotis, atsipalaiduoti darbe ar užtrukti į vidų, tačiau galbūt tai yra būtent , nes mes esame žmonės, kad kyla grėsmėkažkas didesnis už mus viduje, vis dar yra ilgas, toli gražu.
Image Credits: "Disney Pixar", "Paramount Pictures", "Bosch", "Youtube" / "TopGear", "Flickr" / LWP Communications "Flickr" / "BagoGames", "Wikimedia Foundation", "Twitter", "WaitButWhy" 1, 2