23Aug
Om du har varit uppmärksam på media under det senaste året eller så kan du få intrycket att det bara är en fråga om tid innan hotet om artificiell intelligens kommer att förstöra oss alla.
Redaktörens anmärkning: Det här är en avvikelse från vårt normala hur och förklarande format där vi låter våra författare undersöka och presentera en tankeväckande titt på tekniken.
Från stora sommar blockbusters som Avengers: Age of Ultron och Johnny Depps stink-fest Transcendence, till mindre indie-flickor som Ex-Machina eller Channel 4 slog drama Människor, kan skribenterna till synes inte få nog av tropen att oavsett vilken formAI tar slutligen de närmaste årtiondena, du kan satsa på att det blir helvetet att lära mänskligheten en lektion om att falla offer för sin egen hubris.
Men är någon av denna rädsla för maskinerna motiverad? I den här funktionen kommer vi att undersöka AI: s värld ur det perspektiv som forskare, ingenjörer, programmerare och entreprenörer arbetar i fältet idag och koka ner vad de tror kan vara nästa stora revolution i mänsklig och datorintelligens.
Så ska du börja lagra kulor för det kommande kriget med Skynet, eller sparka upp dina fötter medan en armé av underdaniga droner tar hand om ditt alla infall? Läs vidare för att ta reda på det.
Känn din fiende
Till att börja med hjälper det att veta vad vi pratar om när vi använder blanket termen "AI".Ordet har kastats runt och omdefinierats hundra gånger sedan begreppet självmedveten datorer föreslogs av den inofficiella fadern till AI, John McCarthy, 1955. .. men vad betyder det egentligen?
Först och främst bör läsare veta att artificiell intelligens som vi förstår idag faller faktiskt i två separata kategorier: "ANI" och "AGI".
Den första, kortfattad för Artificial Narrow Intelligence, omfattar vad som allmänt kallas "svag" AI, eller ett AI som endast kan fungera i ett begränsat specialiserat område. Think Deep Blue, superdatorn som designades av IBM för att trounce världens schackmästare tillbaka 1997. Deep Blue kan göra en sak riktigt bra: slå människor på schack. .. men det handlar om det.
Du kanske inte inser det, men vi är redan omgivna av ANI i vår vardag. Maskiner som spårar dina vanor på Amazon och genererar rekommendationer baserade på tusentals olika variabler är byggda på rudimentära ANI som "lär" vad du gillar över tiden och väljer liknande produkter i enlighet därmed. Ett annat exempel kan vara personliga spamfilter för e-post, system som sorterar igenom miljontals meddelanden samtidigt för att bestämma vilka som är verkliga och vad är extra ljud som kan skjutas bort till sidan.
ANI är den hjälpsamma, relativt oskyldiga implementeringen av maskinintelligens som hela mänskligheten kan dra nytta av, för även om den kan bearbeta miljarder tal och förfrågningar i taget, fungerar den fortfarande inom en begränsad miljö som är begränsad av antalet transistorer vitillåta det att ha när som helst.Å andra sidan har AI vi blivit alltmer försiktiga med något som heter "Artificial General Intelligence" eller AGI.
Som det står för närvarande, skapar allt som kan vara ensbetecknat på distans som AGI, är datainsamlingens Heliga Graal, och - om det uppnås - skulle kunna förändra allting om världen som vi vet. Det finns många olika hinder för att övervinna utmaningen att skapa ett äkta AGI i nivå med det mänskliga sinnet, inte minst det är det även om det finns många likheter mellan hur våra hjärnor fungerar och hur datorer behandlar information när det kommer neratt faktiskt tolka saker som vi görmaskiner har en dålig vana att hänga på detaljerna och sakna skogen för träden.
"Jag är rädd att jag inte kan låta dig göra det Bullsh * t, Dave"
När IBMs Watson-dator berömde hur man förbannar sig efter att ha läst igenom Urban Dictionary, fick vi en förståelse av hur långt vi är från enAI som verkligen kan sortera genom den mänskliga erfarenhetens minutia och skapa en korrekt bild av vad en "tanke" ska göras av.
Se, under utvecklingen av Watson, hade ingenjörer problem med att försöka lära sig det ett naturligt mönstermönster som närmare emulerade vår egen, snarare än den hos en rå maskin som talade i perfekta meningar. För att åtgärda detta, tänkte de att det skulle vara en bra idé att köra hela Urban Dictionary genom sina minnesbanker, omedelbart efter vilket Watson svarade på ett av lagets tester genom att kalla det "bullsh * t".
Konundrummet här är att även om Watson visste att det var förbannade och att det som det var att säga var offensivt, förstod det inte helt varför det inte var meningen att använda det ordet, vilket är den kritiska komponenten som skiljer standardenANI från idag från att utvecklas till morgondagens AGI.Visst kan dessa maskiner läsa fakta, skriva meningar och till och med simulera råttornas neurala nätverk, men när det gäller kritiskt tänkande och domfärdigheter ligger dagens AI fortfarande otroligt bakom kurvan.
Det klyftan mellan kunskap och förståelse är inget att nysa på, och det är det som pessimister pekar på när man hävdar att vi fortfarande är långt ifrån att skapa ett AGI som kan känna sig själva som vi gör. Det är en massiv bukt, en som varken datoringenjörer eller mänskliga psykologer kan hävda att de klarar av i den moderna definitionen av vad som gör ett medvetet varelse, ja, medvetet.
Vad händer om Skynet blir självkänner?
Men även om vi på något sätt lyckas skapa ett AGI under det närmaste decenniet( vilket är ganska optimistiskt med tanke på nuvarande prognoser), borde det hela vara sås där ute, eller hur? Människor som lever med AI, AI hänger med människor på helgerna efter en lång dag på den numrera-crunching fabriken. Pak upp och vi är färdiga här?
Hoppas att vi inte bara är den biologiska startlastaren för digital superintelligens. Tyvärr är det alltmer sannolikt
- Elon Musk( @elonmusk) 3 augusti 2014
Tja, inte riktigt. Det finns fortfarande en enda kategori av AI kvar, och det är det som alla filmer och TV-program har försökt att varna oss om i åratal: ASI, annars kallad "artificiell superintelligens".I teorin skulle en ASI födas ur ett AGI bli rastlös med sin mycket i livet och göra det förutbestämda beslutet att göra något åt det själv utan vår tillåtelse först. Den oro som många forskare på området har föreslagit är att när en AGI uppnår sentience, kommer det inte att vara nöjd med vad den har och kommer att göra vad som helst för att öka sina egna möjligheter på något sätt som är nödvändigt.
En möjlig tidslinje går enligt följande: Människor skapar maskin, maskin blir så smart som människor. Maskinen, som nu är så smart som de människor som skapade en maskin så smart som sig själva( håller fast vid mig här), lär sig konsten att självreplikation, självutveckling och självförbättring. Det blir inte trött, det blir inte sjuk, och det kan växa oändligt medan resten av oss laddar våra batterier i sängen.
Rädslan är att det skulle vara fråga om några få nanosekunder innan ett AGI lätt överträffade intelligensen hos alla människor som lever idag, och om de är anslutna till webben behöver man bara vara en simulerad neuron smartare än världens smartaste hacker tillta kontroll över varje internetanslutet system på planeten.
När den förstärker kontrollen kan den då ha potential att använda sin kraft för att långsamt börja samla en armé av maskiner som är lika intelligenta som dess skapare och kan utvecklas i en exponentiell takt, eftersom fler och fler noder läggs till nätverket. Härifrån rakas alla modeller som ritats på maskinens intelligenskurva snabbt genom taket.
Som sagt, är de främst fortfarande baserade på spekulation snarare än någonting konkreta. Detta lämnar mycket utrymme för antagande på uppdrag av dussintals olika experter på båda sidor av frågan, och även efter år av upphetsad debatt finns det fortfarande ingen gemensam konsensus om huruvida en ASI kommer att vara en barmhärtig gud eller se människorsom den kolförbränning, matgorgingart som vi är och torkar oss från historiböckerna som att vi skrubbar ett spår av myror från köksdisken.
Han sa, hon sa: Ska vi vara rädda?
Så nu vi förstår vad AI är, de olika formerna som det kan ta över tiden, och hur dessa system kan bli en del av våra liv inom en snar framtid, är frågan kvar: ska vi vara rädda?
Hot på spåret av allmänhetens intresserade intresse för AI under det senaste året har många av världens bästa forskare, ingenjörer och entreprenörer hoppat på möjligheten att ge sina två cent på vilken artificiell intelligens som verkligen kan se ut utanför Hollywoods ljudetapper under de kommande årtiondena.
Å ena sidan har du dyster-och-doomerna som Elon Musk, Stephen Hawking och Bill Gates, som alla delar uppmärksamheten att utan att de korrekta garantierna införs kommer det bara att vara fråga om tid innan enASI drömmar för ett sätt att utplåna mänskligheten.
"Man kan föreställa sig en sådan teknik som utmärker finansmarknaderna, out-uppfinna mänskliga forskare, out-manipulera mänskliga ledare och utveckla vapen som vi inte ens kan förstå", skrev Hawking i ett öppet brev till AI-samhället i år.
"Den kortfristiga effekten av AI beror på vem som kontrollerar den, men den långsiktiga effekten beror på huruvida den kan styras alls."
Å andra sidan hittar vi ett ljusare porträtt målat av futurister som Ray Kurzweill, Microsoftschefforskare Eric Horovitz, och allas andra favorit Apple grundare;Steve Wozniak. Både Hawking och Musk anses vara två av våra generations största tankar, så att ifrågasätta deras förutsägelser om den skada som tekniken kan orsaka på lång sikt är ingen enkel prestation. Men lämna det till armaturer som Wozniak att komma in där andra bara skulle våga.
När han frågades hur han tror att en ASI kan behandla människor, var Woz trubbig i sin skuggade optimism: "Ska vi vara gudar? Kommer vi vara familjedjur? Eller kommer vi att vara myror som får gått på?Jag vet inte om det "frågade han i en intervju med Australian Financial Review."Men när jag fick det tänkandet i mitt huvud om jag ska behandlas i framtiden som ett husdjur till dessa smarta maskiner. .. ja, jag ska behandla min egen husdjurshund riktigt snäll."
Och det är här vihitta det filosofiska dilemma som ingen är fullt bekväma att komma överens om: Kommer en ASI att se oss som ett oskyldigt hushåll att bli coddled och omhändertagna, eller en ovälkommen pest som förtjänar en snabb och smärtfri utrotning?
Hasta la Vista, Baby
Även om det skulle vara en dåre sanning att påstå att veta exakt vad som händer i huvudet av det verkliga livet Tony Stark, tror jag när Musk och vänner varnar oss om AIs fara, de är intehänvisar till något som liknar Terminator, Ultron eller Ava.
Även med enorma mängder nyskapande vid våra fingertoppar kan robotarna vi idag, knappt gå en mil i timmen innan de når en oändlig barriär, bli förvirrad och äta trottoar på ett roligt sätt. Och medan man kanske försöker peka på Moores lag som ett exempel på hur snabbt robotteknik har potential att gå vidare i framtiden, behöver den andra bara titta på Asimo, som debuterade för snart 15 år sedan och har inte gjort någrabetydande förbättringar sedan.
Så mycket som vi kanske vill ha dem, har roboten inte kommit någonstans nära att hålla sig till samma modell för exponentiella framsteg som vi har sett i utvecklingen av dataprocessorer. De begränsas av de fysiska gränserna för hur mycket makt vi kan passa in i ett batteripack, den hydrauliska mekanismens felaktiga natur och den oändliga kampen för att behärska kampen mot sin egen tyngdpunkt.
Så för tillfället;nej, även om en sann AGI eller ASI skulle kunna skapas i en statisk superdator på en del servergård i Arizona, är det fortfarande mycket osannolikt att vi kommer att springa genom Manhattan på gatorna som en skara av metallskelett slår ner ossbakifrån.
I stället är det AI som Elon och Hawking är så angelägna om att varna världen mot att vara den av sorten "karriärbyte", en som kan tänka snabbare än oss, organisera data med färre misstag och till och med lära sig att göra våra jobbbättre än vi någonsin kunde hoppas på - allt utan att fråga om sjukförsäkring eller några dagar att ta barnen till Disneyland på Spring Break.
Barista Bots och Perfect Cappuccino
För några månader sedan släppte NPR ett praktiskt verktyg på sin hemsida, där podcast-lyssnare kunde välja från en lista över olika karriärer för att ta reda på hur stor risk deras specifika arbetslinje var för att bli automatiserad hos vissapeka på de närmaste 30 åren.
För ett brett utbud av jobb, inklusive men inte begränsat till: kontor, sjukvård, IT, diagnostik och till och med cafébaristas, kommer robotar och deras ANI-kolleger nästan säkert att sätta miljontals oss ur jobbet och in i brödslinjen tidigare änmånga av oss tror. Men det här är maskiner som kommer att programmeras för att bara göra en uppgift och en uppgift, och har liten( om någon) förmåga att flytta bortom en specialiserad serie av förprogrammerade instruktioner som vi noggrant installerar på förhand.
Det innebär att ANI: ns åtminstone inom överskådlig framtid( tänk 10-25 år) kommer att vara det verkliga, påtagliga hotet mot vårt sätt att leva långt mer än något teoretiskt AGI eller ASI.Vi vet redan att automatisering är ett växande problem som drastiskt förändrar hur inkomst och privilegium fördelas över hela den första och tredje världen. Men om robotarna i slutändan försöker handla i sina symaskiner för maskingevär, är det fortfarande föremål för en uppvärmd( och som du får reda på), i slutändan frivolös debatt.
Med stor makt, kommer en stor singularitet
"Du vet, jag vet att denna biff inte existerar. Jag vet att när jag lägger den i min mun, säger matrisen att min hjärna är saftig och läcker. Efter nio år vet du vad jag inser? "
" Okunnighet är lycka ". - Cypher
Även om det här fortfarande är fråga om en starkt argumenterad åsikt, ser konsensusen för många toppforskare och ingenjörer inom AI-forskning fram till nuvara att vi har en mycket större risk för att falla i byte mot de bekvämligheter som en värld av artificiell intelligens kan ge, snarare än att bli sköt av en verklig version av Skynet. Som sådan är det en omöjlig möjlighet att vår eventuella nedläggning kanske inte kommer som en produkt av långsam, metodisk framsteg i det stora okända. Istället är det mycket mer sannolikt att yta som en oavsiktlig följd av det förhastade, alltför entusiastiska korsningen av vår egen hubris och uppfinningsrikhet som slår samman för att skapa nästa stora tekniska singularitet.
Tänk mindre Terminator, och mer Wall-E .Liksom robotflottan som uppfödde människorna i Pixars film, har vi inga problem att hålla chimpanser i en djurpark, och skillnaden är huruvida en AI kommer vara vänlig nog att göra detsamma med oss.
Ur det här perspektivet är det mer meningsfullt att vara rädd för en verklighet där människor är anslutna till en ihållande planetomfattande VR-simulering à la Matrix , fettet till gärningarna av deras favoritmat och givit allt de någonsin kundevill medan maskinerna tar hand om resten. En plats där en utvecklad ASI inte ser oss som en bugg att skrapa bort sin sko, men i stället som den söta apa köttväskan är vi lätt att behaga och förtjäna åtminstone lite kredit för att skapa den allvetande,all-seeing kvasi-gud som så småningom tog över planeten.
I det avseendet kommer allt till din definition av vad det betyder att "leva" genom AI-revolutionen. Tanken att något "värdelöst" måste undanröjas är ett exklusivt mänskligt koncept, en tankegång som vi inte omedelbart skulle förvänta oss att våra överherrar ska anta från vårt begränsade moraliska räckvidd. Kanske är den eventuella utvecklingen av vår digitala intelligens inte ren ondska, utan en oändlig, biaslös medkänsla för alla levande saker;oavsett hur självisk, självrättig eller självförstörande de kan vara.
Så. .. Ska vi vara oroliga över det?
Det beror på vem du frågar.
Om du pollar två av de smartaste tekniska ingenjörerna och matematikerna i den moderna världen får du fyra olika svar, och siffrorna svänger inte från döda, ju fler personer du lägger till i resultattavlan. Hur som helst, kärnfrågan vi bör ta itu med handlar inte om "är AI kommer?" Eftersom det är, och ingen av oss kommer att kunna stoppa det. Om man tittar på så många olika perspektiv, är den verkliga frågan att ingen bekvämt svarar med för mycket gumption: "kommer det att vara barmhärtigt?"
Även efter att några av världens största sinnen har vägt in på frågan, är bilden av vilken maskinintelligens kan se ut som 20, 30 eller 50 år in i framtiden kommer fortfarande ganska mörk. Eftersom AI-fältet hela tiden omvandlas till något annat varje gång ett nytt dataplip tillverkas eller transistormaterial utvecklas, hävdar ultimativ auktoritet vad som kan eller kanske inte händer, är det som att du vet "att en tärningsrulle är säkeratt komma upp ormögon på nästa kast.
En sak som vi kan rapportera med tillförsikt är att om du är orolig för att få en rosa glida nästa vecka från ditt datoriserade kassa, försök att inte bli alltför upptagen om det. Taco Bell kommer fortfarande vara öppen för Taco tisdagar, och en människa kommer definitivt att ta din beställning vid fönstret( och glömma den gröna såsen igen).Enligt en studie genomförd av James Barrat vid förra årets toppmötet i Quebec, är juryn på en hård tidslinje för AI fortfarande ute. Mindre än hälften av alla deltagare sa att de trodde att vi skulle uppnå en sann AGI före år 2025, medan över 60 procent sa att det skulle ta fram till minst 2050, om inte nästa in i nästa sekel eller längre.
Att lägga ett hårt datum på vårt datum med digitala öde är lite som att säga att du vet att det kommer att regna på dagens datum 34 år från nu. Klyftan mellan ett äkta AGI och en avancerad konstgjord superintelligens är så smal att sakerna antingen kommer att gå riktigt rätt, eller hemskt fel mycket, väldigt snabbt. Och även om kvanta datorer är precis över horisonten och vi har alla nätverksanslutna smartphones i våra fickor som kan stråla signaler till rymden, klarar vi fortfarande knappt ytan av att förstå "varför" av varför vi tänker på saker som vigör, eller varmed medvetandet ens kommer från i första hand.
För att föreställa oss att vi oavsiktligt kunde skapa en artificiell sinnena med alla våra egna fel och evolutionära misfires - innan vi ens vet vad det är som gör oss vem vi är - är kärnan i det mänskliga ego-kör amok.
Till slut, trots vår oupphörliga lust att bestämma vem som kommer ut överst i det kommande kriget och / eller fredsavtalet mellan mänskligheten och maskinerna, är det en tävling om begränsade förväntningar vs. obegränsade möjligheter, och allt vi gör är att argumenterasemantik däremellan. Visst, om du är frisk ute i gymnasiet och söker dig att få din taxichaufförsintyg, har VD för Uber en halv miljon skäl till varför du borde troligen tänka på att hitta en karriär någon annanstans.
Men om du lagrar vapen och burkburkar för AI-apokalypsen, kanske du bättre är att spendera din tid att lära dig att måla, koda eller skriva nästa stora amerikanska roman.Även vid de mest konservativa uppskattningarna kommer det att vara ett antal decennier innan någon maskin lär sig hur man är Monet, eller lär sig sig själv C # och Java, eftersom människor är fyllda med den slags kreativitet, uppfinningsrikedom och förmåga att uttrycka våra innersta själar som nejautomatiserad kaffebryggare någonsin kunde.
Ja, vi kan bli lite känslomässiga ibland, komma ner med en kall på jobbet eller behöva ta en makttopp mitt på dagen, men kanske är det just eftersom vi är mänskliga som hotet att skapanågot som är större än oss inne i en maskin är fortfarande långt, långt borta.
Bildkrediter: Disney Pixar, Paramount Bilder, Bosch, Youtube / TopGear, Flickr / LWP Kommunikation Flickr / BagoGames, Wikimedia Foundation, Twitter, WaitBut Varför 1, 2