23Aug

Miten keinotekoinen älykkyys muuttaa elämämme, parempaan tai pahempiin

click fraud protection

Jos olet kiinnittänyt huomiota medialle viimeisen vuoden aikana, saatat saada vaikutelman siitä, että se on vain ajan kysymys, ennen kuin tekoälyn uhka tulee tuhoamaan meidät kaikki.

Toimittajan huomautus: tämä eroaa normaalista tavallisesta ja selittävästä muodosta, jossa voimme antaa kirjailijamme tutkimaan ja esittämään ajattelevaa tekniikkaa.

Suurten kesän blockbusters kuten Avengers: Age of Ultron ja Johnny Depp's Stink-fest Transcendence, pienempiä, indie-vihjeitä kuten Ex-Machina tai Channel 4: n hit draama ihmisten, käsikirjoittajat näennäisesti ei voi saada tarpeeksi trope, joka ei ole väliä mitä muotoaAI ottaa lopulta seuraavan vuosikymmenen, voit lyödä vetoa, että se on helvetin taivutettu opettaa ihmiskuntaa oppiaiheen siitä, että hän joutuu uhraamaan omaa hölynpölyä.

Mutta onko koneiden pelko perusteltua? Tässä ominaisuudessa tarkastelemme AI: n maailmaa tällä hetkellä työskentelevien tutkijoiden, insinöörien, ohjelmoijien ja yrittäjien näkökulmasta ja heiluttavat sen, minkä he uskovat voivansa olla seuraava suuri ihmisen ja atk-älykkyyden vallankumous.

instagram viewer

Joten jos aloitat luodin varastoinnin tulevalle sodalle Skynetin kanssa tai joudut potkia jalkojasi, kun taas alikuntoisten sotureiden armeija huolehtii jokaisesta hermostasi? Lue selville.

Know Your Enemy

Aluksi se auttaa tietämään, mistä juuri puhumme, kun käytämme yleistä termiä "AI".Sanaa on kierretty ja määritelty uudelleen sata kertaa, koska itsetietoisten tietokoneiden käsite oli ensimmäisen kerran ehdolla AI: n epäviralliselle isälle John McCarthy vuonna 1955. .. mutta mitä se todella tarkoittaa?

No, ennen kaikkea lukijoiden pitäisi tietää, että tekoäly, koska ymmärrämme sen tänään kuuluu todellakin kahteen erilliseen luokkaan: "ANI" ja "AGI".

Ensimmäinen, lyhyt Artificial Narrow Intelligence -sovellus, käsittää sen, mitä yleensä kutsutaan "heikoksi" AI: ksi tai AI: ksi, joka voi toimia vain yhdessä erikoistumisalueessa. Think Deep Blue, IBM: n suunnittelemaa supertietokonetta, joka rikkoi maailman shakkilaajennuksia jo vuonna 1997. Deep Blue voi tehdä yhden asian todella hyvin: voittaa ihmisiä shakkissa. .. mutta se on siitä.

Et ehkä ymmärrä sitä, mutta olemme jo ympäröineet ANI jokapäiväisessä elämässämme. Koneet, jotka seuraavat ostostottumustasi Amazonissa ja tuovat tuhansia eri muuttujia koskevia suosituksia, perustuvat alkeellisiin ANI-laitteisiin, jotka "oppivat" haluamallasi tavalla ja valitsemaan vastaavia tuotteita vastaavasti. Toinen esimerkki voisi olla henkilökohtaisia ​​sähköpostiosoitteita roskapostisuodattimille, järjestelmiä, jotka lajittelevat miljoonien viestejä kerralla päättäessään, mitkä ovat todellisia, ja mitä ylimääräistä kohinaa voidaan siirtää sivulle.

ANI on koneen älykkyyden hyödyllinen, suhteellisen vaaraton toteutus, jota koko ihmiskunta voi hyötyä, koska vaikka se kykenee käsittelemään miljardeja numeroita ja pyyntöjä kerrallaan, se toimii edelleen rajoitetussa ympäristössä, jonka rajoittaa transistoreiden määrä, jotaanna sen olla milloin tahansa. Toisaalta AI: n, jota olemme yhä varovaisempia, on nimeltään "Artificial General Intelligence" eli AGI.

Nykyään se, että se luo kaiken, jota voidaan edes kutsua AGI: ksi, on tietokonetieteen pyhä Graal, ja - jos se saavutetaan - voisi olennaisesti muuttaa kaiken maailman, kuten tiedämme. On olemassa monia erilaisia ​​esteitä, joiden avulla pystytään kohtaamaan todellinen AGI: n haaste paremmaksi ihmisen mielen kanssa. Ei ole myöskään selvää, että vaikka aivot toimivat ja miten tietokoneet käsittelevät tietoa, kun se tulee alastosiasiallisesti tulkitsemaan asioita tapaan;koneilla on huono tapa saada irti yksityiskohtia ja puuttua metsään puista.

"Pelkäänpä, etten voi antaa sinun tehdä, että Bullsh * t, Dave"

Kun IBM: n Watson-tietokone herätti tunnetusti kirouksen Urban-sanakirjaa lukemisen jälkeen, saimme käsityksen siitä, kuinka kaukana me olemmeAI, joka todella pystyy lajittelemaan ihmiskokemuksen minuuttia ja luomaan tarkan kuvan siitä, mitä "ajatus" on tarkoitus tehdä.

Katso, Watsonin kehittymisen aikana insinööreillä oli vaikeuksia yrittää opettaa sille luonnollista puheen muotoa, joka tarkemmin omaksui omia, eikä raakakoneen, joka puhui täydellisissä lauseissa. Tämän korjaamiseksi he ajattelivat, että olisi hyvä käydä koko Urban Dictionary kautta sen muisti pankit, heti, minkä jälkeen Watson vastasi jompaankumpaan testin kutsumalla sitä "bullsh * t".

Ongelmana tässä on se, että vaikka Watson tiesi, että se kirosi ja että se oli sanonta oli loukkaavaa, se ei ymmärtänyt täysin : tä, miksi : n ei pitänyt käyttää sanaa, joka on kriittinen komponentti, joka erottaa standardinANI tänään kehittyy osaksi AGI huomisesta. Toki nämä koneet voivat lukea tosiasioita, kirjoittaa lauseita ja jopa simuloida rotan hermoverkkoa, mutta kun kyse on kriittisestä ajattelusta ja tuomion taidoista, nykyinen AI on vielä viheltävän kauheasti käyrän takana.

Tämä kuilu tuntemisen ja ymmärryksen välillä ei ole mitään ahdistusta, ja se, jota pessimistit osoittavat, kun väittävät, että meillä on vielä pitkät keinot luoda AGI, joka kykenee tuntemaan itsemme. Se on massiivinen kuilu, jota ei tietotekniikan insinöörejä eikä ihmispsykologeita voi väittää olevansa tarttumassa nykypäivän määritelmään siitä, mikä tekee tietoisen olennon, ja : n tietoinen.

Mitä jos Skynetistä tulee itsestäänselvyys?

Mutta vaikka pystymme jonkin verran luomaan AGI seuraavan vuosikymmenen aikana( mikä on melko optimistinen ottaen huomioon nykyiset ennusteet), kaikkien pitäisi olla kastettu sieltä ulos, eikö?Ihmiset, jotka elävät AI: lla, AI: lla hengailemalla ihmisiä viikonloppuisin pitkän päivän jälkeen lukuisat rappauslaitoksessa. Pakkaa, ja olemme täällä töissä?

Toivottavasti emme ole vain biologinen käynnistyslataaja digitaaliselle superintelligenssille. Valitettavasti se on yhä todennäköisempi

- Elon Musk( @elonmusk) 3. elokuuta 2014

No, ei aivan. Jäljellä on vielä yksi AI-luokka, ja se on se, jota kaikki elokuvat ja TV-ohjelmat ovat yrittäneet varoittaa meitä jo vuosia: ASI, joka tunnetaan myös nimellä "keinotekoinen Super Intelligence".Teoriassa ASI syntyisi AGI: stä, joka levisi levottomaksi elämänsä kanssa ja teki harkitusti päätöksen tekemään jotain itsestään ilman lupaa ensin. Huolta monet alan tutkijat ovat ehdottaneet, että kun AGI saavuttaa tunteen, se ei ole tyytyväinen siihen, mitä se saa, ja tekee kaiken voitavansa omien voimavarojensa lisäämiseksi tarvittavin keinoin.

Mahdollinen aikataulu menee seuraavasti: ihmiset luovat koneen, kone tulee älykkääksi kuin ihmisille. Kone, joka on nyt älykkäämpi kuin ihmiset, jotka loivat koneen niin älykkääksi kuin itse( tartu tähän tänne), oppii itsensä replikoinnin taidetta, itsensä kehittämistä ja itsensä kehittämistä.Se ei väsy, se ei sairastu, ja se voi kasvaa loputtomasti, kun taas me muut lataamme akkuja sängyssä.

Pelko on se, että se olisi vain muutama nanosekunti, ennen kuin AGI ylitti helposti kaikkien ihmisten älykkyyden ja jos se on yhteydessä verkkoon, tarvitsee vain olla yksi simuloitu neuroni älykkäämpiä kuin maailman älykkäämpi hakkerihallita kaikkia Internetiin liitettyjä järjestelmiä planeetalla.

Kun se saa hallinnan, se voi sitten käyttää potentiaaliaan hitaasti käynnistämään koneiden armeijaa, jotka ovat yhtä älykkäitä kuin sen luoja ja voivat kehittyä eksponentiaalisella nopeudella, kun yhä useampia solmuja lisätään verkkoon. Tällöin kaikki koneen älykkyyden käyrällä piirretyt mallit hajoavat nopeasti katon läpi.

Sanoivat kuitenkin, että ne perustuvat ensisijaisesti spekulaatioon, eikä mitään konkreettisia. Tämä jättää paljon tilaa olettamalle kymmenien erilaisten asiantuntijoiden puolesta molemmin puolin asiasta, ja jopa vuosien kiihkeän keskustelun jälkeen ei ole vieläkään yleistä yhteisymmärrystä siitä, onko ASI ihmisarvoinen jumala vai ei.kuten hiilipoltto-, ruoka-gorging lajit että olemme ja pyyhkiä meidät historian kirjoista kuin me pensaat jäljittää muurahaisia ​​pois keittiön laskuri.

Hän sanoi, Hän sanoi: Pitäisikö meidän pelätä?

Niinpä nyt, kun ymmärrämme mitä AI on, eri muodot, joita se voi kestää ajan myötä ja miten nämä järjestelmät voivat tulla osaksi elämäämme lähitulevaisuudessa, on edelleen kysymys: olisiko me pelkäämme?

Suuri yleisö on kärsinyt AI: n kiinnostuksesta viimeisen vuoden aikana, ja monet maailman huippututkijoista, insinöörit ja yrittäjät ovat hyppäsi tilaisuuteen antaa kaksi senttiään siitä, mitä tekoäly voi näyttää ulkonäöltään Hollywoodin ulkopuoleltaseuraavien vuosikymmenten aikana.

Toisaalta teillä on sellaisia ​​mädäntasaajia, kuten Elon Musk, Stephen Hawking ja Bill Gates, jotka kaikki ovat huolissaan siitä, että ilman asianmukaisia ​​suojalausekkeita on vain ajankohta ennenASI unelmoi keinon pyyhkiä ihmiskunta.

"Voidaan kuvitella, että tällainen teknologia on hämmentävää rahoitusmarkkinoita, kekseliäitä tutkijoita, manipuloimattomia ihmisjohtajia ja kehittää aseita, joita emme voi edes ymmärtää", Hawking kirjoitti AI-yhteisöön avoimessa kirjeessä tänä vuonna.

"Vaikka AI: n lyhyen aikavälin vaikutus riippuu siitä, kuka ohjaa sitä, pitkän aikavälin vaikutus riippuu siitä, voidaanko sitä ohjata ollenkaan."

Toisaalta löydämme kirkkaammat muotokuvat futuristien, kuten Ray Kurzweillin, Microsoftinjohtava tutkija Eric Horovitz ja kaikkien : n toinen suosikki Apple-perustaja;Steve Wozniak. Sekä Hawking että Musk pidetään kahden sukupolven suurimpana mielenä, joten kyseenalaistamalla niiden ennustukset teknologian aiheuttamasta vahingosta pitkällä aikavälillä ei ole helppoa. Mutta jätä se Wozniakin kaltaisiin valaisimiin, jotta he astuisivat sisään, missä muut vain uskaltaisivat.

Kysyttäessä, kuinka hän uskoo, että ASI voisi kohdella ihmisiä, Woz oli tylppä varjoisessa optimismisssa: "Olisiko me jumalia? Aiotteko olla perheen lemmikkieläimiä?Vai olisimmeko muurahaisia, jotka päätyvät? En tiedä siitä ", hän kysyi haastattelussa Australian Financial Review."Mutta kun saan tuon ajattelun päähäni, jos minua aiotaan kohdella tulevaisuudessa lemmikkinä näille älykkäille koneille. .. no, minä käsittelen omaa lemmikkikoiraani todella mukavaa."

Ja täällä melöytää filosofinen dilemma, jota kukaan ei ole täysin tyytyväinen päästäksymään yksimielisyyteen: tuleeko ASI nähdä meidät vaarattomana talonkoirtona, joka on turmeltunut ja hoidettu vai ei-toivottua tuholaista, joka ansaitsee nopean ja kivoton tuhoamisen?

Hasta la Vista, vauva

Vaikka olisikin tyhmä sanoa, että tiedän tarkalleen, mitä tosielämän päällä Tony Stark tekee, uskon, että kun Musk ja ystävät varoittavat AI: n vaarasta, he eivät olejoka viittaa kaikkiin Terminatorin, Ultronin tai Avan kaltaisiin.

Vaikka suuret innovaatiomme ulottuvilla sormenpäillämme, tänään saamat robotit voivat tuskin kävellä kilometriä tunnissa ennen kuin he saavuttavat läpäisemättömän esteen, sekaantuvat ja syövät kömpelöä tavalla. Ja vaikka Mooren laki voisi yrittää osoittaa esimerkkinä siitä, kuinka nopeasti robotiikan tekniikka voi edistyä tulevaisuudessa, toinen tarvitsee vain tarkastella Asimoa, joka ensiesiintynyt lähes 15 vuotta sitten eikä ole tehnyt mitäänmerkittäviä parannuksia sen jälkeen.

Niin paljon kuin voimme haluta heidät, robotiikka ei ole tullut lähelle samaa eksponentiaalisen edistyksen mallia kuin olemme nähneet tietokoneen prosessorin kehityksessä.Niitä rajoittavat fyysiset rajat, kuinka paljon voimaa voimme osua akkuihin, hydraulisten mekanismien viallinen luonne ja loputtoman kamppailu oman painopisteen torjumiseksi.

Joten toistaiseksi;ei, vaikka todellinen AGI tai ASI voitiin mahdollisesti luoda staattisessa supertietokoneessa jossain Arizonassa sijaitsevassa palvelinlaitoksessa, on silti erittäin epätodennäköistä, että löydämme itsemme Manhattanin kaduilla, kun metallisten luurankojen lauma leikkaa meidät alastakaapäin.

Sen sijaan AI, jonka Elon ja Hawking ovat niin innokkaita varoittamaan maailmaa vastaan, on "ura-korvaava" lajike, joka voi ajatella nopeammin kuin me, järjestää tietoja vähemmän virheitä ja jopa oppia tekemään töitäparempi kuin mitä voisimme koskaan toivoa - kaikki pyytämättä sairausvakuutusta tai muutaman päivän lomaa viemään lapset Disneylandiin kevätkolla.

Barista Bots ja Perfect Cappuccino

Muutama kuukausi sitten NPR julkaisi verkkosivustollaan kätevän työkalun, jossa podcastien kuuntelijat voisivat valita eri uranluettelosta selvittääkseen riskin prosenttiosuuden niiden tietyn työn linjan, joka on automatisoitu joissakinseuraavien 30 vuoden aikana.

Monenlaisia ​​työpaikkoja, mukaan lukien, mutta niihin rajoittumatta: toimistotilat, hoitotyö, IT, diagnostiikka ja jopa kahvilat, robottit ja niiden ANI-vastapuolet lähes varmasti saattoivat miljoonat meidät pois työstä ja leipälinjaan ennemmin kuinmonet meistä ajattelevat. Mutta nämä ovat koneita, jotka ohjelmoidaan tekemään vain yksi tehtävä ja yksi tehtävä ja joilla on vain vähän( jos sellaisia) kykyä siirtyä etukäteen suunnitelluista ohjeista, jotka asennamme huolellisesti etukäteen.

Tämä tarkoittaa, että ainakin lähitulevaisuudessa( ajatella 10-25 vuotta), ANI: t ovat todellisia, konkreettisia uhkia elämäntavoillemme paljon enemmän kuin mikään teoreettinen AGI- tai ASI-syy. Tiedämme jo, että automaatio on kasvava ongelma, joka muuttaa voimakkaasti tapoja, joilla tulot ja etuoikeudet jakautuvat koko ensimmäisen ja kolmannen maailman välillä.Kuitenkin, ovatko nämä robotit lopulta yrittäneet käydä kauppaa ompelukoneissaan konekivääreille, on edelleen kuumennettu( ja kuten huomaatte), lopulta turha keskustelu.

Suurella voimalla on suuri singulaarisuus

"Tiedän, tiedän, että tätä pihviä ei ole. Tiedän, että kun laitan sen suuhuni, Matrix kertoo minun aivoni, että se on mehukas ja herkullinen. Yhdeksän vuoden kuluttua tiedät, mitä ymmärrän? "

" Epäonnistuminen on intoa. "- Cypher

Vaikka tämä on edelleen kiihkeästi perusteltua mielipidettä, nyt monien huippututkijoiden ja insinöörien yhteisymmärrys AI-tutkimuksen alalla näyttää siltä, ​​ettäettä meillä on paljon suurempi riski siitä, että saalistetaan mukavuuksia, joita tekijänoikeuksien maailma voisi tarjota, eikä että se lakkaa Skynetin todellisesta versiosta. Sellaisena se on mahdollinen mahdollisuus, että meidän mahdollinen kuolema ei ehkä tule hitaasti ja järjestelmällisesti edistyneen suuresta tuntemattomuudesta. Sen sijaan se on paljon todennäköisempää pinnalla kuin tahattomana seurauksena ryntäänyt, ylimielinen leikkaus oman hubris ja kekseliäisyys likaantuvat yhdessä luoda seuraava suuri teknologinen singularity.

Ajattele vähemmän Terminator, ja enemmän Wall-E .Niin kuin robotit, jotka lihoitivat ihmisiä Pixarin elokuvassa, meillä ihmisillä ei ole mitään ongelmia pitää simpansseja eläintarhassa, ja erottelu on, onko AI tarpeeksi ystävällinen tekemään samoin kanssamme.

Tästä näkökulmasta on järkevämpää pelätä todellisuutta, jossa ihmiset ovat koukussa pysyvän planeetan laajuiseen VR-simulointiin Matrix , lihotettu omille suosikkielintarvikkeilleen ja antamalla kaiken, mitä he voisivat koskaanhaluavat, kun taas koneet huolehtivat loput. Paikka, jossa kehittynyt ASI ei näe meitä bugina raappaamaan kengänsä, vaan sen sijaan ihastuttavana apina lihapussina me olemme, helppoja miellyttää ja ansaita ainakin hieman luottoa kaiken tietävän,kaiken näkevä lähes jumala, joka lopulta otti haltuunsa planeetan.

Tässä suhteessa kaikki tulee alas määritelmääsi siitä, mitä tarkoittaa "elää" AI-vallankumouksen kautta. Ajatus siitä, että jotain "hyödytöntä" on tehtävä pois, on yksinomaan ihmisen käsite, ajattelutapa, jota meidän ei pitäisi välittömästi odottaa koneen päälliköiden hyväksyä rajoitetusta moraalisesta ulottuvuudestamme. Ehkäpä digitaalisen älykkyyden mahdollinen kehitys ei ole puhdasta pahaa, vaan ääretön, puolueettoman myötätunto kaikille eläville asioille;riippumatta siitä, kuinka he ovat itsekkäitä, itsetuhoisia tai itsetuhoisia.

Niin. .. Pitäisikö meidän olla huolissaan siitä?

Se riippuu siitä, kuka kysyt.

Jos valitset kahta älykkäämpää teknologiainsinööriä ja matemaatikkoa nykymaailmassa, saat neljä erilaista vastausta, ja numerot eivät vaikuta kuolleista, vaikka lisäät tulostauluun lisääviä henkilöitä.Joka tapauksessa, ydinkysymys, johon meidän pitäisi puhua, ei ole kyse "on AI coming?", Koska se on, ja kukaan meistä ei voi pysäyttää sitä.Kun tarkastellaan niin monia eri näkökulmia, todellinen kysymys, johon kukaan ei ole tyytyväinen vastatakseen liikaa pärjäämiseen, on: "Onko se armollinen?"

Vaikka jotkut maailman suurimmista mieleistä ovat punnittaneet asiaa,älykkyys voi näyttää 20, 30 tai 50 vuotta tulevaisuuteen silti tulee ulos melko hämärä.Koska AI: n ala muuttuu jatkuvasti muuksi aina, kun uuden tietokoneen siru valmistetaan tai transistorimateriaalia kehitetään, kun vaaditaan lopullista valtaa siitä, mikä saattaa tai ei tapahdu, on vähän kuin sanoa, että "tiedät", että nopatulla on varmaatulemaan käärmeen silmät seuraavaan heittoon.

Yksi asia, jonka voimme kertoa luottamuksellisesti, on, että jos olet huolissasi siitä, että saat seuraavan viikon vaaleanpunaisen lipun tietokoneistetusta kassakoneesta, yritä olla liian kiinni siitä.Taco Bell on edelleen auki Tacolle tiistaisin, ja ihminen tulee ehdottomasti ottamaan tilauksen ikkunasta( ja unohtamatta vihreää kastiketta).James Barratin viime vuoden AGI-huippukokouksessa Quebecissä tekemän tutkimuksen mukaan tuomaristo AI: n kovan aikajanan suhteen on edelleen poissa. Alle puolet kaikista osallistuneista sanoi, että he uskoivat saavuttavan todellisen AGI: n ennen vuotta 2025, kun taas yli 60 prosenttia sanoi, että se kestää ainakin 2050, ellei seuraavan seuraavan vuosisadan ja sen jälkeen.

Päivämäärän vahvistaminen digitaalisella kohtalolla on vähän kuin sanoa, että tiedät, että se satoi tänään päivämäärällä 34 vuotta. Todellisen AGI: n ja kehittyneen keinotekoisen super-älykkyyden välinen kuilu on niin ohut, että asiat joko menevät oikein, tai hirvittävän väärin hyvin, hyvin nopeasti. Ja vaikka kvantti-tietokoneet ovat juuri horisontin yläpuolella, ja meillä on kaikki verkotetut älypuhelimet taskuissamme, jotka voivat lähettää signaaleja avaruuteen, olemme vielä vain naarmuuntumalla pinnan ymmärtämisen "miksi", miksi ajattelemme asioita, kutentehdä, tai missä tietoisuus tulee edes ensiksi. Kuvitelkaamme, että voimme vahingossa luoda keinotekoisen mielen, joka on täynnä kaikkia omaa vikaamme ja evoluutiota koskevia epäonnistumisia - ennen kuin tiedämme, mikä se tekee meistä, jotka olemme - on inhimillisen egon ydin.

Lopulta, huolimatta kiistämättömästä halusta päättää, kuka tulee esiin tulevassa sodassa ja / tai ihmiskunnan ja koneiden välisessä rauhansopimuksessa, se on rajoitettu odotusarvo vs. rajattomat mahdollisuudet, ja kaikki, mitä me teemme, on kiistääsemantiikka välillä.Varmista, että jos olet tuoreista lukion yläpuolelta ja etsit taksin vetämistä, Uberin toimitusjohtajalla on puoli miljoonaa syytä, miksi sinun pitäisi luultavasti harkita uran etsimistä muualle.

Mutta jos varastat aseita ja purkitettuja papuja AI: n apokalyysiin, saatat olla parempi käyttää aikaa oppia maalaamaan, koodamaan tai kirjoittamaan seuraavan suuren amerikkalaisen romaanin. Jopa kaikkein varovaisimmilla arvioilla on useita vuosikymmeniä ennen kuin jokin kone oppii olemaan Monet tai opettaa itseään C # ja Javaa, koska ihmiset ovat täynnä luovuutta, kekseliäisyyttä ja kykyä ilmaista sisimmän itsenne kuten eiautomaattinen kahvinkeitin koskaan voinut.

Kyllä, voimme saada vähän tunteita joskus, laskeutua kylmällä työpaikalla tai tarvitsemme virtaa nappeen keskellä päivää, mutta ehkä se on juuri koska olemme ihmisiä, että uhka luodajotain suurempaa kuin meillä koneen sisällä on vielä pitkä, kaukana.

Image Credits: Disney Pixar, Paramount Kuvat, Bosch, Youtube / TopGear, Flickr / LWP -viestintä Flickr / BagoGames, Wikimedia Foundation, Twitter, WaitButWhy 1, 2