23Aug
Ja pēdējos gados esat pievērsis uzmanību plašsaziņas līdzekļiem, iespējams, radīsies iespaids, ka tas ir tikai laika jautājums, pirms mākslīgā intelekta draudi iznīcina mūs visus.
redaktora piezīme: tā ir atkāpe no mūsu parastā pamācības un paskaidrojošā formāta, kur mēs ļaujam mūsu autoriem izpētīt un iepazīstināt ar tehnoloģiju, kas domā par izaicinājumu.
No lielām vasaras blokbūriem, piemēram, Avengers: Ultrona laikmeta un Džonija Depa skaistuma festivāla Transcendence, mazākiem indie flicks, piemēram, Ex-Machina vai Channel 4 hit drama "Humans", scenāristi, šķietami nevar iegūt pietiekami daudz no trope, lai cik kāda formaAI galu galā uzņemas nākamās desmitgades, jūs varat izdarīt likmi, ka tā būs elle, liekot mācīt cilvēcei par stundu, kurā cietušais ir pakļauts savai kārtai.
Bet vai kāds no šīs mašīnas bailēm ir pamatots?Šajā rakstā mēs apskatīsim AI pasauli no zinātnieku, inženieru, programmētāju un šajā jomā strādājošo uzņēmēju skatpunkta viedokļa un varam noliegt to, ko viņi uzskata par nākamo lielo revolūciju cilvēku un datoru izlūkošanas jomā.
Tātad, vai jums vajadzētu sākt uzkrāt lodes nākamajam karam ar Skynet vai pacelties kājām, kamēr savvaļas dronu armija rūpējas par katru jūsu kaprīnu? Lasiet tālāk, lai uzzinātu.
Know Your Enemy
Lai sāktu, tas palīdz zināt, ko tieši mēs runājam, kad mēs izmantojam vispārīgo terminu "AI".Šis vārds ir izmests un rediģēts simts reižu, jo pašnodarbināto datoru jēdzienu pirmo reizi ierosināja AI neoficiālais tēvs Džons Makkarti 1955. gadā. .. bet ko tas tiešām nozīmē?
Vispirms lasītājiem būtu jāzina, ka mākslīgais intelekts, kā mēs saprotam, šodien faktiski ietilpst divās atsevišķās kategorijās: "ANI" un "AGI".
Pirmais, īstais raksts par mākslīgo šaurajai izlūkošanai, ietver to, ko parasti sauc par "vāju" AI vai AI, kas var darboties tikai vienā ierobežotā specializācijas jomā.Think Deep Blue - superdatoru, kuru IBM izstrādāja 1997. gadā, lai ķertos pie pasaules šaha meistariem. Deep Blue var patiešām paveikt vienu lietu patiešām patiešām labi: cilvēkus pārspēt šahā. .. bet tas ir par to.
Jūs to nevarat saprast, bet mūsu ikdienas dzīvi mūs jau ieskauj ANI.Mašīnas, kas izseko jūsu iepirkšanās paradumus Amazon un ģenerē ieteikumus, kuru pamatā ir tūkstošiem dažādu mainīgo lielumu, ir veidoti uz rudimentāriem ANI, kuri "iemāca" to, kas jums patīk, un laika gaitā izvēlieties līdzīgus produktus. Vēl viens piemērs varētu būt personīgi e-pasta surogātpasta filtrāti, sistēmas, kas šķiro pēc miljoniem ziņojumu uzreiz, lai izlemtu, kas ir reāls, un kāds ir papildu troksnis, ko var nobloķēt uz sāniem.
ANI ir noderīga un samērā nekaitīga mašīntīkla ieviešana, ko var gūt labums no visas cilvēces, jo, lai gan tā spēj apstrādāt miljardiem skaitļu un pieprasījumu vienlaicīgi, tā joprojām darbojas ierobežotā vidē, ko ierobežo tranzistoru skaits, ko mēsļaut tam būt jebkurā brīdī.No otras puses, AI, par kuru mēs arvien biežāk uztraucāmies, ir kaut kas sauc par "mākslīgo vispārējo izlūkošanu" jeb AGI.
Tā kā tas pašlaik ir, radot kaut ko tādu, ko var pat attālināti nosaukt, tā kā AGI joprojām ir Datorzinātņu Svētais Grāls, un - ja tas ir sasniegts - varētu būtiski mainīt visu par pasauli, kā mēs to zinām. Ir daudz dažādu šķēršļu, lai pārvarētu izaicinājumu radīt patiesu AGI par vienlīdzību ar cilvēka prātu, no kā arī tas, ka, lai gan ir daudz līdzību starp to, kā darbojas mūsu smadzenes un kā datoriem tiek apstrādāta informācija, kad tas nonākfaktiski interpretēt lietas tā, kā mēs to darām;mašīnām ir slikts ieradums, ka viņi var tikt piekārti detaļām un trūkst koku meža.
"Es baidos, ka es nevaru ļaut jums to darīt, ka Bullsh * t, Dave"
Kad IBM Watson dators brīnišķīgi iemācījās nolādēt ar Urban Dictionary palīdzību, mēs uzzinājām, cik tālu mēs esam noAI, kas patiešām spēj sakārtot cilvēka pieredzes mīnusus un radīt precīzu priekšstatu par to, ko no "domām" ir paredzēts veidot.
Redzot Watson izstrādes laikā, inženieriem bija grūti mēģināt to iemācīt dabīgam runas modelim, kas vairāk pielīdzināja mūsu pašu, nevis tā, ka tā bija neapstrādāta mašīna, kas runāja ideālos teikumos. Lai to novērstu, viņi uzskatīja, ka būtu ieteicams pilnībā izmantot Urban Dictionary ar savām atmiņas bankām, pēc kuras Watson atbildēja uz kādu no grupas testiem, nosaucot to par "bullsh * t".
Šaubas par to, ka, kaut arī Vatsons zināja, ka tas ir lāsts, un ka tas, ko viņš teica, bija aizskarošs, tas pilnībā neizprot , kāpēc nebija paredzēts izmantot šo vārdu, kas ir kritiskais komponents, kas atdala standartuANI no šodienas attīstās AGI rīt. Protams, šīs mašīnas var lasīt faktus, rakstīt teikumus un pat imitēt žurku neironu tīklu, bet, runājot par kritisku domāšanas un sprieduma prasmēm, šodienas AI vēl aizvien atpaliek no līknes.
Šī atšķirība starp zināšanām un izpratni ir nekas, kas nekautrējas, un tas ir tas, ko pesimisti norāda, apgalvojot, ka mēs joprojām esam tālu no AGI veidošanas, kas spēj uzzināt sevi tā, kā mēs darām. Tas ir milzīgs līcis, viens, ka ne datoru inženieri, ne cilvēka psihologi nevar apgalvot, ka viņi ir satverami mūsdienu definīcijā par to, kas padara apzinīgu būtni, labi apzinās.
Ko darīt, ja Skynet kļūs pašpārliecināts?
Bet, lai arī nākamajā desmitgadē mums kaut kā izdodas veidot AGI( kas ir diezgan optimistisks, ņemot vērā pašreizējās prognozes), viss būtu jāpiespiež no tā, no tā, vai ne? Cilvēki, kas dzīvo kopā ar AI, AI sarunājas ar cilvēkiem nedēļas nogalēs pēc garās dienas pie krāšņu skaita. Iepakties un mēs esam pabeidzuši šeit?
Ceru, ka mēs esam ne tikai bioloģiskais boot loader digitālās superintelligence. Diemžēl tas arvien vairāk ir ticams.
- Elons Musks( @elonmusk) 2014. gada 3. augusts
Nu, ne gluži. Vēl joprojām ir vēl viena AI kategorija, un tā ir tā, ka visas filmas un TV pārraides daudzus gadus ir mēģinājuši brīdināt mūs: ASI, citādi pazīstama kā "mākslīgais superžūrs".Teorētiski ASI būtu dzimis no AGI, kas nemieros ar savu partiju dzīvē, un padarot iepriekš apzinātu lēmumu kaut ko darīt pats par sevi bez mūsu atļaujas vispirms. Bažas, ko daudzi pētnieki šajā jomā ir ierosinājuši, ir tāda, ka, tiklīdz AGI saskarsies ar jutīgumu, tas nebūs apmierināts ar to, ko tā iegūs, un darīs visu iespējamo, lai uzlabotu savas spējas ar jebkādiem vajadzīgajiem līdzekļiem.
Iespējamais laika skala ir šāds: cilvēki rada mašīnu, mašīna kļūst tikpat gudra kā cilvēki. Mašīna, kas tagad ir tikpat gudra kā cilvēks, kas izveidoja mašīnu tikpat gudru kā sevi( turiet pie manis šeit), iemācās pašreplikācijas mākslu, pašizaugsmi un pašpilnveidošanu. Tas nenogurst, tas nesaņem slimu un tas var bezgalīgi augt, bet pārējie no mums uzlādē mūsu baterijas gultā.
Bailes ir tas, ka tas būtu jautājums tikai par dažām nanosekundēm, pirms AGI viegli pārspēja visu cilvēku dzīvi, kas šodien dzīvo, un, pieslēdzoties tīmeklim, vajadzētu būt vienam simulētam neironam gudrākam, nekā gudrākais hakeris pasaulē.uzņemties kontroli pār katru ar internetu saistīto sistēmu uz planētas.
Tiklīdz tā iegūst kontroli, tai pēc tam var būt potenciāls izmantot savu jaudu, lai lēnām sāktu uzkrāt tādu mašīnu armiju, kuras ir tikpat viedas kā tās radītājs un spējīgas attīstīties pēc eksponenciālas likmes, jo vairāk un vairāk mezglu tiek pievienoti tīklam. No šejienes, visi modeļi, kas uz mašīnas izlūkošanas līknes tiek vilkti, nekavējoties raita caur jumtu.
Tomēr teica, ka tie galvenokārt balstās uz spekulācijām, nevis uz jebkādu materiālu.Šim jautājumam abās pusēs ir daudz iespēju uzņemties desmitiem dažādu ekspertu vārdā, un pat pēc vairāku gadu karstajiem debatēm joprojām nav vienotas izpratnes par to, vai ASI būs žēlīgs dievs vai arī cilvēkikā oglekļa dedzināšana, ēdiena nogatavināšanas sugas, kuras mēs esam, un noslaukiet mūs no vēstures grāmatām, piemēram, mēs skrubām skudras taku pie virtuves galda.
Viņš teica: Viņa teica: vai mums jābaidās?
Tātad, tagad, kad mēs saprotam, kas AI ir, dažādās formas tas var ilgt laiku un kā šīs sistēmas varētu kļūt par daļu no mūsu dzīves tuvākajā nākotnē, jautājums paliek: vai mums būtu jābaidās?
Pēdējā gada laikā populārās sabiedrības intereses par AI pēdējo gadu laikā daudzi pasaules lielākie zinātnieki, inženieri un uzņēmēji ir pavirzījušies uz iespēju dot divus centus tam, ko mākslīgais intelekts varētu izskatīties ārpus Holivudas skaņasnākamajās desmitgadēs.
No vienas puses, jums ir tādi drūmi un nomierinoši faktori kā Elons Musks, Stephen Hokings un Bill Gates, kuri visi ir bažas, ka bez atbilstošu drošības pasākumu ieviešanas tas būs tikai jautājums par laiku pirmsASI sapņo veidu, kā iznīcināt cilvēku rasi.
"Iedomājieties, ka šāda tehnoloģija pārspēj finanšu tirgus, izgudrojot cilvēkus no pētniekiem, izvairoties no manipulācijām ar cilvēku vadītājiem un izstrādājot ieročus, kurus mēs pat nesaprotam," Hokings rakstīja atklātā vēstulē AI kopienai šogad.
"Tā kā AI īstermiņa ietekme ir atkarīga no tā, kurš to kontrolē, ilgtermiņa ietekme ir atkarīga no tā, vai to var vispār kontrolēt."
No otras puses, mēs atrodam spilgtāku futūristi, piemēram, Ray Kurzweill, Microsoftgalvenais pētnieks Erics Horovitz un visi citi mīļākie Apple dibinātājs;Steve Wozniak. Gan Hokinga, gan Muska tiek uzskatīti par diviem no mūsu paaudzes vislielākajiem prātiem, tādēļ apšaubīt viņu prognozes par kaitējumu, ko tehnoloģija var izraisīt ilgtermiņā, nav viegli. Bet atstājiet gaismekļiem, piemēram, Wozniak, lai ieietu vietā, kur citi uzdrošināsies.
Kad jautāja, kā viņš uzskata, ka ASI var ārstēt cilvēkus, Woz bija satricināts viņa ēnotajā optimismā: "Vai mēs būsim dievi? Vai mēs būsim ģimenes mājdzīvnieki? Vai arī mēs būsim sīpoli, uz kuriem pastiprināsies? Es to nezinu, "viņš vaicāja intervijā ar Austrālijas finanšu pārskatu."Bet, kad es saņēmu šo domu par manu galvu par to, ja nākotnē mani izturēsies par mājdzīvnieku šīm viedajām mašīnām. .. es ļoti labi izskatīšu savu suņu suņu".
Un šeit mēs esamlai atrastu filozofisko dilemmu, ka neviens nav pilnībā apmierināts, lai nonāktu pie vienprātības attiecībā uz: vai ASI mūs uzskata par nekaitīgu nārstojumu, ko var noplūst un ko aprūpē, vai nevēlamu kaitēkli, kas pelna ātru un nesāpīgu iznīcināšanu?
Hasta la Vista, bērnu
Kaut gan tas būtu muļķības uzdevums prasīt precīzi zināt, kas notiek reālās dzīves Tony Stark galā, es domāju, ka, kad Musks un draugi mūs brīdina par AI briesmām, tie navatsaucoties uz visu, kas līdzinās Terminator, Ultron vai Ava.
Pat ar milzīgu inovāciju daudzumu, kas ir mūsu rokai, mūsdienās esošie roboti var tikko pāriet tūkstoš stundas, pirms tie sasniedz necaurlaidīgu šķērsli, sajaucas un smieklīgi ēst segas. Un, lai gan varētu mēģināt norādīt uz Moore likumu kā piemēru tam, cik ātri robotikas tehnoloģijas nākotnē var attīstīties, otrajam ir jāaplūko Asimo, kas pirmoreiz debuta gandrīz pirms 15 gadiem un nav veikusi nevienukopš tā laika ir ievērojami uzlabojumi.
Tik daudz, cik mēs varētu tos vēlēties, robotika nav tuvu tam, lai ievērotu tādu pašu eksponenciālā progresa modeli, kādu mēs esam redzējuši datorprocesoru attīstībā.Viņus ierobežo fiziskie ierobežojumi, cik daudz jaudas mēs varam ievietot bateriju komplektā, bojātais hidraulisko mehānismu raksturs un nebeidzamā cīņa, lai apgūtu cīņu pret savu smaguma centru.
Tātad pagaidām;nē, lai gan patiess AGI vai ASI potenciāli varētu tikt izveidots statiskā superdatoru kādā serveru fermā Arizonā, joprojām ir ļoti maz ticams, ka mēs atradīsim sevi sprinta pa Manhetenas ielām kā metāla skeletu orda, kas mūs pļaujno aizmugures.
Tā vietā AI, ko Elons un Hokings tik ļoti vēlas brīdināt pasauli pret, ir "karjeras nomaiņas" šķirnes aizsardzība, kas var domāt ātrāk nekā mēs, organizēt datus ar mazākām kļūdām un pat mācīties, kā veikt mūsu darbu.labāk, nekā mēs jebkad varētu cerēt - visi, neprasot veselības apdrošināšanu vai dažas dienas pēcpusdienā bērnus uz Disnejlendu pa Spring Break.
Barista Bots un Perfect Cappuccino
Pirms dažiem mēnešiem NPR izlaida parocīgu rīku savā tīmekļa vietnē, kur podcast klausītāji varēja izvēlēties no dažādu karjeru saraksta, lai noskaidrotu riska procentuālo īpatsvaru, kāds ir viņu konkrētajam darbam, lai to automatizētu kādāpunktu nākamajos 30 gados.
Par daudzām darbavietām, tostarp, bet ne tikai: klerikas pozīcijām, aprūpei, IT, diagnostikai un pat kafejnīcu baristas, robotiem un to ANI kolēģiem gandrīz noteikti liek miljoniem cilvēku no darba un uz maizes līniju ātrāk nekādaudzi no mums domā.Bet šīs ir mašīnas, kas tiks ieprogrammētas, lai veiktu vienu uzdevumu un tikai vienu uzdevumu, un tām ir maz( ja tādas ir) spējas pārsniegt specializētas iepriekš ieprogrammētu instrukciju sērijas, kuras mēs rūpīgi instalējam iepriekš.
Tas nozīmē, ka vismaz tuvākajā nākotnē( domāt par 10-25 gadiem) ANI būs reāls un taustāms drauds mūsu dzīvesvei daudz vairāk nekā jebkura teorētiska AGI vai ASI varētu. Mēs jau zinām, ka automatizācija ir arvien pieaugoša problēma, kas būtiski izmainīs ienākumu un privilēģiju sadali visā pirmajā un trešajā pasaulē.Tomēr, vai šie roboti galu galā cenšas pārdot šaujamieročus par šaujamieročiem, joprojām tiek apspiests( un kā jūs to uzzināsiet), galu galā neviendabīgas debates.
ar lielu spēku, ir lieliska īpašība
"Jūs zināt, es zinu, ka šis steiks neeksistē.Es zinu, ka, kad es ievietoju to manā mutē, Matrix man saka, ka tas ir sulīgs un garšīgs. Pēc deviņiem gadiem tu zini, ko es saprotu? "
" Nezināšana ir svētlaime ". - Cypher
Lai gan šis jautājums joprojām ir stingri argumentēts viedoklis, tagad daudzu vadošo zinātnieku un inženieru vienprātība AI pētījumu jomā ir vērsta uzka mēs esam daudz lielāki riski, ka nonākam pie tādām ērtībām, kādas varētu nodrošināt mākslīgā intelekta pasaule, nevis tiek sagrauta Skynet reālā versija. Tādējādi tas ir saistīts ar iespējamību, ka mūsu galīgais nāves gadījums, iespējams, nenāk kā lēna, metodiska progresa produkts lielajā nezināmā veidā.Tā vietā daudz lielāka iespēja kļūt par neparedzētu sekas, ko izraisījusi pārsteigta, pārāk entuziasma krustošanās ar mūsu pašu radītajiem un izdomājumiem, kas skāra kopā, lai radītu nākamo lielo tehnoloģisko īpatnību.
Think less Terminator, un vairāk Wall-E .Tāpat kā roboti, kuri Pixar filmas laikā nobaroja cilvēkus, mums cilvēkiem nav problēmu saglabāt šimpu dārzus zoodārzā, un atšķirība ir tāda, vai AI būs pietiekami laipns, lai to izdarītu arī ar mums.
No šī viedokļa ir lietderīgāk baidīties no realitātes, kurā cilvēki tiek savienoti ar noturīgu planētas mēroga VR simulāciju à la . Matrica , kas nobarota ar žokiem pēc viņu iecienītākajiem pārtikas produktiem, un, ņemot vērā visu, ko viņi varētu jebkadgribu, kamēr mašīnas rūpējas par pārējo. Vieta, kur attīstīta ASI neredz mūs kā kļūdu, lai noķertu no savas kurpes, bet tā vietā, kā glītu pērtiķu gaļas somas, mēs esam viegli priecīgi un pelnījuši vismaz mazliet lielu kredītu, lai radītu visu zinošu,visaptverošs kvazi dievs, kas galu galā pārņēma planētu.
Šajā ziņā viss ir atkarīgs no jūsu definīcijas par to, ko nozīmē "dzīvot", izmantojot AI revolūciju. Ideja, ka kaut kas "bezjēdzīgs" ir jāizbeidz, ir tikai cilvēka jēdziens, domāšanas veids, ka mums nevajadzētu nekavējoties sagaidīt, ka mūsu mašīnas valdnieki pieņems no mūsu ierobežotās morālās jomas. Iespējams, ka mūsu digitālās izlūkošanas iespējamā attīstība nebūs tīra ļauna, bet bezgalīga, neobjektīvi līdzjūtība visām dzīvajām būtnēm;neatkarīgi no tā, cik tie ir savtīgi, paštaisīgi vai pašiznīcinoši.
Tātad. .. ja mums par to jāuztraucas?
Tas ir atkarīgs no tā, kurš jūs lūdzat.
Ja jūs aptaujāties divus gudrākos inženierus un matemātikus mūsdienu pasaulē, jūs saņemsiet četras dažādas atbildes, un skaitļi netiks mainīti, jo vairāk cilvēku jūs pievienosit rādītāju kopsavilkumam. Jebkurā gadījumā galvenā problēma, kas mums jārisina, nav par "vai AI nāk?", Jo tā ir, un neviens no mums nespēs to apturēt. Aplūkojot tik daudz dažādas perspektīvas, patiesais jautājums, ka neviens nav apmierināts, atbildot ar pārāk lielu uztveri, ir: "vai tas būs žēlsirdīgs?"
Pat ja daži no pasaules lielākajiem prātiem ir novērtējuši šo jautājumu,izlūkdati varētu izskatīties 20, 30 vai 50 gadus nākotnē joprojām iznāk diezgan tumšs. Tā kā AI lauks pastāvīgi pārveidojas par kaut ko citu ikreiz, kad tiek ražota jauna datora mikroshēma vai tiek izstrādāts tranzistora materiāls, apgalvojot, ka galīgā iestāde par to, kas var notikt vai var nenotikt, ir mazliet tāda, ka jūs zināt, ka dice roll ir drošinākt klajā čūska acis nākamajā mest.
Viena lieta, ar ko mēs varam droši teikt, ir tas, ka, ja nākamajā nedēļā jūs nobažīsit rozā slīdēšanu no sava datorizētā kases aparāta, nemēģiniet to pārāk notraipīt. Taco Bell joprojām būs atvērts Taco otrdienās, un cilvēks visvairāk noteikti veiks jūsu pasūtījumu pie loga( un aizmirstot zaļo mērci atkal).Saskaņā ar pētījumu, ko Džeims Barrats veica pagājušā gada AGI augstākā līmeņa sanāksmē Kvebekā, žūrija, kas piedalījās smagajā AI laika grafikā, vēl arvien ir beigusies. Mazāk nekā puse no visiem apmeklētajiem teica, ka viņi domā, ka mēs sasniegsim patiesu AGI līdz 2025. gadam, savukārt vairāk nekā 60 procenti teica, ka tas aizņems vismaz 2050. gadu, ja ne nākamo nākamajā gadsimtā un tālāk.
Cietā datuma noteikšana mūsdienās ar digitālo likteni ir nedaudz līdzīga, sakot, ka jūs jau zināt, ka 34 gadi no šī brīža šodien nokļūs lietus. Atšķirība starp patiesu AGI un progresīvu mākslīgo super inteliģenci ir tik maza, ka lietas būs vai nu patiešām taisnīgas, vai ļoti bailīgi ļoti, ļoti ātri. Un, lai arī kvantu datori atrodas nedaudz virs horizonta, un mēs visi esam ieguvuši tīklus viedtālruņus mūsu kabatās, kas var pārraidīt signālus kosmosā, mēs vēl tikai tikko nesaskrāpjam virspusē izpratni par "kāpēc", kāpēc mēs domājam par lietām, kā mēsvai arī no pirmās vietas rodas apziņa.
Iedomājieties, ka mēs varējām nejauši radīt mākslīgu prātu, kas ir plaši izplatīts ar visiem saviem defektiem un evolucionārām nepareizām ugunsgrēkām - pirms mēs pat zinām, kas tas ir, kas padara mūs par to, kas mēs esam, ir cilvēka ego būtības būtība.
Galu galā, neskatoties uz mūsu nemitīgo vēlmi izlemt, kas nāk klajā nākamajā karā un / vai miera līgumā starp cilvēci un mašīnām, tas ir ierobežotu cerību un neierobežotu iespēju konkurss, un mēs visi esam vienisprātissemantika starp. Protams, ja jūs esat svaigi no vidusskolas un vēlaties saņemt savu taksometru vadītāja apliecību, Uber izpilddirektoram ir pusmiljona iemeslu, kāpēc jums, iespējams, būtu jādomā par karjeras atrašanu kaut kur citur.
Bet, ja jūs uzkrājat ieročus un konservētas pupiņas AI apokalipsei, jūs varētu labāk pavadīt laiku, mācot krāsot, kodēt vai rakstīt nākamo lielisko amerikāņu romānu. Pat pēc viskonkrētākajām aplēsēm būs vairāki desmiti gadi, pirms jebkura mašīna iemācīsies kļūt par Monet vai pati mācīsies par C # un Java, jo cilvēki ir piepildījuši tāda veida radošumu, izdomu un spēju izteikt savu visdziļāko sevi kā nēautomatizēta kafijas automāts jebkad varētu.
Jā, dažkārt mēs varam nedaudz emocionāli atnākt ar aukstu darbu, vai arī ir jāturpina dienas vidū, bet varbūt tas ir tieši , jo mēs esam cilvēki, ka draud radītkaut kas lielāks nekā mēs iekšā mašīna joprojām ir garš, tāls ceļš.
Attēlu kredīti: Disney Pixar, Paramount Pictures, Bosch, Youtube / TopGear, Flickr / LWP Communications Flickr / BagoGames, Wikimedia Foundation, Twitter, WaitButWhy 1, 2