Wie künstliche Intelligenz unser Leben verändern wird, ob besser oder schlechter

Wenn Sie im letzten Jahr den Medien Aufmerksamkeit geschenkt haben, haben Sie vielleicht den Eindruck, dass es nur eine Frage der Zeit ist, bis die Bedrohung durch künstliche Intelligenz uns alle vernichtet.

Anmerkung des Redakteurs: Dies ist eine Abkehr von unserem normalen How-To- und Erklärungsformat, in dem wir unsere Autoren erforschen und einen nachdenklich stimmenden Blick auf die Technologie werfen.

Von großen Sommer-Blockbustern wie Avengers: Age of Ultron und Johnny Depps stinkfester Transzendenz, zu kleineren Indie-Filmen wie Ex-Machina oder Channel 4's Hit Drama Humans können Drehbuchautoren scheinbar nicht genug von der Trope bekommen, egal in welcher FormIn den nächsten paar Jahrzehnten wird KI vielleicht noch zunehmen. Sie können wetten, dass es die Hölle ist, der Menschheit eine Lehre zu erteilen, wie sie ihrer eigenen Hybris zum Opfer fallen kann.

Aber ist diese Angst vor den Maschinen gerechtfertigt? In diesem Feature untersuchen wir die Welt der Künstlichen Intelligenz aus der Perspektive von Wissenschaftlern, Ingenieuren, Programmierern und Unternehmern, die heute auf diesem Gebiet arbeiten, und wirbeln auf, was sie für die nächste große Revolution in der menschlichen und Computerintelligenz halten könnten.

Also, solltest du anfangen, Kugeln für den kommenden Krieg mit Skynet aufzubewahren, oder deine Füße hochlegen, während eine Armee unterwürfiger Drohnen sich um deine Laune kümmert? Lesen Sie weiter, um es herauszufinden.

Kenne deinen Feind

Zu Beginn hilft es zu wissen, worüber wir gerade sprechen, wenn wir den Oberbegriff "AI" verwenden. Das Wort wurde hundertmal herumgeworfen und neu definiert, seit das Konzept der selbstbewussten Computer erstmals 1955 vom inoffiziellen Vater von AI, John McCarthy, vorgeschlagen wurde. .. aber was bedeutet das wirklich?

Zunächst sollten die Leser wissen, dass künstliche Intelligenz, wie wir sie heute verstehen, tatsächlich in zwei getrennte Kategorien fällt: "ANI" und "AGI".

Die erste Abkürzung für Artificial Narrow Intelligence umfasst die sogenannte "schwache" KI oder eine KI, die nur in einem eingeschränkten Bereich der Spezialisierung arbeiten kann. Think Deep Blue, der Supercomputer, der von IBM entwickelt wurde, um die Schachmeister der Welt im Jahr 1997 zu besiegen. Deep Blue kann eine Sache wirklich gut machen: Menschen beim Schach schlagen. .. aber das ist es schon.

Sie werden es vielleicht nicht erkennen, aber wir sind bereits in unserem täglichen Leben von ANI umgeben. Maschinen, die Ihre Einkaufsgewohnheiten bei Amazon verfolgen und Empfehlungen basierend auf Tausenden verschiedener Variablen generieren, basieren auf rudimentären ANIs, die im Laufe der Zeit "lernen", was Ihnen gefällt und ähnliche Produkte entsprechend auswählen. Ein anderes Beispiel könnten persönliche E-Mail-Spam-Filter sein, Systeme, die durch Millionen von Nachrichten gleichzeitig sortieren, um zu entscheiden, welche real sind, und was zusätzliches Rauschen ist, das beiseite geschoben werden kann.

ANI ist die hilfreiche, relativ harmlose Implementierung von Maschinenintelligenz, von der die gesamte Menschheit profitieren kann, denn obwohl sie in der Lage ist, Milliarden von Zahlen und Anforderungen gleichzeitig zu verarbeiten, arbeitet sie immer noch in einer eingeschränkten Umgebung, die durch die Anzahl der Transistoren begrenzt isterlaube es zu jeder Zeit zu haben. Auf der anderen Seite ist die KI, vor der wir uns immer mehr misstrauen, etwas namens "Artificial General Intelligence" oder AGI.

So wie es derzeit aussieht, bleibt die Schaffung von etwas, das man auch nur im Entferntesten als AGI bezeichnen kann, der Heilige Gral der Informatik und könnte, wenn es erreicht wird, alles über die Welt, wie wir sie kennen, grundlegend verändern. Es gibt viele verschiedene Hürden, um die Herausforderung zu meistern, ein echtes AGI auf Augenhöhe mit dem menschlichen Verstand zu schaffen, nicht zuletzt, dass es viele Ähnlichkeiten zwischen der Funktionsweise unseres Gehirns und der Verarbeitung von Informationen durch Computer gibtDinge tatsächlich so zu interpretieren, wie wir es tun;Maschinen haben die schlechte Angewohnheit, an den Details hängen zu bleiben und den Wald für die Bäume zu vermissen.

"Ich habe Angst, ich kann dich nicht töten lassen Bullsh * t, Dave"

Als IBMs Watson-Computer bekanntermaßen fluchte, nachdem er das Urban Dictionary durchgelesen hatte, verstanden wir, wie weit wir von einem entfernten Ort entfernt sindAI, die wirklich in der Lage ist, die Einzelheiten der menschlichen Erfahrung zu durchforsten und ein genaues Bild davon zu erstellen, woraus ein "Gedanke" gemacht werden soll.

Sehen Sie, während der Entwicklung von Watson hatten Ingenieure Mühe, es zu versuchen, ein natürliches Sprachmuster zu lehren, das unseren eigenen eher nacheiferte als das einer rohen Maschine, die in perfekten Sätzen sprach. Um das zu beheben, dachten sie, es wäre eine gute Idee, das gesamte Urban Dictionary über seine Speicherbanken laufen zu lassen, woraufhin Watson sofort auf einen der Tests des Teams antwortete, indem er es "bullsh * t" nannte.

Das Rätsel ist hier, dass obwohl Watson wusste, dass es fluchend war und dass das, was es sagte, beleidigend war, es nicht vollständig verstand, warum dieses Wort nicht verwenden sollte, welches die kritische Komponente ist, die den Standard trenntANI von heute aus der Entwicklung in die AGI von morgen. Sicher, diese Maschinen können Fakten lesen, Sätze schreiben und sogar das neuronale Netzwerk einer Ratte simulieren, aber wenn es um kritisches Denken und Urteilsvermögen geht, bleibt die KI von heute noch immer hinter der Kurve zurück.

Diese Kluft zwischen Wissen und Verstehen ist nicht zu verachten, und es ist die, auf die Pessimisten hinweisen, wenn sie argumentieren, dass wir noch lange nicht in der Lage sind, ein AGI zu schaffen, das in der Lage ist, sich selbst zu kennen. Es ist eine gewaltige Kluft, die weder Computeringenieure noch menschliche Psychologen behaupten könnten, in der modernen Definition dessen, was ein bewußtes Wesen ausmacht, gut zu sein.

Was ist, wenn Skynet sich selbst bewusst wird?

Aber selbst wenn es uns irgendwie gelingt, im nächsten Jahrzehnt ein AGI zu schaffen( was angesichts der aktuellen Prognosen ziemlich optimistisch ist), dann sollte es von da an auch Soße sein, nicht wahr? Menschen, die mit KI und KI leben, hängen an den Wochenenden nach einem langen Tag in der Fabrik, in der Zahlen verarbeitet werden, mit Menschen herum. Pack auf und wir sind fertig hier?

Hoffentlich sind wir nicht nur der biologische Bootloader für die digitale Superintelligenz. Leider wird das immer wahrscheinlicher

- Elon Musk( @elonmusk) 3. August 2014

Nun, nicht ganz. Es gibt noch eine weitere KI-Kategorie, über die uns alle Filme und Fernsehshows seit Jahren vorwarnen: ASI, auch bekannt als "künstliche Superintelligenz".Theoretisch würde eine ASI aus einer AGI geboren werden, die unruhig wird mit ihrem Los im Leben, und die vorsätzliche Entscheidung trifft, selbst etwas zu tun, ohne unsere Erlaubnis zuerst. Die Sorge vieler Forscher auf diesem Gebiet ist, dass sobald ein AGI Empfindungsvermögen erreicht hat, es sich nicht mit dem zufrieden geben wird, was es hat, und alles in seiner Macht Stehende tun wird, um seine eigenen Fähigkeiten mit allen notwendigen Mitteln zu erhöhen.

Eine mögliche Zeitleiste läuft wie folgt ab: Menschen schaffen Maschinen, Maschinen werden so intelligent wie Menschen. Die Maschine, die jetzt so schlau ist wie die Menschen, die eine Maschine geschaffen hat, die so schlau ist wie sie selbst( bleib bei mir), lernt die Kunst der Selbstreplikation, der Selbstentwicklung und der Selbstverbesserung. Es wird nicht müde, es wird nicht krank, und es kann endlos wachsen, während der Rest von uns unsere Batterien im Bett auflädt.

Die Angst ist, dass es nur ein paar Nanosekunden dauern würde, bis ein AGI die Intelligenz aller Menschen, die heute leben, leicht übertrifft und wenn es mit dem Internet verbunden wäre, müsste es nur ein simuliertes Neuron sein, das schlauer ist als der weltweit klügste HackerÜbernehmen Sie die Kontrolle über jedes mit dem Internet verbundene System auf dem Planeten.

Sobald es die Kontrolle erlangt hat, könnte es dann das Potential haben, langsam eine Armee von Maschinen anzuhäufen, die ebenso intelligent wie sein Schöpfer sind und sich mit einer exponentiellen Rate entwickeln können, wenn immer mehr Knoten dem Netzwerk hinzugefügt werden. Von hier aus rasen alle auf der Kurve der Maschinenintelligenz gezogenen Modelle schnell durch das Dach.

Das heißt, sie basieren jedoch in erster Linie immer noch auf Spekulation und nicht auf etwas Greifbarem. Dies lässt viel Platz für die Annahme von Dutzenden verschiedener Experten auf beiden Seiten des Themas, und selbst nach Jahren hitziger Debatten gibt es noch keinen gemeinsamen Konsens darüber, ob ein ASI ein barmherziger Gott sein wird oder nicht, oder Menschen sehenals die kohlenstoffverbrennenden, Lebensmittel fressenden Arten, die wir sind, und wischen uns von den Geschichtsbüchern ab, wie wir eine Spur von Ameisen von der Küchentheke schrubben.

Er sagte, sie sagte: Sollten wir uns fürchten?

Nun, da wir verstehen, was KI ist, welche verschiedenen Formen es im Laufe der Zeit annehmen könnte und wie diese Systeme in naher Zukunft zu einem Teil unseres Lebens werden könnten, bleibt die Frage: Sollten wir Angst haben?

Auf der Suche nach dem Interesse der Öffentlichkeit an KI im letzten Jahr haben viele der weltweit führenden Wissenschaftler, Ingenieure und Unternehmer die Gelegenheit genutzt, ihre Meinung darüber zu äußern, wie künstliche Intelligenz außerhalb von Hollywoods Sound tatsächlich aussehen könnteStadien in den nächsten Jahrzehnten.

Auf der einen Seite haben Sie die Schwermut und Enttäuschung wie Elon Musk, Stephen Hawking und Bill Gates, die alle die Sorge teilen, dass es ohne angemessene Sicherheitsvorkehrungen nur eine Frage der Zeit ist, bisASI träumt einen Weg auf, die menschliche Rasse auszulöschen.

"Man kann sich vorstellen, dass eine solche Technologie die Finanzmärkte austrickst, menschliche Forscher auslöschen, menschliche Führer manipulieren und Waffen entwickeln, die wir nicht einmal verstehen", schrieb Hawking in einem offenen Brief an die KI-Gemeinde dieses Jahr.

"Während die kurzfristige Auswirkung der KI davon abhängt, wer sie kontrolliert, hängt die langfristige Wirkung davon ab, ob sie überhaupt kontrolliert werden kann."

Auf der anderen Seite finden wir ein helleres Porträt von Futuristen wie Ray Kurzweil, MicrosoftChefforscher Eric Horovitz, und jeder andere Lieblings Apple-Gründer;Steve Wozniak. Sowohl Hawking als auch Musk gelten als zwei der größten Köpfe unserer Generation. Ihre Vorhersagen über den Schaden, den die Technologie auf lange Sicht verursachen könnte, sind daher keine leichte Aufgabe.Überlassen Sie es aber Koryphäen wie Wozniak, dort einzusteigen, wo andere es nur wagen würden.

Auf die Frage, wie er glaubt, dass ein ASI Menschen behandeln könnte, war der Woz in seinem schattigen Optimismus stumpf: "Werden wir die Götter sein? Werden wir die Haustiere der Familie sein? Oder werden wir Ameisen sein, auf die man tritt? Ich weiß es nicht ", fragte er in einem Interview mit dem Australian Financial Review."Aber als ich in meinem Kopf darüber nachdachte, ob ich in Zukunft als Haustier für diese intelligenten Maschinen behandelt werde. .. nun, ich werde meinen eigenen Hund wirklich gut behandeln."

Und hier sind wirfinde das philosophische Dilemma, zu dem niemand sich wohl fühlt, zu einem Konsens über: Wird ein ASI uns als ein harmloses Haushuhn sehen, das gehätschelt und umsorgt werden soll, oder ein unwillkommener Schädling, der eine schnelle und schmerzlose Vernichtung verdient?

Hasta la Vista, Baby

Obwohl es ein Idiot wäre, zu wissen, was genau im Kopf des wirklichen Lebens vorgeht, Tony Stark, denke ich, wenn Musk und Freunde uns vor der Gefahr der KI warnen, sind sie es nichtbezieht sich auf alles, was dem Terminator, Ultron oder Ava ähnelt.

Selbst mit einer immensen Innovationskraft können die Roboter, die wir heute haben, kaum eine Meile pro Stunde laufen, bevor sie eine unpassierbare Barriere erreichen, verwirrt werden und auf pfiffige Art und Weise Gehsteig essen. Man könnte versuchen, auf das Mooresche Gesetz als Beispiel zu verweisen, wie schnell sich die Robotertechnologie in der Zukunft weiterentwickeln kann, aber der andere muss sich nur den Asimo ansehen, der vor fast 15 Jahren auf den Markt kam und keinen solchen gemacht hatdeutliche Verbesserungen seit.

So sehr wir das auch wollen, die Robotik ist dem Modell exponentieller Fortschritte, wie wir es bei der Entwicklung von Computerprozessoren beobachten konnten, nicht annähernd treu geblieben. Sie sind beschränkt durch die physikalischen Grenzen, wie viel Energie wir in einen Akku stecken können, die Fehlerhaftigkeit hydraulischer Mechanismen und den endlosen Kampf, den Kampf gegen ihren eigenen Schwerpunkt zu meistern.

Also vorerst;Nein, obwohl eine echte AGI oder ASI möglicherweise in einem statischen Supercomputer auf einer Serverfarm in Arizona erstellt werden könnte, ist es immer noch sehr unwahrscheinlich, dass wir uns durch die Straßen von Manhattan sprinten, während eine Horde von Metallskeletten uns niedermähthinterrücks.

Stattdessen ist die KI, gegen die Elon und Hawking die Welt so sehr warnen, die der "Karriere-ersetzenden" Sorte, die schneller denken kann als wir, Daten mit weniger Fehlern organisieren und sogar lernen, unsere Arbeit zu machenBesser als wir jemals hoffen konnten - alles ohne Krankenversicherung oder ein paar freie Tage, um die Kinder in Spring Break zu Disneyland zu bringen.

Barista Bots und der perfekte Cappuccino

Vor einigen Monaten veröffentlichte NPR ein praktisches Tool auf seiner Website, auf dem Podcast-Zuhörer aus einer Liste verschiedener Karrieren auswählen konnten, um den prozentualen Anteil des Risikos zu ermitteln, das ihre spezifische Arbeitslinie bei einigen automatisiert hattePunkt in den nächsten 30 Jahren.

Für eine breite Palette von Jobs, einschließlich, aber nicht beschränkt auf: Bürojobs, Krankenpflege, IT, Diagnostik und sogar Cafe Baristas, werden Roboter und ihre ANI Pendants mit ziemlicher Sicherheit Millionen von uns arbeitslos machen und schneller in die Brotlinieviele von uns denken. Aber das sind Maschinen, die programmiert werden, um nur eine Aufgabe und eine Aufgabe auszuführen, und wenig( wenn überhaupt) Fähigkeit haben, über eine spezielle Reihe von vorprogrammierten Anweisungen hinauszugehen, die wir zuvor sorgfältig installiert haben.

Dies bedeutet, dass zumindest auf absehbare Zeit( dh 10-25 Jahre) ANIs die reale, greifbare Bedrohung für unsere Lebensweise sein werden, weit mehr als jede theoretische AGI oder ASI.Wir wissen bereits, dass Automatisierung ein wachsendes Problem darstellt, das die Art und Weise, wie Einkommen und Privilegien in der ersten und dritten Welt verteilt sind, drastisch verändern wird. Doch ob diese Roboter irgendwann versuchen werden, ihre Nähmaschinen für Maschinengewehre einzukaufen, ist immer noch Gegenstand einer( wie Sie herausfinden werden) hitzigen, letztlich frivolen Debatte.

Mit großer Macht, kommt eine große Singularität

"Weißt du, ich weiß, dass dieses Steak nicht existiert. Ich weiß, wenn ich es in meinen Mund stecke, sagt die Matrix meinem Gehirn, dass es saftig und köstlich ist. Nach neun Jahren, weißt du, was ich realisiere? "

" Ignoranz ist Glückseligkeit. "- Cypher

Obwohl dies immer noch eine heftig umstrittene Meinung ist, ist der Konsens vieler Spitzenwissenschaftler und Ingenieure auf dem Gebiet der KI-Forschung bis jetzt eine große HerausforderungSei es, dass wir ein viel größeres Risiko eingehen, dem Komfort zu trotzen, den eine Welt künstlicher Intelligenz bieten könnte, anstatt von einer echten Version von Skynet abgeschossen zu werden. Als solche ist es eine besorgniserregende Möglichkeit, dass unser letztendlicher Niedergang nicht als Ergebnis eines langsamen, methodischen Fortschritts in das große Unbekannte kommt. Stattdessen ist es viel wahrscheinlicher, dass es als eine unbeabsichtigte Folge der überstürzten, übermäßig enthusiastischen Kreuzung unserer eigenen Hybris und des Einfallsreichtums auftaucht, die zusammenschlagen, um die nächste große technologische Singularität zu schaffen.

Denken Sie weniger Terminator, und mehr Wall-E .Wie die Roboterflotte, die in Pixars Film die Menschen mästet, haben wir Menschen kein Problem damit, Schimpansen in einem Zoo zu halten, und die Unterscheidung ist, ob eine KI so freundlich sein wird, das Gleiche mit uns zu tun.

Aus dieser Perspektive macht es mehr Sinn, Angst vor einer Realität zu haben, in der Menschen an eine beständige, planetenweite VR-Simulation à la angeschlossen sind, die von ihren Lieblingsspeisen an die Kiemen gemästet wird und alles bekommt, was sie jemals könnenwollen, während die Maschinen sich um den Rest kümmern. Ein Ort, an dem ein weiterentwickelter ASI uns nicht als Käfer sieht, um seinen Schuh abzukratzen, sondern stattdessen als die entzückenden Affe-Fleischtaschen, die wir sind, die leicht zu gefallen sind und mindestens ein bisschen Anerkennung verdienen, um das Allwissende zu erschaffen, All-Seeing Quasi-Gott, der schließlich den Planeten übernahm.

In diesem Zusammenhang kommt es auf Ihre Definition an, was es bedeutet, durch die KI-Revolution zu "leben".Die Idee, dass etwas "nutzlos" zu beseitigen ist, ist ein ausschließlich menschliches Konzept, eine Einstellung, die wir nicht sofort von unseren Maschinenherren erwarten sollten, um sie aus unserem begrenzten moralischen Rahmen zu übernehmen. Vielleicht wird die schließliche Entwicklung unserer digitalen Intelligenz nicht reines Übel sein, sondern ein unendliches, unvoreingenommenes Mitgefühl für alle Lebewesen;egal wie selbstsüchtig, selbstgerecht oder selbstzerstörerisch sie sein mögen.

Also. .. sollten wir uns darum sorgen?

Es hängt davon ab, wen Sie fragen.

Wenn Sie zwei der klügsten technischen Ingenieure und Mathematiker der modernen Welt befragen, erhalten Sie vier verschiedene Antworten, und die Zahlen schwanken nicht von Toten, selbst wenn Sie mehr Personen zur Anzeigetafel hinzufügen. So oder so, das Kernproblem, das wir ansprechen sollten, ist nicht, dass "KI kommt", weil es ist, und keiner von uns wird es stoppen können. Wenn man über so viele verschiedene Perspektiven nachdenkt, ist die wirkliche Frage, die niemand mit zu viel Mut beantworten kann: "Wird es barmherzig sein?" Selbst nachdem einige der größten Köpfe der Welt sich mit dem Thema beschäftigt haben, das Bild von welcher MaschineIntelligenz könnte aussehen wie 20, 30 oder 50 Jahre in die Zukunft kommt immer noch ziemlich trübe. Weil das Feld der KI sich jedes Mal, wenn ein neuer Computerchip hergestellt wird oder sich Transistormaterial entwickelt, ständig in etwas anderes verwandelt, ist es ein bisschen so, als ob man weiß, dass ein Würfelwurf sicher istbeim nächsten Wurf Schlangenaugen zu bekommen.

Eine Sache, die wir mit Zuversicht berichten können, ist, dass, wenn Sie sich Sorgen machen, dass Sie nächste Woche von Ihrer Computer-Registrierkasse einen rosa Schein bekommen, versuchen Sie, sich nicht zu sehr darüber zu aufregen. Taco Bell wird immer noch für Taco-Dienstage geöffnet sein, und ein Mensch wird auf jeden Fall Ihre Bestellung am Fenster annehmen( und die grüne Soße wieder vergessen).Laut einer Studie, die James Barrat letztes Jahr auf dem AGI-Gipfel in Quebec durchgeführt hat, ist die Jury auf einer harten Zeitlinie für die KI noch immer nicht verfügbar. Weniger als die Hälfte aller Anwesenden sagte, sie glaubten, dass wir vor dem Jahr 2025 eine echte AGI erreichen würden, während über 60 Prozent sagten, dass es bis mindestens 2050, wenn nicht bis in das nächste Jahrhundert und darüber hinaus dauern würde.

Ein hartes Datum für unser Date mit dem digitalen Schicksal ist ein bisschen so, als würde man sagen, dass es in 34 Jahren vom heutigen Tag regnen wird. Die Kluft zwischen einer echten AGI und einer fortgeschrittenen künstlichen Superintelligenz ist so gering, dass die Dinge entweder sehr richtig oder sehr schnell sehr schlecht gehen. Und obwohl Quantencomputer am Horizont sind und wir alle vernetzte Smartphones in unseren Taschen haben, die Signale in den Weltraum strahlen können, kratzen wir gerade noch an der Oberfläche, um das "Warum" zu verstehen, warum wir über die Dinge so denken wie wiroder woher das Bewusstsein überhaupt kommt.

Wenn wir uns vorstellen könnten, dass wir aus Versehen einen künstlichen Geist schaffen könnten, der all unsere eigenen Fehler und evolutionären Fehlzündungen enthält - bevor wir überhaupt wissen, was uns zu dem macht, was wir sind - ist die Essenz des menschlichen Amoklaufs.

Trotz unseres unermüdlichen Willens, zu entscheiden, wer im kommenden Krieg und / oder Friedensvertrag zwischen Mensch und Maschine die Oberhand gewinnen wird, ist es letztlich ein Wettbewerb begrenzter Erwartungen gegen grenzenlose Möglichkeiten, und wir streiten nurSemantik dazwischen. Sicher, wenn du frisch aus der High School kommst und deine Taxifahrt-Zertifizierung anstrebst, hat der CEO von Uber eine halbe Million Gründe, warum du wahrscheinlich darüber nachdenken solltest, woanders eine Karriere zu finden.

Aber wenn du Waffen und Dosenbohnen für die KI-Apokalypse bereitstellst, solltest du besser Zeit damit verbringen, zu lernen, wie man den nächsten großen amerikanischen Roman malt, schreibt oder schreibt. Selbst bei den konservativsten Schätzungen wird es noch einige Jahrzehnte dauern, bevor irgendeine Maschine lernt, Monet zu sein, oder sich selbst C # und Java beibringt, weil Menschen mit der Art von Kreativität, Einfallsreichtum und der Fähigkeit, unser Innerstes wie Nein auszudrücken, erfüllt sindautomatisierte Kaffeemaschine könnte es jemals.

Ja, wir könnten manchmal ein wenig emotional werden, bei der Arbeit erkältet sein oder mitten am Tag ein Power-Nickerchen machen, aber vielleicht ist es genau , weil wir menschlich sind, die Drohung zu erschaffenEtwas, das größer ist als wir in einer Maschine, ist noch weit, weit weg.

Bildnachweis: Disney Pixar, Paramount Bilder, Bosch, Youtube / TopGear, Flickr / LWP Kommunikation Flickr / BagoGames, Wikimedia-Stiftung, Twitter, WaitButWhy 1, 2