כיצד אינטליגנציה מלאכותית תשנה את חיינו, לטוב ולרע

אם היית מקדיש תשומת לב לתקשורת במהלך השנה האחרונה, אולי אתה מקבל את הרושם שזה רק עניין של זמן עד האיום של בינה מלאכותית באה להרוס את כולנו.

הערה של עורך: זה עזיבה של פורמט הרגיל שלנו כיצד להסביר לנו את הסופרים שלנו מחקר ולהציג מבט מעורר מחשבה על הטכנולוגיה.

מקולקציית קיץ גדולה כמו נוקמים: עידן האולטרה וג'וני דפ של טרנסצנדנס, אל הקטעים הקטנים והאינדיים כמו אקס-מאצ'ינה או דרמה של ערוץ 4 בני אדם, תסריטאים לכאורה לא יכולים לקבל מספיק של הלהקה, כי לא משנה מה הטופסAI בסופו של דבר לוקח את העשורים הקרובים, אתה יכול להתערב שזה יהיה לעזאזל כפוף ללמד את האנושות לקח על הנפילה קורבן להיבריס שלו.

אבל האם כל הפחד הזה של המכונות מוצדק?בתכונה זו, אנחנו הולכים לבחון את העולם של AI מנקודת המבט של מדענים, מהנדסים, מתכנתים, ויזמים עובדים בתחום היום ומרתיחים את מה שהם מאמינים יכול להיות המהפכה הגדולה הבאה אינטליגנציה האדם והמחשב.

אז, אתה צריך להתחיל stockpiling תבליטים עבור המלחמה הקרובה עם Skynet, או לבעוט את הרגליים בזמן צבא של מזל"ט סובסידיות לטפל בגחמה שלך כל?המשך לקרוא כדי לגלות.

דע את האויב שלך

כדי להתחיל, זה עוזר לדעת מה בדיוק אנחנו מדברים כאשר אנו משתמשים במונח שמיכה "AI".המילה כבר נזרק סביב מחדש מאות פעמים מאז הרעיון של מחשבים מודעים עצמית הוצע לראשונה על ידי אביו רשמי של AI, ג 'ון מקארתי, בשנת 1955. .. אבל מה זה באמת אומר?

ובכן, קודם כל, הקוראים צריכים לדעת כי בינה מלאכותית כפי שאנו מבינים אותו היום בעצם נופל לשתי קטגוריות נפרדות: "ANI" ו "AGI".

הראשון, קצר עבור אינטליגנציה צרה מלאכותית, מקיפה את מה שמכונה בדרך כלל AI "חלש", או AI שיכולים לפעול רק בתחום אחד מוגבל של התמחות.תחשוב עמוק כחול, מחשב העל שתוכנן על ידי יבמ כדי לקצץ את chessmasters בעולם בחזרה בשנת 1997. כחול עמוק יכול לעשות דבר אחד ממש טוב: לנצח בני אדם שחמט. .. אבל זה על זה.

אולי אתה לא מבין את זה, אבל אנחנו כבר מוקף ANI בחיי היומיום שלנו.מכונות לעקוב אחר הרגלי הקניות שלך על אמזון וליצור המלצות על בסיס אלפי משתנים שונים בנויים על ANIs ראשוני כי "ללמוד" מה שאתה אוהב לאורך זמן ולבחור מוצרים דומים בהתאם.דוגמה נוספת יכולה להיות מסנני דואר זבל אישיים, מערכות המיון דרך מיליוני הודעות בבת אחת כדי להחליט אילו הם אמיתיים, ומה רעש נוסף שניתן לדחוף בצד.

ANI הוא יישום שימושי, לא מזיק יחסית, של אינטליגנציה ממוחשבת, שכל האנושות יכולה להפיק תועלת, שכן למרות שהיא מסוגלת לעבד מיליארדי מספרים ובקשות בכל פעם, היא עדיין פועלת בתוך סביבה מוגבלת, המוגבלת במספר הטרנזיסטורים שאנולאפשר את זה בכל עת נתון.מצד שני, AI אנחנו כבר יותר ויותר חשד זה משהו שנקרא "אינטליגנציה כללית מלאכותית", או AGI.

כפי שהיא עומדת כיום, יצירת כל דבר שניתן אפילו מרחוק המכונה AGI נשאר הגביע הקדוש של מדעי המחשב, ו - אם מושגת - יכול לשנות באופן יסודי כל דבר על העולם כפי שאנו מכירים אותו.ישנם מכשולים רבים כדי להתגבר על האתגר של יצירת AGI אמיתי על השווי המוח האנושי, לא פחות מכך הוא שלמרות שיש הרבה קווי דמיון בין הדרך בה המוח שלנו עובד ואיך מחשבים מעבדים מידע, כשזה מגיעלמעשה לפרש דברים כמו שאנחנו עושים;מכונות יש הרגל רע של מקבל ניתק על הפרטים החסרים את היער על העצים.

"אני חושש שאני לא יכול לתת לך לעשות את זה בולש * לא, דייב"

כאשר ווטסון של יבמ המחשב המפורסם למד כיצד לקלל לאחר קריאת דרך המילון האורבני, הצלחנו להבין עד כמה רחוק אנחנוAI זה באמת מסוגל למיין דרך minutia של החוויה האנושית ויצירת תמונה מדויקת של מה "מחשבה" הוא אמור להיות עשוי.

ראה, במהלך הפיתוח של ווטסון, היו מהנדסים מתקשים לנסות ללמד אותו דפוס טבעי של דיבור זה יותר הדמיון שלנו, ולא של מכונת גלם מדבר משפטים מושלמים.כדי לתקן זאת, הם חשבו שזה יהיה רעיון טוב להריץ את כל המילון העירוני דרך הבנקים הזיכרון שלה, מיד לאחר אשר ווטסון הגיב על אחד המבחנים של הקבוצה על ידי קורא לזה "bullsh * t".

חידה כאן היא כי למרות ווטסון ידע שזה מקלל וכי מה זה אומר היה פוגע, זה לא הבינו לחלוטין למה זה לא היה אמור להשתמש במילה, שהוא הרכיב הקריטי המפריד בין תקןANI של היום מן ההתפתחות לתוך AGI של מחר.כמובן, המכונות האלה יכולות לקרוא עובדות, לכתוב משפטים ואפילו לדמות את הרשת העצבית של חולדה, אבל כשמדובר בחשיבה ביקורתית ובמיומנויות שיפוטיות, ה- AI של היום עדיין מפגר בעצב מאחורי העקומה.זה הפער בין ידיעה להבנה, אין דבר להתעטש בו, וזה מה שפסימיסטים מצביעים עליו כשאומרים שאנחנו עדיין רחוקים מלהיות מסוגלים ליצור AGI המסוגל להכיר את עצמו כמו שאנחנו עושים.זהו פער עצום, כזה שאפילו מהנדסי מחשבים או פסיכולוגים אנושיים לא יכלו לטעון שיש להם אחיזה בהגדרה המודרנית של מה שעושה את ההכרה, כן, מודעת.מה אם Skynet הופך מודע?אבל אם נצליח איכשהו ליצור AGI בעשור הבא( שהוא אופטימי למדי בהתחשב בתחזיות הנוכחיות), זה צריך להיות כל הרוטב משם בחוץ, נכון?בני אדם החיים עם AI, AI להסתובב עם בני אדם בסופי שבוע לאחר יום ארוך במפעל גריסה מספר.ללא שם: לארוז ואנו נעשה כאן?

התקווה אנחנו לא רק את מטעין ביולוגי עבור דיגיטלי superintelligence.למרבה הצער, זה יותר ויותר סביר

- אילון Musk( @elonmusk) 3 אוגוסט, 2014

טוב, לא ממש.יש עוד קטגוריה אחת של AI שמאל, וזה אחד שכל הסרטים ותוכניות הטלוויזיה מנסים להזהיר אותנו במשך שנים: אסי, הידוע גם בשם "אינטליגנציה סופר מלאכותית".בתיאוריה, אסי יהיה נולד מתוך AGI מקבל חסר מנוחה עם הרבה בחיים שלה, ולהפוך את ההחלטה מראש לעשות משהו על זה בכוחות עצמו ללא רשותנו הראשון.הדאגה של חוקרים רבים בתחום היא כי כאשר AGI משיגה את החוויה, היא לא תהיה מרוצה עם מה שיש לה, ותעשה כל מה שהיא יכולה כדי להגדיל את היכולות שלה בכל האמצעים הדרושים.

ציר זמן אפשרי הולך כדלקמן: בני אדם ליצור מכונה, המכונה הופכת חכם כמו בני אדם.המכונה, שהיא עכשיו חכמה כמו בני האדם שיצרו מחשב חכם כמו עצמם( מקל איתי כאן), לומד את אמנות השכפול העצמי, האבולוציה העצמית, ואת שיפור עצמי.זה לא מתעייף, זה לא חולה, וזה יכול לגדול ללא סוף בעוד שארנו recharging הסוללות שלנו במיטה.

הפחד הוא שזה יהיה רק ​​עניין של כמה nanoseconds לפני AGI בקלות עלה על האינטליגנציה של כל בני האדם החיים היום, ואם מחובר לאינטרנט, רק צריך להיות נוירון מדומה אחד חכם יותר האקר החכם ביותר בעולם כדילהשתלט על כל מערכת מחוברים לאינטרנט על הפלנטה.

ברגע שהוא מרוויח שליטה, זה יכול אז יש את הפוטנציאל להשתמש בכוח שלה לאט להתחיל לצבור צבא של מכונות שהם באותה מידה כמו אינטליגנטי היוצר שלה מסוגל להתפתח בקצב מעריכי כמו צמתים יותר ויותר מתווספים לרשת.מכאן, כל הדגמים משורטטים על עקומת המודיעין המכונה מיד דרך הרקטה.עם זאת, הם עדיין מבוססים עדיין על ספקולציה ולא על כל דבר מוחשי.זה משאיר הרבה מקום להנחה מטעם עשרות מומחים שונים משני צידי הנושא, וגם לאחר שנים של ויכוח סוער, עדיין אין הסכמה משותפת על האם או לא ASI יהיה אל רחום, או לראות בני אדםכמו המינים הפוחמים את הפחמים, הממזגים את המזון שאנו מנקים וממלאים בספרי ההיסטוריה כאילו אנו מקרצפים שובל של נמלים מעל דלפק המטבח.

הוא אמר, היא אמרה: אנחנו צריכים לפחד?אז עכשיו, כשאנחנו מבינים מה הוא AI, הצורות השונות שהוא עשוי לקחת לאורך זמן, וכיצד מערכות אלו יכולות להפוך לחלק מהחיים שלנו בעתיד הקרוב, נשאלת השאלה: האם עלינו לפחד?

על עקבותיו של הציבור מתעניין ב AI בשנה האחרונה, רבים של המדענים המובילים בעולם, מהנדסים, ויזמים יש קפץ על ההזדמנות לתת את שני סנטים על מה אינטליגנציה מלאכותית אולי באמת נראה מחוץ לקול של הוליוודבשלבים הבאים.

מצד אחד, יש לך את הקדרות- and-Doomers כמו אלון Musk, סטיבן הוקינג, ביל גייטס, שלכולם יש את החשש כי ללא אמצעי הגנה נאותים במקום, זה יהיה רק ​​עניין של זמן עדאסי חולם דרך לחסל את המין האנושי."אפשר לדמיין טכנולוגיה כזו מתעלמת משווקים פיננסיים, ממציאת חוקרים אנושיים, מניפולציה של מנהיגים אנושיים, ומפתחת נשק שאיננו יכולים אפילו להבין", כתב הוקינג במכתב גלוי לקהילת AI השנה.

"בעוד שההשפעה בטווח הקצר של AI תלויה במי השולט בה, ההשפעה לטווח הארוך תלויה בשאלה האם ניתן לשלוט בה בכלל".

מצד שני, אנו מוצאים תמונה בהירה יותר של פוטוריסטים כמו ריי קורצווייל,החוקר הראשי אריק הורוביץ, ו כולם אחר מייסד אפל האהוב;סטיב ווזניאק.גם הוקינג וגם מאסק נחשבים לשני המוחות הגדולים בדורנו, ולכן כדי להטיל ספק בתחזיותיהם לגבי הנזק שהטכנולוגיה עלולה לגרום בטווח הארוך, זה לא קל.אבל, להשאיר את זה מאורות כמו Wozniak לשלב שבו אחרים יעזו רק.

כשנשאל כיצד הוא מאמין ש- ASI יכול לטפל בבני אדם, הוא היה בוטה באופטימיות המוצלת שלו: "האם נהיה האלים?האם נהיה חיות מחמד?או שמא נהיה נמלים שנדרכות?אני לא יודע על זה ", הוא שאל בראיון לסקירה הפיננסית האוסטרלית."אבל כאשר קיבלתי את המחשבה הזאת על הראש שלי אם אני הולך להיות מטופלים בעתיד כמו חיית המחמד המכונות האלה חכם. .. גם אני הולך לטפל כלב המחמד שלי ממש נחמד."

וזה כאן אנחנולמצוא את הדילמה הפילוסופית שאף אחד לא מרגיש בנוח לגמרי להגיע לקונצנזוס על: האם אס.אס.איי תראו אותנו כמו בית מזיק כדי להיות מקודדים ומטופלים, או מזיק לא רצוי הראוי להשמדה מהירה וללא כאבים?למרות שזה יהיה שליח של טיפש לטעון לדעת מה קורה בראש החיים האמיתיים טוני שטארק, אני חושב כאשר Musk וחברים מזהירים אותנו על הסכנה של AI, הם לאבהתייחסו לכל דבר הדומה לטרמינאטור, לאולטרה או לאווה.

גם עם כמות עצומה של חדשנות בקצות האצבעות שלנו, הרובוטים שיש לנו היום בקושי יכולים ללכת קילומטר שעה לפני שהם מגיעים למחסום בלתי עביר, להתבלבל, ולאכול המדרכה בצורה מצחיקה.ובעוד אפשר לנסות להצביע על חוק מור כדוגמה לטכנולוגיה של הרובוטיקה המהירה שיש לה פוטנציאל להתקדם בעתיד, השנייה רק ​​צריכה להסתכל על האסימו, שהופיע לראשונה לפני כמעט 15 שנה, ולא עשה שוםשיפורים משמעותיים מאז.

ככל שאנו עשויים לרצות אותם, הרובוטיקה לא התקרבו בשום מקום לדבקות באותו דגם של התקדמות מעריכית כפי שראינו בהתפתחויות במעבד המחשב.הם מוגבלים על ידי הגבולות הפיזיים של כמה כוח אנחנו יכולים להתאים לתוך ערכת סוללה, האופי הפגום של מנגנוני הידראולי, ואת המאבק האינסופי לשלוט במאבק נגד מרכז הכובד שלהם.

אז לעת עתה;לא, למרות AGI אמיתי או ASI יכול להיות שנוצר במחשב סטטית על כמה חוות השרתים באריזונה, זה עדיין לא סביר כי נוכל למצוא את עצמנו רצים ברחובות מנהטן כמו המוני שלדי מתכת לכסח אותנו למטהמאחור.

במקום זאת, ה- AI שאלון והוקינג משתוקקים כל כך להזהיר את העולם הוא זה של מגוון "החלפת הקריירה", אחד שיכול לחשוב מהר יותר מאיתנו, לארגן נתונים עם פחות טעויות ואפילו ללמוד איך לעשות את העבודה שלנוטוב יותר ממה שיכולנו אי פעם מקווה - כל זאת בלי לבקש ביטוח בריאות או כמה ימי חופשה לקחת את הילדים למטה דיסנילנד על האביב הפסקה.לפני מספר חודשים פרסמה NPR כלי שימושי באתר האינטרנט שלה, שבו מאזינים podcast יכול לבחור מתוך רשימה של קריירות שונות כדי לגלות את אחוז הסיכון שלהם קו מסוים של העבודה נשאו להיות אוטומטיים בחלקנקודה ב -30 השנים הבאות.

עבור מגוון רחב של מקומות עבודה, כולל אך לא רק: תפקידים פקידותיים, סיעוד, IT, אבחון ואפילו baristas בתי קפה, רובוטים ומקבלי ANI שלהם יהיה כמעט בוודאות לשים מיליוני מאיתנו מחוץ לעבודה לתוך קו הלחם מוקדם יותר מאשררבים מאיתנו חושבים.אבל מדובר במכונות שיתוכננו לבצע משימה אחת ומשימה אחת בלבד, ויש להן יכולת מועטה( אם בכלל) להתקדם מעבר לסדרה מיוחדת של הוראות מתוכנתות מראש, שאותן אנו מתקינים בקפידה מראש.

משמעות הדבר היא שלפחות בעתיד הנראה לעין( חושב 10-25 שנים), ANIs יהיה האיום האמיתי, מוחשי על דרך החיים שלנו הרבה יותר מאשר כל AGI תיאורטית או ASI עשוי.אנחנו כבר יודעים כי אוטומציה היא בעיה הולכת וגדלה כי יהיה לשנות באופן דרסטי את הדרך בה הכנסה וזכויות מופצים ברחבי העולם הראשון והשלישי.עם זאת, אם אלה הרובוטים ינסו בסופו של דבר לסחור מכונות התפירה שלהם עבור מקלעים עדיין הנושא של מחומם( וכפי שתגלה), בסופו של דבר ויכוח קל.

עם כוח גדול, מגיע הסינגולריות הגדולה

"אתה יודע, אני יודע את זה סטייק לא קיים.אני יודע שכשאני שם את זה בפי, המטריקס אומר למוחי שזה עסיסי וטעים.אחרי תשע שנים, אתה יודע מה אני מבין? "

" בורות היא אושר ". - Cypher

למרות שזה עדיין עניין של דעה טענה בעוז, לעת עתה את הקונצנזוס של מדענים ומהנדסים רבים בתחום המחקר AI נראהכי אנו נמצאים בסיכון גדול יותר לנפילה טרף לנוחות כי עולם של בינה מלאכותית יכול לספק, ולא להיות נורה על ידי גרסה של החיים האמיתיים של Skynet.ככזה, זו אפשרות לגבי האפשרות כי המוות הסופי שלנו לא יכול לבוא כמו תוצר של התקדמות איטית, שיטתית אל הלא ידוע הגדול.במקום זאת, סביר יותר להניח כי פני השטח הם תוצאה בלתי מכוונת של הצומת המהירה, הנלהבת יתר על המידה, של ההיבריס שלנו ושל כושר ההמצאה שלנו, שיחדרו יחד כדי ליצור את הסינגולריות הטכנולוגית הגדולה הבאה.

חושב פחות שליחות קטלנית, ועוד Wall-E .כמו צי הרובוטים שפיטמו את בני האדם בסרטו של פיקסאר, לבני האדם אין שום בעיה לשמור על שימפנזים בגן החיות, וההבחנה היא אם AI יהיה אדיב מספיק לעשות את אותו הדבר.

מנקודת מבט זו, זה הגיוני יותר לפחד ממציאות שבה בני אדם מחוברים עד סימולציה VR מתמיד רחב VR-la מטריקס , fattened את הזימים על ידי המאכלים האהובים עליהם, בהתחשב בכל מה שהם יכולים אי פעםרוצה בזמן שהמכונות דואגות לכל השאר.מקום שבו א.ס. לא מפותח לא רואה אותנו כמו באג כדי לגרד את הנעל שלה, אבל במקום כמו קופים בשר מקסים שאנחנו, קל בבקשה וראוי לפחות קצת אשראי ליצירת כל ידע,שכולו מעין אלוהים, שבסופו של דבר השתלט על הפלנטה.

מבחינה זו, כל זה מגיע להגדרה שלך מה זה אומר "לחיות" דרך המהפכה AI.הרעיון שיש לעשות משהו "חסר תועלת" הוא רעיון אנושי בלעדית, חשיבה שאסור לנו לצפות מיד מאלפי המכונות שלנו לאמץ מהיקף המוסרי המוגבל שלנו.אולי ההתפתחות העתידית של האינטליגנציה הדיגיטלית שלנו לא תהיה רוע טהור, אלא חמלה אינסופית, חסרת הטיה פחות מכל היצורים החיים;לא משנה כמה אנוכי, צדקני, או הרס עצמי הם עשויים להיות.

אז. .. אנחנו צריכים להיות מודאגים בקשר לזה?

זה תלוי מי אתה שואל.

אם תסקרו שניים מהמהנדסים הטכנולוגיים והמתמטיקאים החכמים ביותר בעולם המודרני, אתם תקבלו ארבע תשובות שונות, והמספרים לא ישתנו מהמתים אפילו יותר אנשים שתוסיפו לתוצאה.כך או כך, נושא הליבה שאנחנו צריכים להתייחס אליו הוא לא על "האם אני מגיע?" כי זה, ואף אחד מאיתנו לא יוכל לעצור את זה.אם מסתכלים על כל כך הרבה פרספקטיבות שונות, השאלה האמיתית כי אף אחד לא נוח לענות עם יותר מדי gumption היא: "האם זה יהיה רחום?"

גם אחרי כמה מן המוחות הגדולים בעולם שקלו על הנושא, את התמונה של איזה מכונההמודיעין עשוי להיראות כמו 20, 30, או 50 שנים לתוך העתיד עדיין יוצא די עכור.בגלל שדה AI הוא כל הזמן להפוך משהו אחר בכל פעם שבב מחשב חדש מיוצר או חומר טרנזיסטור מפותחת, בטענה הסמכות האולטימטיבית על מה יכול או לא יכול לקרות הוא קצת כמו להגיד לך "יודע" כי גליל הקוביות הוא בטוחלעלות על עיני הנחש בזריקה הבאה.

דבר אחד אנחנו יכולים לדווח בביטחון היא שאם אתה מודאג מקבל פתק ורוד בשבוע הבא מן הקופה הממוחשבת שלך, מנסה לא לקבל גם תפסו על זה.טאקו בל עדיין יהיה פתוח עבור ימי שלישי טאקו, ואת האדם יהיה בהחלט לקחת את ההזמנה שלך על החלון,( וגם שוכח את הרוטב הירוק, שוב).על פי מחקר שנערך על ידי ג 'יימס Barrat ב AGI הפסגה בשנה שעברה בקוויבק, חבר המושבעים על ציר זמן קשה עבור AI הוא עדיין בחוץ.פחות ממחצית מכלל הנוכחים אמרו כי הם מאמינים כי נוכל להשיג AGI אמיתי לפני שנת 2025, בעוד שיותר מ 60% אמרו כי ייקח עד לפחות 2050, אם לא הבא אל תוך המאה הבאה ומעבר.

לשים תאריך קשה על התאריך שלנו עם הגורל הדיגיטלי הוא קצת כמו להגיד שאתה יודע שזה הולך לרדת על היום של היום 34 שנים מהיום.הפער בין AGI אמיתי לבין אינטליגנציה סופר מלאכותית מתקדמת הוא כה דק עד כדי כך שהדברים יילכו ממש נכון, או מאוד לא בסדר מאוד, מהר מאוד.ואף על פי המחשבים הקוונטיים הם רק מעל האופק וכולנו יש טלפונים חכמים ברשת בכיסים שלנו שיכולים אותות אל החלל, אנחנו עדיין רק בקושי מגרד את פני השטח של הבנה "למה" למה אנחנו חושבים על דברים כמו שאנחנולעשות, או היכן התודעה אפילו מגיע מלכתחילה.

לדמיין שאנחנו יכולים בטעות ליצור מוח מלאכותי רווי עם כל הפגמים שלנו ואת misfires אבולוציוני - לפני שאנחנו אפילו יודעים מה זה עושה אותנו מי שאנחנו - הוא המהות של האגו האנושי לרוץ amok.

בסופו של דבר, למרות הרצון הבלתי פוסק שלנו להחליט מי ייצא לפועל במלחמה הבאה ו / או הסכם השלום בין האנושות למכונות, זו תחרות של ציפיות מוגבלות מול אפשרויות בלתי מוגבלות, וכל מה שאנחנו עושים הוא להתווכחסמנטיקה בין לבין.בטח, אם אתה טרי מתוך בית הספר התיכון מחפש לקבל את המונית הסמכה נהיגה, מנכ"ל אובר יש חצי מיליון סיבות למה אתה כנראה צריך לחשוב על מציאת קריירה במקום אחר.

אבל אם אתה מאגר נשק משומר שעועית עבור אפוקליפסה AI, אולי כדאי לך לבלות את הזמן ללמוד איך לצייר, קוד, או לכתוב את הרומן האמריקאי הגדול הבא.אפילו בהערכות השמרניות ביותר, זה יהיה כמה עשורים לפני שמכשיר כלשהו ילמד איך להיות מונה, או ילמד את עצמו C # ו- Java, כי בני האדם מלאים במין יצירתיות, כושר המצאה ויכולת להביע את האני הפנימי שלנו כמומכונת קפה אוטומטית יכול אי פעם.

כן, אנחנו עשויים לקבל קצת רגשית לפעמים, לרדת עם הקור על העבודה, או צריך לקחת תנומה כוח באמצע היום, אבל אולי זה בדיוק כי אנו אנושיים כי האיום של יצירתמשהו גדול יותר מאיתנו בתוך מכונה הוא עדיין רחוק, רחוק.

תמונה קרדיטים: דיסני פיקסר, פרמאונט תמונות, בוש, Youtube / TopGear, Flickr / LWP תקשורת Flickr / BagoGames, קרן ויקימדיה, טוויטר, WaitButWhy 1, 2