23Aug
Si vous avez prêté attention aux médias au cours de la dernière année, vous pourriez avoir l'impression que ce n'est qu'une question de temps avant que la menace de l'intelligence artificielle ne vienne nous détruire tous.
Note de la rédaction: il s'agit d'un changement par rapport à notre format normal, explicatif et explicatif, où nous laissons nos auteurs faire des recherches et présenter un regard sur la technologie.
Des grands blockbusters de l'été comme Avengers: l'ère d'Ultron et la Transcendance de Johnny Depp, des films indie plus petits comme Ex-Machina ou le drame Humans de Channel 4, les scénaristes ne peuvent pas avoir assez de trope quelle que soit leur formeAI prendra éventuellement dans les prochaines décennies, vous pouvez parier que ce sera l'enfer d'enseigner à l'humanité une leçon à propos de devenir victime de son propre orgueil.
Mais une partie de cette peur des machines est-elle justifiée? Dans cette rubrique, nous allons examiner le monde de l'IA du point de vue des scientifiques, ingénieurs, programmeurs et entrepreneurs travaillant sur le terrain aujourd'hui et résumer ce qu'ils croient être la prochaine grande révolution dans l'intelligence humaine et informatique.
Alors, devriez-vous commencer à accumuler des balles pour la prochaine guerre avec Skynet, ou vous mettre à la gorge alors qu'une armée de drones asservis prend soin de vos caprices? Continuez à lire pour le découvrir.
Connaissez votre ennemi
Pour commencer, il est utile de savoir de quoi nous parlons lorsque nous utilisons le terme général "AI".Le mot a été lancé et redéfini une centaine de fois depuis que le concept d'ordinateurs auto-conscients a été proposé par le père non officiel de l'IA, John McCarthy, en 1955. .. mais qu'est-ce que cela signifie vraiment?
Eh bien, tout d'abord, les lecteurs doivent savoir que l'intelligence artificielle telle que nous la concevons aujourd'hui se divise en deux catégories distinctes: "ANI" et "AGI".
Le premier, abréviation d'Artificial Narrow Intelligence, englobe ce que l'on appelle généralement une IA «faible», ou une IA qui ne peut opérer que dans une zone de spécialisation contrainte. Think Deep Blue, le superordinateur conçu par IBM pour renverser les maîtres d'échecs du monde en 1997. Deep Blue peut très bien faire une chose: battre les humains aux échecs. .. mais c'est à peu près tout.
Vous ne pouvez pas le réaliser, mais nous sommes déjà entourés par ANI dans nos vies quotidiennes. Les machines qui suivent vos habitudes d'achat sur Amazon et génèrent des recommandations basées sur des milliers de variables différentes sont construites sur des ANI rudimentaires qui "apprennent" ce que vous aimez au fil du temps et choisissent des produits similaires en conséquence. Un autre exemple pourrait être les filtres antipourriel personnels, des systèmes qui trient des millions de messages à la fois pour décider lesquels sont réels, et quel bruit supplémentaire peut être mis de côté.
ANI est l'implémentation utile et relativement inoffensive de l'intelligence artificielle dont toute l'humanité peut bénéficier, car bien qu'elle soit capable de traiter des milliards de requêtes et de nombres à la fois, elle opère toujours dans un environnement contraint limité par le nombre de transistorslui permettre d'avoir à tout moment donné.D'un autre côté, l'intelligence artificielle dont nous nous méfions de plus en plus est appelée «intelligence artificielle générale» ou AGI.
En l'état actuel des choses, la création de tout ce qui peut même être appelé à distance l'AGI reste le Saint Graal de l'informatique, et - si elle est réalisée - pourrait fondamentalement modifier tout ce qui concerne le monde tel que nous le connaissons. Il y a beaucoup d'obstacles à surmonter pour créer un véritable AGI à égalité avec l'esprit humain, notamment parce qu'il y a beaucoup de similitudes entre le fonctionnement de nos cerveaux et la façon dont les ordinateurs traitent l'information, quand elle descendinterpréter les choses comme nous le faisons;les machines ont une mauvaise habitude de se faire pendre par les détails et de manquer la forêt pour les arbres.
"J'ai peur que je ne puisse pas vous laisser faire ça Bullsh * t, Dave"
Quand l'ordinateur Watson d'IBM a appris comment maudire après avoir lu le dictionnaire urbain, nous avons compris à quel point nous sommes loin d'unL'IA est vraiment capable de faire le tri dans la minutie de l'expérience humaine et de créer une image précise de ce qu'une «pensée» est censée être faite.
Voyez, pendant le développement de Watson, les ingénieurs avaient du mal à essayer de lui enseigner un langage naturel qui imitait plus le nôtre, plutôt que celui d'une machine crue parlant en phrases parfaites. Pour résoudre ce problème, ils ont pensé que ce serait une bonne idée d'exécuter l'ensemble du dictionnaire urbain à travers ses banques de mémoire, rapidement après quoi Watson a répondu à l'un des tests de l'équipe en l'appelant "bullsh * t".
L'énigme ici est que même si Watson savait que c'était injurieux et que ce qu'il disait était offensant, il ne comprenait pas complètement pourquoi il n'était pas censé utiliser ce mot, qui est le composant critique qui sépare la normeANI d'aujourd'hui d'évoluer dans l'IAG de demain. Bien sûr, ces machines peuvent lire des faits, écrire des phrases, et même simuler le réseau neuronal d'un rat, mais quand il s'agit de la pensée critique et des compétences de jugement, l'IA d'aujourd'hui traîne malheureusement derrière la courbe.
Cet écart entre la connaissance et la compréhension n'est pas quelque chose à éternuer, et c'est celui que les pessimistes soulignent quand ils soutiennent que nous sommes encore loin d'avoir créé un IAG capable de se connaître comme nous le faisons. C'est un gouffre massif, que ni les ingénieurs informatiques ni les psychologues humains ne pourraient prétendre avoir une emprise sur la définition moderne de ce qui rend un être conscient, eh bien, conscient.
Et si Skynet devenait auto-conscient?
Mais, même si nous parvenons à créer une AGI dans la prochaine décennie( ce qui est plutôt optimiste étant donné les projections actuelles), tout devrait être sérieux à partir de là, n'est-ce pas? Humains vivant avec l'IA, AI traînant avec les humains le week-end après une longue journée à l'usine de crunching. Emballez et nous avons terminé ici?
J'espère que nous ne sommes pas seulement le chargeur de démarrage biologique pour la superintelligence numérique. Malheureusement, c'est de plus en plus probable
- Elon Musk( @elonmusk) 3 août 2014
Eh bien, pas tout à fait. Il reste encore une catégorie d'IA, et c'est celle que tous les films et toutes les séries télévisées tentent de nous mettre en garde depuis des années: ASI, autrement connu sous le nom de «super intelligence artificielle».En théorie, un ASI serait né d'une AGI agitée par son sort dans la vie, et prenant la décision préméditée de faire quelque chose à son sujet sans notre permission préalable. La préoccupation que de nombreux chercheurs dans le domaine ont proposée est qu'une fois qu'une IAG a atteint la sensibilité, elle ne sera pas satisfaite de ce qu'elle a et fera tout ce qui est en son pouvoir pour augmenter ses capacités par tous les moyens nécessaires.
Une chronologie possible va comme suit: les humains créent la machine, la machine devient aussi intelligente que les humains. La machine, qui est maintenant aussi intelligente que les humains qui ont créé une machine aussi intelligente qu'eux-mêmes( collabore avec moi ici), apprend l'art de l'auto-réplication, de l'auto-évolution et de l'auto-amélioration. Il ne se fatigue pas, il ne tombe pas malade et il peut se développer indéfiniment pendant que le reste d'entre nous recharge nos batteries au lit.
La crainte est qu'il ne s'agisse que de quelques nanosecondes avant qu'une AGI dépasse facilement l'intelligence de tous les humains vivant aujourd'hui, et si elle est connectée au web, il faudrait seulement simuler un neurone plus intelligent que le pirate le plus intelligent du monde.prendre le contrôle de tous les systèmes connectés à Internet sur la planète.
Une fois qu'il aura pris le contrôle, il pourrait alors utiliser son pouvoir pour commencer à amasser lentement une armée de machines aussi intelligentes que son créateur et capables d'évoluer à un rythme exponentiel à mesure que de plus en plus de nœuds sont ajoutés au réseau..De là, tous les modèles dessinés sur la courbe de l'intelligence de la machine se faufilent rapidement à travers le toit.
Cela dit, cependant, ils sont principalement basés sur la spéculation plutôt que sur quelque chose de tangible. Cela laisse beaucoup de place à l'hypothèse au nom de douzaines d'experts différents des deux côtés de la question, et même après des années de débats houleux, il n'y a toujours pas de consensus sur la question de savoir si un ASI sera un dieu miséricordieux ouEn tant qu'espèce brûlante de carbone et gorgeant de nourriture que nous sommes et nous essuyons des livres d'histoire comme nous frottons une traînée de fourmis au comptoir de cuisine.
Il a dit, elle a dit: Devrions-nous avoir peur?
Donc, maintenant que nous comprenons ce que l'IA est, les différentes formes qu'elle peut prendre au fil du temps, et comment ces systèmes pourraient devenir une partie de nos vies dans un proche avenir, la question demeure: devrions-nous avoir peur?
L'année dernière, de nombreux scientifiques, ingénieurs et entrepreneurs du monde entier ont saisi l'opportunité de donner leur avis sur ce à quoi pourrait ressembler l'intelligence artificielle en dehors du son d'Hollywood.étapes dans les prochaines décennies.
D'une part, vous avez les mornes-et-malheureux comme Elon Musk, Stephen Hawking et Bill Gates, qui partagent la préoccupation que sans les garanties appropriées mises en place, ce ne sera qu'une question de temps avant uneASI imagine un moyen d'anéantir la race humaine.
"On peut imaginer une telle technologie déjouer les marchés financiers, inventer des chercheurs humains, manipuler des leaders humains et développer des armes que nous ne pouvons même pas comprendre", écrit Hawking dans une lettre ouverte à la communauté de l'IA cette année.
"Alors que l'impact à court terme de l'IA dépend de qui le contrôle, l'impact à long terme dépend de sa capacité à être contrôlé."
D'autre part, nous trouvons un portrait plus brillant peint par des futuristes comme Ray Kurzweill, Microsoftchercheur en chef Eric Horovitz, et tout le monde autre fondateur favori d'Apple;Steve Wozniak. Hawking et Musk sont tous deux considérés comme les deux plus grands esprits de notre génération, alors remettre en question leurs prédictions sur les dommages que la technologie pourrait causer à long terme n'est pas une mince affaire. Mais laissons à des sommités comme Wozniak le soin d'intervenir là où d'autres oseraient seulement.
Lorsqu'on lui a demandé comment il croyait qu'un ASI pourrait traiter les humains, le Woz était franc dans son optimisme ombragé: «Serons-nous les dieux? Serons-nous les animaux de la famille? Ou serons-nous des fourmis qui marcheront? Je ne sais pas à ce sujet », a-t-il demandé dans une interview à l'Australian Financial Review."Mais quand je me suis mis à penser que je serais traité à l'avenir comme un animal de compagnie pour ces machines intelligentes. .. eh bien, je vais vraiment soigner mon propre chien."
Et c'est icitrouver le dilemme philosophique que personne ne se sent à l'aise de parvenir à un consensus: une ASI nous verra-t-elle comme une maison inoffensive à choyer et à entretenir, ou comme une nuisance indésirable méritant une extermination rapide et indolore?
Hasta la Vista, bébé
Bien que ce serait une course de fous de prétendre savoir exactement ce qui se passe dans la tête de la vraie vie Tony Stark, je pense que quand Musk et ses amis nous avertissent du danger de l'IA, ils ne sont passe référant à tout ce qui ressemble au Terminator, Ultron, ou Ava.
Même avec d'immenses quantités d'innovations à portée de main, les robots que nous avons aujourd'hui peuvent à peine marcher un kilomètre une heure avant d'atteindre une barrière infranchissable, de devenir confus et de manger des pavés de façon hilarante. Et si l'on peut essayer de montrer la loi de Moore comme un exemple de la rapidité avec laquelle la technologie robotique a le potentiel de progresser, l'autre n'a besoin que de regarder l'Asimo, qui a fait ses débuts il y a près de 15 ans.améliorations significatives depuis.
Autant que nous le voudrions, la robotique n'est pas parvenue à adhérer au même modèle de progrès exponentiel que nous l'avons vu dans les développements de processeurs informatiques. Ils sont limités par les limites physiques de la puissance que nous pouvons intégrer dans une batterie, la nature défectueuse des mécanismes hydrauliques et la lutte sans fin pour maîtriser la lutte contre leur propre centre de gravité.
Donc pour le moment;non, même si un vrai AGI ou ASI pourrait potentiellement être créé dans un superordinateur statique sur une ferme de serveurs en Arizona, il reste très improbable que nous nous retrouvions à courir dans les rues de Manhattan comme une horde de squelettes métalliques nous tondrepar derrière.
Au lieu de cela, l'IA que Elon et Hawking sont si désireux de mettre en garde contre le monde est celle de la variété "remplaçante de carrière", qui peut penser plus vite que nous, organiser les données avec moins d'erreurs et même apprendre à faire notre travailmieux que nous ne pourrions jamais l'espérer - tout cela sans demander une assurance santé ou quelques jours de congé pour emmener les enfants à Disneyland pendant les vacances de printemps.
Barista Bots et le Perfect Cappuccino
Il y a quelques mois, NPR a publié un outil pratique sur son site Web, dans lequel les auditeurs de podcast pouvaient choisir parmi une liste de différentes carrières pour connaître le pourcentage de risquepoint dans les 30 prochaines années.
Pour un large éventail d'emplois, y compris mais non limité à: postes de bureau, soins infirmiers, informatique, diagnostic, et même baristas, robots et leurs homologues ANI nous mettront presque certainement des millions de nous au chômage et dans la ligne de pain plus tôt quebeaucoup d'entre nous pensent. Mais ce sont des machines qui seront programmées pour faire une tâche et une tâche seulement, et qui ont peu( voire pas) d'aptitude à aller au-delà d'une série spécialisée d'instructions préprogrammées que nous avons soigneusement installées auparavant.
Cela signifie qu'au moins dans un avenir prévisible( pensez à 10-25 ans), ANI sera la menace réelle et tangible à notre mode de vie bien plus que n'importe quel AGI ou ASI théorique. Nous savons déjà que l'automatisation est un problème croissant qui modifiera radicalement la distribution des revenus et des privilèges dans le premier et le troisième monde. Cependant, si ces robots vont finalement tenter d'échanger leurs machines à coudre contre des mitrailleuses est toujours l'objet d'un débat passionné( et comme vous le découvrirez), finalement frivole.
avec une grande puissance, vient une grande singularité
"Vous savez, je sais que ce steak n'existe pas. Je sais que quand je le mets dans ma bouche, la matrice dit à mon cerveau qu'il est juteux et délicieux. Après neuf ans, vous savez ce que je réalise? "
" L'ignorance est le bonheur. "- Cypher
Bien que ce soit encore une question d'opinion farouchement défendue, pour l'instant le consensus de nombreux scientifiques et ingénieurs dans le domaine de la recherche sur l'IASoit que nous courons un plus grand risque d'être la proie des conforts qu'un monde d'intelligence artificielle pourrait fournir, plutôt que d'être abattu par une version réelle de Skynet. En tant que tel, il est une possibilité inquiétante que notre disparition éventuelle ne soit pas le produit d'un progrès lent et méthodique dans la grande inconnue. Au lieu de cela, il est beaucoup plus probable de faire surface comme une conséquence involontaire de l'intersection précipitée, trop enthousiaste de notre propre hubris et ingéniosité claquant ensemble pour créer la prochaine grande singularité technologique.
Think moins Terminator, et plus Wall-E .Comme la flotte de robots qui engraissent les humains dans le film de Pixar, nous, humains, n'avons aucun problème à garder des chimpanzés dans un zoo, et la distinction est de savoir si une IA sera assez aimable pour faire la même chose avec nous.
Dans cette perspective, il est plus logique d'avoir peur d'une réalité où les humains sont liés à une simulation de réalité virtuelle persistante à la . La matrice , engraissée aux branchies par leurs aliments préférés, et donnant tout ce qu'ils pouvaientveux que les machines s'occupent du reste. Un endroit où un ASI évolué ne nous voit pas comme un bug pour gratter sa chaussure, mais plutôt comme les adorables meatbags de singe que nous sommes, faciles à plaire et qui méritent au moins un peu de crédit pour créer l'omniscience,quasi-dieu tout-voyant qui a finalement pris le contrôle de la planète.
À cet égard, tout se résume à votre définition de ce que signifie «vivre» à travers la révolution de l'IA.L'idée que quelque chose «inutile» doit être éliminé est un concept exclusivement humain, un état d'esprit que nous ne devrions pas immédiatement attendre de nos subordonnés de la machine d'adopter notre portée morale limitée. Peut-être que l'évolution éventuelle de notre intelligence numérique ne sera pas un mal pur, mais une compassion infinie et sans préjugés pour tous les êtres vivants;Peu importe comment ils peuvent être égoïstes, pharisaïques ou autodestructeurs.
Alors. .. Devrions-nous être inquiets à ce sujet?
Cela dépend de qui vous demandez.
Si vous interrogez deux des meilleurs ingénieurs et mathématiciens de la technologie dans le monde moderne, vous obtiendrez quatre réponses différentes, et les chiffres ne chancellent pas, même les personnes que vous ajoutez au tableau de bord. D'une manière ou d'une autre, le problème fondamental que nous devrions aborder n'est pas "l'IA arrive-t-elle?", Car elle l'est, et aucun d'entre nous ne sera capable de l'arrêter. Si l'on regarde tant de points de vue différents, la vraie question à laquelle personne n'est à l'aise pour répondre avec trop d'allégresse est: «sera-t-il miséricordieux?»
Même après que certains des plus grands cerveaux du monde se sont penchés sur la questionl'intelligence pourrait ressembler à 20, 30, ou 50 ans dans l'avenir sort encore assez trouble. Parce que le domaine de l'IA se transforme constamment en quelque chose d'autre chaque fois qu'une nouvelle puce est fabriquée ou que du matériel de transistor est développé, revendiquer l'autorité ultime sur ce qui peut arriver ou ne pas se produire est un peu comme si vous saviezà venir des yeux de serpent sur le prochain lancer.
Une chose que nous pouvons rapporter en toute confiance est que si vous vous inquiétez d'obtenir un feuillet rose la semaine prochaine à partir de votre caisse enregistreuse informatisée, essayez de ne pas trop vous en prendre à ce sujet. Taco Bell sera toujours ouvert pour les mardis Taco, et un humain va certainement prendre votre commande à la fenêtre,( et oublier la sauce verte, encore une fois).Selon une étude menée par James Barrat lors du Sommet de l'AGI de l'an dernier à Québec, le jury sur un échéancier difficile pour l'IA est toujours en suspens. Moins de la moitié de tous les participants ont dit qu'ils croyaient que nous obtiendrions une véritable IAG avant l'année 2025, alors que plus de 60 pour cent ont dit que cela prendrait au moins jusqu'en 2050, sinon au prochain siècle et au-delà.
Mettre une date difficile sur notre rendez-vous avec le destin numérique, c'est un peu dire que vous savez qu'il va pleuvoir à la date d'aujourd'hui dans 34 ans. L'écart entre un vrai AGI et une super intelligence artificielle avancée est si mince que les choses iront vraiment bien, ou horriblement mal très, très rapidement. Et bien que les ordinateurs quantiques soient juste à l'horizon et que nous ayons tous dans nos poches des smartphones en réseau capables de projeter des signaux dans l'espace, nous ne faisons que gratter la surface de la compréhension du «pourquoi» des raisons pour lesquelles nous pensonsfaire, ou d'où la conscience vient même en premier lieu.
Imaginer que nous pourrions accidentellement créer un esprit artificiel avec toutes nos fautes et nos ratés d'évolution - avant même que nous sachions ce qui fait de nous ce que nous sommes - l'essence de l'ego humain se déchaîne.
En fin de compte, malgré notre désir implacable de décider qui sortira vainqueur de la guerre à venir et / ou du traité de paix entre l'humanité et les machines, c'est un concours d'attentes limitées contre des possibilités illimitées, et tout ce que nous faisons, c'estsémantique entre. Bien sûr, si vous êtes fraîchement sorti du lycée et cherchez à obtenir votre certification de conduite de taxi, le PDG d'Uber a un demi-million de raisons pour lesquelles vous devriez probablement penser à trouver une carrière ailleurs.
Mais si vous stockez des armes et des haricots en conserve pour l'apocalypse de l'IA, vous feriez mieux de passer votre temps à apprendre à peindre, à coder ou à écrire le prochain grand roman américain. Même aux estimations les plus conservatrices, il faudra plusieurs décennies avant que n'importe quelle machine apprenne à être Monet, ou apprenne C # et Java, parce que les humains sont pleins de créativité, d'ingéniosité et de capacité à exprimer notre être le plus intime.cafetière automatique pourrait jamais.
Oui, on peut parfois être un peu émotif, avoir un rhume au boulot ou avoir besoin de faire une sieste au milieu de la journée, mais c'est peut-être parce que on est humain que la menace de créerquelque chose de plus grand que nous à l'intérieur d'une machine est encore loin, très loin.
Image Crédits: Disney Pixar, Paramount Pictures, Bosch, Youtube / TopGear, Flickr / Communications LWP Flickr / BagoGames, Fondation Wikimedia, Twitter, WaitButWhy 1, 2