Par AsimovEdit

Les histoires d’Asimov testent ses Trois lois dans une grande variété de circonstances conduisant à des propositions et au rejet des modifications. Le spécialiste de science-fiction James Gunn écrit en 1982, « Les histoires de robots Asimov dans leur ensemble peuvent mieux répondre à une analyse sur cette base: l’ambiguïté des trois lois et la manière dont Asimov a joué vingt-neuf variations sur un thème ». Alors que l’ensemble original de lois a inspiré de nombreuses histoires, Asimov a introduit des versions modifiées de temps en temps.

Première loi modifiéeModifier

Dans « Little Lost Robot » plusieurs NS-2, ou « Nestor », les robots sont créé avec seulement une partie de la première loi. Il se lit comme suit:

1. Un robot ne peut pas nuire à un être humain.

Cette modification est motivée par une difficulté pratique car les robots doivent travailler aux côtés d’êtres humains exposés à de faibles doses de rayonnement. Parce que leur cerveau positronique est très y sensibles aux rayons gamma, les robots sont rendus inutilisables par des doses raisonnablement sûres pour l’homme. Les robots sont détruits pour tenter de sauver les humains qui ne sont pas réellement en danger mais qui « pourraient oublier de quitter » la zone irradiée dans le délai d’exposition. La suppression de la clause «d’inaction» de la première loi résout ce problème mais crée la possibilité d’un problème encore plus grand: un robot pourrait initier une action qui nuirait à un humain (laisser tomber un poids lourd et ne pas l’attraper est l’exemple donné dans le text), sachant qu’elle était capable de prévenir le mal et ensuite décider de ne pas le faire.

Gaia est une planète à intelligence collective dans la série Foundation qui adopte une loi similaire à la première loi, et la La loi Zeroth, comme sa philosophie:

Gaia ne doit pas nuire à la vie ni permettre à la vie de nuire.

Loi Zeroth ajoutéeModifier

Asimov a ajouté une fois une « Loi Zeroth » – ainsi nommée pour continuer le modèle où les lois numérotées plus petites remplacent les lois numérotées plus élevées – indiquant qu’un robot doit pas nuire à l’humanité. Le personnage robotique R. Daneel Olivaw a été le premier à donner un nom à la loi Zeroth dans le roman Robots and Empire; cependant, le personnage Susan Calvin exprime le concept dans la nouvelle « The Evitable Conflict ».

Dans les dernières scènes du roman Robots and Empire, R. Giskard Reventlov est le premier robot à agir selon la loi Zeroth. Giskard est télépathique, comme le robot Herbie dans la nouvelle « Menteur! », Et essaie d’appliquer la loi Zeroth grâce à sa compréhension d’un concept plus subtil de « mal » que la plupart des robots ne peuvent comprendre. Cependant, contrairement à Herbie, Giskard saisit le concept philosophique de la loi Zeroth lui permettant de nuire à des êtres humains individuels s’il peut le faire au service du concept abstrait de l’humanité. La loi Zeroth n’est jamais programmée dans le cerveau de Giskard, mais plutôt une règle qu’il tente de comprendre par métacognition pure. Bien qu’il échoue – il détruit finalement son cerveau positronique car il n’est pas certain que son choix se révélera être pour l’ultime bien de l’humanité ou pas – il donne à son successeur R. Daneel Olivaw ses capacités télépathiques. Au cours de plusieurs milliers d’années, Daneel s’adapte pour pouvoir obéir pleinement à la loi Zeroth. Comme le formule Daneel, dans les romans Foundation and Earth et Prelude to Foundation, la loi Zeroth se lit comme suit:

Un robot ne peut pas nuire à l’humanité ou, par inaction, permettre à l’humanité de nuire.

Une condition stipulant que la loi Zeroth ne doit pas être enfreinte a été ajoutée aux trois lois originales, bien qu’Asimov ait reconnu la difficulté qu’une telle loi poserait dans la pratique. Asimov « s roman Foundation and Earth contient le passage suivant:

Trevize fronça les sourcils. « Comment décidez-vous de ce qui est préjudiciable, ou non, à l’humanité dans son ensemble? »

« Précisément, monsieur, » dit Daneel. « En théorie, la loi Zeroth était la réponse à nos problèmes. En pratique, nous ne pourrions jamais décider. Un être humain est un objet concret. La blessure d’une personne peut être estimée et jugée. L’humanité est une abstraction. »

Un traducteur a incorporé le concept de la loi Zeroth dans l’un des romans d’Asimov avant qu’Asimov lui-même ne rende la loi explicite. Près de l’apogée des grottes d’acier, Elijah Baley se fait un commentaire amer en pensant que la Première Loi interdit à un robot de nuire à un être humain. Il détermine qu’il doit en être ainsi à moins que le robot ne soit assez intelligent pour comprendre que ses actions sont pour le bien à long terme de l’humanité. Dans la traduction française de Jacques Brécard de 1956 intitulée Les Cavernes d « acier Baley », les pensées émergent de manière légèrement différente:

Un robot ne peut pas nuire à un être humain, à moins qu’il ne trouve un moyen de prouver qu’en fin de compte le mal fait profiterait à l’humanité en général!

Suppression des trois lois

Trois fois au cours de sa carrière d’écrivain, Asimov a dépeint des robots qui ignorent complètement les trois lois. Le premier cas était un court-métrage intitulé « Première loi » et est souvent considéré comme un « grand conte » insignifiant ou même apocryphes. D’autre part, la nouvelle « Cal » (de la collection Gold), racontée par un narrateur robot à la première personne, met en scène un robot qui ne tient pas compte des Trois Lois parce qu’il a trouvé quelque chose de bien plus important – il veut être écrivain . Humoristique, en partie autobiographique et de style inhabituellement expérimental, « Cal » a été considérée comme l’une des histoires les plus fortes de Gold. La troisième est une nouvelle intitulée « Sally » dans laquelle des voitures équipées de cerveaux positroniques sont apparemment capables de blesser et de tuer des humains. au mépris de la première loi. Cependant, mis à part le concept de cerveau positronique, cette histoire ne fait pas référence à d’autres histoires de robots et peut ne pas être placée dans la même continuité.

L’histoire principale de la collection Robot Dreams dépeint LVX-1, ou « Elvex », un robot qui entre dans un état d’inconscience et rêve grâce à la construction fractale inhabituelle de son cerveau positronique. Dans son rêve, les deux premières lois sont absentes et la troisième loi se lit comme suit: « Un robot doit protéger sa propre existence « .

Asimov a pris des positions différentes sur la question de savoir si les lois étaient facultatives: bien que dans ses premiers écrits, elles soient simplement des sauvegardes soigneusement conçues, Asimov a déclaré dans des histoires ultérieures qu’elles étaient une partie inaliénable de la fondation mathématique n sous-jacent au cerveau positronique. Sans la théorie de base des trois lois, les scientifiques fictifs de l’univers d’Asimov seraient incapables de concevoir une unité cérébrale fonctionnelle. Ceci est historiquement cohérent: les occasions où les roboticiens modifient les lois se produisent généralement tôt dans la chronologie des histoires et à la fois quand il y a moins de travail existant à refaire. Dans « Little Lost Robot », Susan Calvin considère que modifier les lois est une idée terrible, bien que possible, tandis que des siècles plus tard, le Dr Gerrigel dans Les grottes d’acier le croit impossible.

Le personnage du Dr Gerrigel utilise le terme «Asenion» pour décrire les robots programmés avec les trois lois. Les robots dans les histoires d’Asimov, étant des robots Asenion, sont incapables de violer sciemment les Trois Lois mais, en principe, un robot dans la science-fiction ou dans le monde réel pourrait être non-Asenion. « Asenion » est une faute d’orthographe du nom Asimov qui a été réalisé par un rédacteur en chef du magazine Planet Stories. Asimov a utilisé cette variation obscure pour s’insérer dans les grottes de l’acier, tout comme il s’appelait «Azimuth ou, peut-être, Asymptote» dans Thiotimoline to the Stars, en grande partie de la même manière que Vladimir Nabokov est apparu dans Lolita, déguisé par anagrammatiquement en « Vivian Darkbloom ».

Les personnages dans les histoires soulignent souvent que les Trois Lois, telles qu’elles existent dans l’esprit d’un robot, ne sont pas les versions écrites généralement cité par les humains, mais des concepts mathématiques abstraits sur lesquels repose toute la conscience en développement d’un robot. Ce concept est en grande partie flou et peu clair dans les histoires précédentes représentant des robots très rudimentaires qui ne sont programmés que pour comprendre les tâches physiques de base ks, où les Trois Lois agissent comme une garantie globale, mais à l’ère des Grottes d’Acier avec des robots dotés d’une intelligence humaine ou au-delà de l’humain, les Trois Lois sont devenues la vision du monde éthique fondamentale qui détermine les actions de tous les robots.

Par d’autres auteursEdit

La trilogie de Roger MacBride AllenEdit

Dans les années 1990, Roger MacBride Allen a écrit une trilogie qui se déroulait dans l’univers fictif d’Asimov. Chaque titre a le préfixe « Isaac Asimov » s « comme Asimov avait approuvé le plan d’Allen » avant sa mort. Ces trois livres, Caliban, Inferno et Utopia, présentent un nouvel ensemble des Trois Lois. Les soi-disant nouvelles lois sont similaires aux originaux d’Asimov avec les différences suivantes: la première loi est modifiée pour supprimer la clause «d’inaction», la même modification faite dans «Little Lost Robot»; la deuxième loi est modifiée pour exiger la coopération au lieu de l’obéissance; la Troisième Loi est modifiée afin qu’elle ne soit plus remplacée par la Seconde (c’est-à-dire qu’un robot « Nouvelle Loi » ne peut pas être ordonné de se détruire); enfin, Allen ajoute une Quatrième Loi qui ordonne au robot de faire « tout il aime « tant que cela n’entre pas en conflit avec les trois premières lois. La philosophie derrière ces changements est que les robots de » nouvelle loi « devraient être des partenaires plutôt que des esclaves de l’humanité, selon Fredda Leving, qui a conçu ces robots de la nouvelle loi. à l’introduction du premier livre, Allen a conçu les nouvelles lois en discussion avec Asimov lui-même. Cependant, l’Encyclopedia of Science Fiction dit que « Avec la permission d’Asimov, Allen a repensé les Trois Lois et a développé un nouvel ensemble ».

Jack Williamson « s » With Folded Hands « Edit

La novelette de Jack Williamson » With Folded Hands « (1947), réécrite plus tard comme le roman Les Humanoïdes, traite des serviteurs de robots dont la principale directive est «Servir et obéir, et protéger les hommes du mal». Alors que les lois robotiques d’Asimov sont destinées à protéger les humains du mal, les robots de l’histoire de Williamson ont poussé ces instructions à l’extrême; ils protègent les humains de tout, y compris le malheur, le stress, un mode de vie malsain et toutes les actions qui pourraient être potentiellement dangereuses. Tout ce qui reste aux humains à faire est de s’asseoir les mains jointes.

Trilogie de la suite de la FondationModifier

Dans les suites sous licence officielle de la Fondation Foundation « s Fear, Foundation and Chaos and Foundation » s Triomphe (par Gregory Benford, Greg Bear et David Brin respectivement) le futur Empire Galactique est considéré comme contrôlé par une conspiration de robots humaniformes qui suivent la Loi Zeroth et sont dirigés par R. Daneel Olivaw.

Le Les lois de la robotique sont dépeintes comme quelque chose qui ressemble à une religion humaine et sont mentionnées dans le langage de la Réforme protestante, avec l’ensemble de lois contenant la loi Zeroth connue sous le nom de «Réforme giskardienne» à l’original «Orthodoxie calvinienne» des Trois Lois. Les robots Zeroth-Law sous le contrôle de R. Daneel Olivaw sont continuellement aux prises avec des robots de «première loi» qui nient l’existence de la loi Zeroth, promouvant des agendas différents de ceux de Daneel. Certains de ces agendas sont basés sur la première clause de la première loi (« Un robot ne peut pas blesser un être humain … ») préconisant une non-ingérence stricte dans la politique humaine pour éviter de causer des dommages involontairement. D’autres sont fondées sur la deuxième clause (« … ou, par inaction, autoriser un être humain à nuire « ) affirmant que les robots devraient devenir ouvertement un gouvernement dictatorial pour protéger les humains de tout conflit ou catastrophe potentiel.

Daneel entre également en conflit avec un robot connu sous le nom de R. Lodovic Trema dont Le cerveau positronique a été infecté par une IA voyou – en particulier, une simulation du Voltaire mort depuis longtemps – qui libère par conséquent Trema des trois lois. Trema en vient à croire que l’humanité devrait être libre de choisir son propre avenir. De plus, un petit groupe de robots prétend que le Zerot h La loi de la robotique elle-même implique une loi moins une de la robotique plus élevée:

Un robot ne peut pas nuire à la sensibilité ou, par inaction, permettre à la sensibilité de nuire .

Ils affirment donc qu’il est moralement indéfendable pour Daneel de sacrifier impitoyablement des robots et une vie extraterrestre sensible au profit de l’humanité. Aucune de ces réinterprétations ne réussit à remplacer la loi Zeroth de Daneel – bien que Triumph de la Fondation laisse entendre que ces factions robotiques restent actives en tant que groupes marginaux jusqu’à l’époque du roman Foundation.

Ces romans se déroulent dans un futur dicté par Asimov de se libérer de la présence de robot évidente et de supposer que l’influence secrète de R. Daneel sur l’histoire à travers les millénaires a empêché à la fois la redécouverte de la technologie du cerveau positronique et l’opportunité de travailler sur des machines intelligentes sophistiquées. Ce manque de redécouverte et de manque d’opportunité garantit que la puissance physique et intellectuelle supérieure exercée par les machines intelligentes reste carrément en possession de robots obéissant à une forme quelconque des Trois Lois. Que R. Daneel n’y parvient pas entièrement devient clair dans une brève période lorsque les scientifiques sur Trantor a développé des « tiktoks » – des machines programmables simplistes s’apparentant aux robots modernes de la vie réelle et par conséquent dépourvues des trois lois. Les tiktoks trantoriens voient les tiktoks trantoriens comme une menace massive pour la stabilité sociale, et leur plan pour éliminer la menace tiktok forme une grande partie de l’intrigue de la peur de la Fondation.

Dans le Triumph de la Fondation, différentes factions de robots interprètent les lois de différentes manières, faisant apparemment sonner toutes les permutations possibles sur les ambiguïtés des Trois Lois.

Série Robot MysteryModifier

Situé entre les Robots of Dawn et Robots et Empire, Mark W. La trilogie Robot Mystery de Tiedemann met à jour la saga Robot – Foundation avec des esprits robotiques hébergés dans des ordinateurs centraux plutôt que dans des corps humanoïdes. Le roman Aurora 2002 a des personnages robotiques débattant des implications morales de nuire à des formes de vie cyborg qui sont en partie artificielles et en partie biologiques.

Il ne faut pas négliger les propres créations d’Asimov dans ces domaines tels que la technologie de «visualisation» de Solarian et les machines des originaux de The Evitable Conflict que Tiedemann reconnaît. Aurora, par exemple, qualifie les Machines de « premiers RI, vraiment ». De plus, la série Robot Mystery aborde le problème de la nanotechnologie: construire un cerveau positronique capable de reproduire les processus cognitifs humains nécessite un degré élevé de miniaturisation, mais les histoires d’Asimov négligent largement les effets que cette miniaturisation aurait dans d’autres domaines de la technologie.Par exemple, les lecteurs de cartes du service de police de The Caves of Steel ont une capacité de seulement quelques kilo-octets par centimètre carré de support de stockage. Aurora, en particulier, présente une séquence de développements historiques qui explique le manque de nanotechnologie – un retour partiel, en un sens, de la chronologie d’Asimov.

Randall MunroeEdit

Randall Munroe a discuté des trois lois dans divers cas, mais peut-être plus directement par l’une de ses bandes dessinées intitulée Les trois lois de la robotique qui imagine les conséquences de chaque ordre distinct des trois lois existantes.

Lois supplémentairesEdit

Il existe trois quatrièmes lois écrites par des auteurs autres qu’Asimov. Le roman de Lyuben Dilov de 1974, Icarus « s Way (alias Le voyage d’Icare) a introduit une quatrième loi de la robotique:

Un robot doit établir son identité de robot dans tous les cas.

Dilov donne les raisons de la quatrième sauvegarde en de cette façon: « La dernière loi a mis fin aux aberrations coûteuses des concepteurs pour donner aux psychorobots une forme aussi humaine que possible. Et au malentendu qui en a résulté gs … « 

Une cinquième loi a été introduite par Nikola Kesarovski dans sa nouvelle » The Fifth Law of Robotics « . Cette cinquième loi dit:

Un robot doit savoir que c’est un robot.

L’intrigue tourne autour d’un meurtre où l’enquête médico-légale découvre que la victime a été tuée par un câlin d’un robot humaniforme. Le robot a violé à la fois la Première Loi et la Quatrième Loi de Dilov (supposée dans l’univers de Kesarovski comme étant la loi valide) parce qu’il ne s’est pas établi qu’il était un robot. L’histoire a été revue par Valentin D. Ivanov dans le webzine de revue SFF The Portal.

Pour l’anthologie hommage de 1986, Foundation « s Friends, Harry Harrison a écrit un article intitulé » The Fourth Law of Robotics « . La quatrième loi stipule:

Un robot doit se reproduire. Tant que cette reproduction n’interfère pas avec la première, la deuxième ou la troisième loi.

Dans le livre, un activiste des droits des robots, pour tenter de libérer des robots, en construit plusieurs équipés de cette quatrième loi. Les robots accomplissent la tâche décrite dans cette version de la quatrième Law en construisant de nouveaux robots qui considèrent leurs robots créateurs comme des figures parentales.

En réaction à l’adaptation cinématographique de Will Smith en 2004 de I, Robot, l’humoriste et graphiste Mark Sottilaro a déclaré de façon farouche que la quatrième loi de la robotique était « Lorsque vous tournez mal, affichez un voyant rouge. » Le voyant rouge indique que la liaison montante sans fil vers le fabricant est active, vue pour la première fois pendant une guerre logiciel e mise à jour et plus tard sur les robots « Evil » repris par le superbrain positronique du fabricant.

En 2013, Hutan Ashrafian, a proposé une loi supplémentaire qui pour la première fois considérait le rôle de l’intelligence artificielle sur artificiel l’intelligence ou la relation entre les robots eux-mêmes – la soi-disant loi AIonAI. Cette sixième loi stipule:

Tous les robots dotés d’une raison et d’une conscience humaines comparables devraient agir les uns envers les autres dans un esprit de fraternité.

Dans Lockstep (2014) de Karl Schroeder, un personnage reflète que les robots « avaient probablement plusieurs couches de programmation pour ne pas nuire à personne. Pas trois lois, mais vingt ou trente. «