Dans les décennies qui arrivent, nous assisterons à l'émergence de nouvelles technologies aussi prometteuses que terrifiantes. Faut-il pour autant en craindre l’expansion?
C’est un fait. Les nouvelles technologies et leurs corollaires de changements durables d’habitudes de vie, de consommation, et même de pensée font toujours craindre le pire, et il faut généralement attendre le passage d’une ou deux générations pour qu’on s’adapte complètement à ces innovations. Pourtant, les huit technologies les plus à craindre, listées dans cet article de Medium qui a fait un énorme buzz, laissent à croire qu’il existe de sérieuses raisons éthiques et philosophiques d'avoir peur de certaines d'entre elles.
La cryonie
La cryonie, bien qu’elle puisse sembler relever de la pire des sciences-fictions, existe déjà. Il existe en effet des entreprises qui peuvent geler des personnes dès qu’elles décèdent, afin qu’elles puissent être ramenées à la vie lorsque la technologie, l’intelligence artificielle et la médecine seront suffisamment avancées pour pouvoir le faire. Cette technologie basée sur la cryoconservation des humains et animaux dans le but de les réanimer après une période donnée, est donc une sorte d’espoir transhumaniste. Mais qui doit composer avec la toxicité des cryoconservateurs. D'ailleurs plutôt que de prendre le risque de congeler un organisme encore en vie, certains tentent de transformer par le froid des corps sans vie en momies.
Selon le site Meilleure Innovation, des cryonistes misent sur l’hypothèse d’une "mort informationnelle" qui suppose que l’individualité ou la personnalité d’un humain serait codée dans son cerveau et que s’il résistait à la mort clinique, il y aurait donc une possibilité qu’il soit réanimé.
Des essais sont déjà en cours pour défier la mort. Selon Meilleure Innovation, Alcor est une entreprise qui propose à ses clients de cryogéniser leur dépouille dans l’attente que l’on parvienne un jour à les ranimer. Les personnes bénéficiant de cette "chance" d’atteindre un jour l’immortalité doivent dépenser environ 200.000 euros (80.000 euros pour un cerveau seul). Une fois décédées, elles sont "vitrifiées": on remplace leurs fluides corporels par un cryoprotecteur de synthèse. Plus de 300 personnes sont aujourd’hui soumises à ce traitement, mais sans qu’aucun résultat ne soit contractuellement garanti.
Décideurs personnels
Google et Facebook vous connaissent-ils plus que vous ne vous connaissez vous-même? Plus généralement, l’intelligence artificielle sans cesse améliorée par les grandes entreprises prendra-t-elle un jour des décisions à notre place? Le phénomène existe en réalité et les exemples abondent.
Prenons le domaine du droit, les analystes juridiques sont progressivement remplacés par l’intelligence artificielle, ce qui signifie que la poursuite d’une affaire peut s’appuyer en partie sur des algorithmes. Des services de police et des systèmes judiciaires commencent de plus en plus à faire usage de logiciels et de dispositifs fonctionnant grâce à l’intelligence artificielle pour prévenir le déclenchement de comportements criminels ou pour la détermination de la peine dans des affaires de droit pénal.
Pour ceux qui croient à l’existence d’un "libre arbitre" humain émancipé de ses déterminismes les plus ancrés, perdre la capacité de prendre des décisions avec notre cerveau pourrait être très humiliant, surtout lorsque celle-ci se voit involontairement confiée à de grandes entreprises qui contrôlent des algorithmes de prise de décision. Là aussi, il faut noter que c’est déjà le cas. Medium fait remarquer que la plupart des amateurs de séries ne choisissent pas laquelle regarder, c’est "Netflix [qui] le fait" pour eux. "Nous ne décidons pas quelle musique écouter, c'est Spotify qui le fait. Nous ne décidons pas quel livre lire, Amazon le fait".
En effet, les entreprises contrôlent déjà notre processus de prise de décision avec des systèmes de recommandation ciblés et performants. Et la conséquence n’est pas des plus réjouissantes, puisque nous en sommes souvent satisfaits. Cela fonctionne et semble montrer que ne pas prendre de décision spontanée ne nous prive pas de satisfaction.
Ce qui est en revanche véritablement à craindre, c'est qu’une autre entité – entreprise, hackers, etc. - puisse en profiter. Les hackers et les entreprises peuvent en effet manipuler nos décisions à des fins définies – de rentabilité, d’efficacité… - et nous ne le saurions même pas. C'est déjà arrivé, avec le récent scandale Cambridge Analytica, société de publication stratégique combinant des outils d'exploration et d'analyse des données. Cette société détenue par l’homme d’affaires conservateur Robert Mercer a été accusée en 2018 d'avoir organisé l' "aspiration" des données personnelles de plusieurs dizaines de millions d'utilisateurs de Facebook dans le but de cibler des messages favorables au Brexit au Royaume-Uni et à l'élection de Donald Trump aux Etats-Unis.
Artistes IA
En 2018, un tableau a été vendu aux enchères pour 432.500 dollars.
L'artiste? Un Generative Adversarial Network (GAN), un type d’ "IA créative". Si cette peinture peut paraître affreuse, elle n’en révèle pas moins la possibilité que prenne forme un nouvel "art" particulièrement prisé par les fortunés, les institutions et le marché de l’art, tout comme cela a été jadis le cas pour l’art contemporain qui a pourtant été – et est toujours – parfois considéré comme basé sur la négation de la beauté et la vacuité de sens.
Les GAN ont d’ailleurs déjà été utilisés pour créer de la musique ou écrire des nouvelles. Faut-il en avoir peur ? Peut-être pas. L'IA est meilleure que nous dans plusieurs domaines comme la détection des cancers ou pour jouer aux échecs ou remplir d’autres tâches. L'art est, lui, quelque chose de fondamentalement humain, émotionnel mais tout en étant le fruit d’un travail intellectuel souvent acharné, passionné et profond. Marcel Duchamp n’a pas ringardisé Rembrandt. Les GAN ne ringardiseront pas le premier, et encore moins le second.
Toutefois, le marché de l’art pourrait privilégier et mettre davantage en valeur les "œuvres" telles que conçues par l’IA, reléguant les artistes humains dans la catégorie des créateurs marginaux à public réduit. Mais pour l’heure, si l'IA a été capable d’offrir des expériences émotionnelles probantes, il est fort improbable qu’elle puisse délivrer des messages forts, pertinents, profonds et durablement marquants, ces derniers étant le fruit, avant tout, de l’expérience et du vécu humain authentique. Si un jour l’IA produit de l’ "art", il ne sera donc pas à la mesure de celui des hommes. Tout au plus aura-t-on affaire à deux arts différents dont il serait a priori absurde de comparer les empreintes sur le monde.
Robots affectifs
Dans un avenir pas si lointain (en fait, cela se passe déjà), nous serons envahis par les androïdes et les gynoïdes. Mais envahiront-ils aussi nos lits et nos coeurs? Medium assure que bientôt, ces robots pourront être "ultra-réalistes" et "impossibles à distinguer" des êtres humains.
Il sera possible de tisser des liens émotionnels avec ces robots personnalisables à l’infini, au point que les moins sociables des êtres humains pourront sans doute se sentir capables de s’engager dans des relations amoureuses avec eux, perdant ainsi tout contact avec la réalité et et allant tout droit vers une objectification des corps humains, et grâce à l'Intelligence artificielle et le deep learning qui permettront à ces robots de vous connaitre mieux que quiconque.
Bébés artificiels
En 2019, le programme Horizon 2020 de l'Union Européenne a attribué la somme de 2,9 millions d'euros à une équipe de chercheurs de l'université d’Eindhoven, aux Pays-Bas qui développe un programme de création d’un utérus artificiel. Celui-ci sera destiné aux bébés nés avec une extrême prématurité et devrait permettre d'augmenter leurs chances de survie. Déjà en cours de développement, le dispositif permettrait de remplacer l'incubateur et le système de respiration artificielle, "le bébé étant entouré de liquides et recevant oxygène et nutriments via un placenta artificiel qui se connectera à son cordon ombilical", explique le Guardian.
Les nouveau-nés prématurés qui néanmoins survivent risquent d'être lourdement handicapés. "Dommages au cerveau, problèmes respiratoires, ou encore affections rétiniennes qui peuvent possiblement entraîner la cécité forment ainsi le lot de troubles chroniques permanents auxquels peuvent être confrontés ces enfants", indique LCI. Et selon Guid Oei, gynécologue et professeur à l'université d'Eindhoven, "si nous sommes capables de prolonger le développement fœtal de ces enfants dans l'utérus artificiel jusqu'à 28 semaines, nous réduirons les risques les plus sérieux de mortalité due à la prématurité de 15 %".
Les progrès dans la compréhension du code génétique ont donc été remarquables. Et il a déjà été possible de cloner des animaux.
D’autres expériences ont été fiasco largement décrié par la communauté scientifique, comme celle qui a eu lieu fin 2018. Le chercheur chinois He Jiankui annonçait avoir utilisé la méthode d’édition du génome CRISPR-Cas9 sur des embryons humains. Mais la procédure, très controversée, n’avait pas eu l’effet escompté et a même introduit des mutations imprévues.
Le but de la création de "bébés design" est, in fine, de créer des humains génétiquement parfaits, dépourvues de maladies et avec des caractéristiques souhaitées par les parents. Vous pouvez construire un enfant grand, intelligent, gentil et athlétique sans avoir à vous fier au caractère aléatoire de la loterie génétique. Quand nous pensons à l'altération génétique humaine et aux bébés de conception purement artificielle, nous pensons aux velléités eugénistes et ses ravages du siècle précédent. D’où la crainte des altérations génétiques qui reviennent à manipuler le tissu même de la vie. Si nous ressentons le besoin de concevoir notre bébé avec des caractéristiques particulières, c'est comme si nous donnions à ces caractéristiques une importance plus grande que la vie humaine elle-même. En d'autres termes, cela va apparemment à l'encontre de la loi morale selon laquelle un enfant doit être aimé "quoi qu'il arrive". "Cela va également à l'encontre de tous les efforts que nous avons déployés au cours des dernières décennies pour tenter de surmonter les différences raciales", pointe Medium.
Réalité immersive et interfaces cerveau-ordinateur
Vous connaissez peut-être la réalité augmentée (AR) et la réalité virtuelle (VR). Ce que vous connaissez peut-être moins, ce sont la réalité immersive (IR) et les interfaces cerveau-ordinateur (BCI). L’IR consiste à vous plonger dans une autre réalité en injectant cette réalité dans votre cerveau. En d'autres termes, il manipule directement vos ondes cérébrales pour créer des expériences immersives.
Pour leur part, les interfaces cerveau-ordinateur (BCI) sont au cœur de la neurotechnologie (qui implique la connexion du cerveau humain aux machines, ordinateurs et téléphones portables). Mais elles sont plus largement définies comme une technologie capable de collecter, d’interpréter ou de modifier les informations générées par n’importe quelle partie du système nerveux. "Pourquoi? Développer des thérapies pour les maladies mentales et neurologiques. Mais au-delà de la santé, elle pourrait bientôt être utilisée dans l’éducation, les jeux, les divertissements, les transports et bien plus encore", explique Trust My Science.
Medium explique que les BCI peuvent non seulement vous immerger dans une autre réalité, mais aussi supprimer vos peurs, changer des éléments de votre personnalité, vous rendre capables de lire 1000 livres en une seconde, communiquer par télépathie avec d'autres personnes, contrôler des robots et des objets connectés par télékinésie, et obtenir de nombreuses autres superpuissances de science-fiction. Des techniques qui posent évidemment de sérieux défis éthiques en faisant perdre à ceux qui s’y adonneront tout contact avec la réalité.
Mais que faire si les BCI font plus que vous plonger dans une autre réalité, que faire s'ils changeaient la structure même de votre esprit? Comme pour beaucoup d'autres technologies, tout dépendra de la façon dont les BCI seront utilisés et à quelles fins. Les gouvernements, la société, la communauté scientifique, tous les acteurs, en somme, devront définir des normes pour réguler ces expériences, tandis que les psychologues et les neurologues devraient mieux comprendre l'impact de ces technologies sur nos esprits avant qu'elles ne deviennent monnaie courante.
Téléchargement de l'esprit
Encore hypothétique bien sûr, cette technique permettrait, dans un avenir très lointain, de télécharger un "cerveau" (son contenu intellectuel, spirituel) après l’avoir transféré à un ordinateur, en l'ayant numérisé au préalable. Un ordinateur pourrait alors dans cette optique reconstituer "l'esprit" par la simulation de son fonctionnement, sans que l'on ne puisse distinguer un cerveau biologique "réel" d'un cerveau simulé.
Votre corps peut mourir, votre cerveau peut mourir, mais les informations imprimées dans votre esprit peuvent ainsi être exportées et stockées sur un appareil numérique. Votre esprit ne sera alors plus qu’un fichier sur un disque dur, sur une clé USB ou dans le cloud. L’idée est de pouvoir continuer à vivre grâce à un programme informatique qui transforme la structure de ce fichier d'une manière similaire à celle dans laquelle les stimuli électriques transforment la structure de votre cerveau.
La question qui se poserait alors est de savoir ce qu'il adviendra de notre conscience après son "passage" par le téléchargement. Le concept de téléchargement de l'esprit peut paraître fou en cela qu’il repose sur une conception mécaniste du comportement cognitif et une vision hyper-matérielle de l'esprit, déniant ainsi toute approche de type vitaliste de la vie humaine. La conscience doit-elle être dépendante d'un substrat biologique, d’une force vitale ou bien la machine pourra-t-elle faire office d’un tel substrat pour les mécanismes cognitifs du cerveau? Là encore, il revient aux neurologues, aux scientifiques et aux philosophes de répondre à cette question puisque la conscience repose aussi sur un ensemble infiniment complexe de souvenirs et de phénomènes d’interactions spirituelles et sociales multiples.
Intelligence générale artificielle
L'intelligence générale artificielle (AGI) est une IA qui, comme les humains, peut tout apprendre et ne pas limiter son évolution à l’apprentissage de tâches spécifiques comme les IA actuelles. Quand une AGI sera créée, elle s'améliorera récursivement en développant une intelligence sans cesse renouvelée. A un moment donné, ce sera une Super Intelligence Artificielle (ASI) qui soit construira une utopie pour nous, soit nous conduira vers l'extinction. "Il n'y a pas de solution intermédiaire", estime Medium.
Des films comme Terminator, Ex Machina, 2001: A Space Odyssey nous ont montré des mondes hypothétiques dans lesquels les machines IA sont devenues des voyous rebels prêts, grâce à l’indépendance qu’ils auront pu acquérir, à en découdre avec leurs créateurs humains. Certains pensent à juste titre qu'une AGI ne peut jamais être créée parce qu'il existe des mécanismes complexes dans l'esprit humain impossibles à reproduire. D'autres estiment qu'une AGI gagnerait en conscience de soi et pourrait ne plus vouloir être l'esclave de ses créateurs humains. Selon Medium, une AGI ne peut pas acquérir une conscience de soi, "car l'intelligence et la conscience sont deux choses distinctes".
Pourtant, il y a différentes raisons d'avoir peur. Car le problème avec l'IA est qu'il est difficile de lui définir définitivement ses objectifs et ses limites. "Nous sommes compliqués, nous ne savons pas ce que nous voulons. Si les objectifs de l'AGI ne sont pas alignés sur les nôtres, nous serons confrontés au problème de l'alignement et de très mauvaises choses peuvent arriver", analyse Medium, qui illustre son propos par l’exemple classique du maximisateur de trombones.
Une tâche simple comme la production de trombones peut se transformer en risque existentiel pour nous. Pourquoi? Parce qu'une AGI trouverait toujours le moyen le plus efficace possible d'atteindre ses objectifs. Et la fin justifie tous les moyens possibles pour une AGI. Celle-ci pourrait alors vouloir transformer tous les atomes de la Terre en trombones, y compris nos corps. Si les concepteurs spécifient qu’il ne faut pas tuer des humains, la machine parviendra néanmoins à trouver une échappatoire pour réaliser son objectif quoi qu’il en coûte. Pour éviter cela, nous devons spécifier chaque condition, chaque étape du processus. Et ce n'est pas simple. Pire, nous pourrions aussi voir apparaître des cas dans lesquels une AGI voudrait activement nous tuer. Puisque nous sommes si imprévisibles, l’AGI peut se figurer que, par crainte, les humains ont changé d’avis et finalement décidé de l'empêcher d'atteindre les objectifs qu’ils lui ont déjà donnés. "C'est probablement le problème le plus difficile que nous aurons jamais à résoudre".
Les prouesses technologiques ne peuvent être positives que si elles sont guidées par la sagesse et des considérations avant tout éthiques. Si nous ne pouvons pas faire le choix d’une utilisation judicieuse, morale et égalitaire des technologies toutes puissantes, nous sommes condamnés à coup sûr à en devenir les esclaves.
Cet article a été inspiré de l'article: "9 Terrifying Technologies That Will Shape Your Future" publié sur Medium.
L'Intelligence artificielle vous intéresse? Et si vous rejoignez nos programmes de formations en Intelligence artificielle ou en Deep Learning? Pour ce faire, rien de plus simple rendez-vous sur notre site web: gomycode.co ou appelez nos conseillers au 31 314 570
