Les technocrates prédisent que la singularité inaugurera le nirvana à mesure que les ordinateurs et les humains fusionneront. Cependant, il est tout aussi probable, sinon plus probable, que cela se termine comme le déraillement d'un train empoisonné en Palestine, dans l'Ohio. Il n'y aura pas de juste milieu. Pourtant, le cartel technocrate/transhumain se précipite sans aucune contrainte éthique ou morale, appuyant délibérément sur l'accélérateur. ⁃ Éditeur TN

La plupart des gens connaissent le flot d'applications d'intelligence artificielle (IA) qui semblent nous rendre plus efficaces et créatifs. Il existe des applications qui créent de l'art à partir d'invites de texte, et le controversé ChatGPT, qui soulève de sérieuses questions sur l'originalité, la désinformation et le plagiat.

Malgré ces préoccupations, l'IA devient de plus en plus omniprésente et intrusive. C'est la dernière technologie qui changera irrévocablement nos vies.

Internet et les smartphones en sont d'autres exemples. Cependant, contrairement à ces technologies, de nombreux philosophes et scientifiques pensent que l'IA pourrait un jour égaler (voire surpasser) la "pensée" humaine. Cette possibilité, associée à notre dépendance croissante à l'IA, est à la base d'un concept futuriste appelé "singularité technologique".

Ce terme existe depuis un certain temps et a été popularisé par l'auteur de science-fiction Vernor Vinge il y a quelques décennies.

Aujourd'hui, la «singularité» fait référence à un moment hypothétique où le développement de l'intelligence générale artificielle (IAG), c'est-à-dire une IA dotée de capacités de niveau humain, est suffisamment avancé pour transformer de manière irréversible la civilisation humaine.

Cela marquerait le début de notre inséparabilité des machines. À partir de ce moment, nous ne pourrons plus vivre sans eux sans cesser de fonctionner en tant qu'êtres humains. Mais quand la singularité se produira, la remarquerons-nous même ?

Implants cérébraux de première étape

Pour comprendre pourquoi ce n'est pas un conte de fées, il suffit de regarder les développements récents des interfaces cerveau-ordinateur (BCI). Les BCI, aux yeux de nombreux futuristes, sont un début naturel de la singularité car ils fusionnent l'esprit et la machine d'une manière qu'aucune autre technologie n'a fait auparavant.

La société Neuralink d'Elon Musk demande à la Food and Drug Administration (FDA) l'autorisation de tester sa technologie BCI sur des humains. Il s'agit d'implanter des connexions neuronales dans le cerveau des volontaires, leur permettant de transmettre des instructions en les pensant.

Neuralink espère aider les paraplégiques à marcher et les aveugles à voir à nouveau. Mais au-delà de ces objectifs, il y a d'autres ambitions.

Musk a longtemps dit qu'il croyait que les implants cérébraux permettraient la communication télépathique et conduiraient à la coévolution homme-machine. Il soutient que si nous n'utilisons pas cette technologie pour développer notre intellect, nous risquons d'être anéantis par une intelligence artificielle super intelligente.

Musk, naturellement, n'est pas le lieu de prédilection de tout le monde pour l'expertise technique. Mais il n'est pas le seul à prédire une croissance massive des capacités d'IA. Les sondages montrent que les chercheurs en IA sont massivement convaincus que l'IA atteindra la "pensée" humaine au cours de ce siècle. Cependant, ils ne sont pas d'accord sur le point de savoir si cela nécessite ou non une prise de conscience, ou si cela signifie inévitablement qu'une fois que l'IA atteindra ce niveau, cela nous fera du mal.

Une autre société de technologie BCI, Synchron, a développé un implant mini-invasif qui permet à un patient atteint de sclérose latérale amyotrophique (SLA) d'envoyer des e-mails et de surfer sur Internet avec son esprit.

Le PDG de Synchron, Tom Oxley, estime que les implants cérébraux pourraient à terme aller au-delà de la réhabilitation prothétique et transformer complètement la façon dont les gens communiquent. S'adressant à un public de TED, il a déclaré qu'ils pourraient un jour permettre aux utilisateurs "d'aérer" leurs émotions, permettant aux autres de ressentir ce qu'ils ressentent, et "le plein potentiel du cerveau serait alors libéré".

Les premières réalisations dans le domaine de la BCI pourraient sans doute être considérées comme les premiers pas vers la singularité postulée où l'homme et la machine ne font plus qu'un. Cela ne signifie pas nécessairement que les machines deviennent "sensibles" ou nous contrôlent. Mais l'intégration elle-même, et notre dépendance à son égard, pourrait nous changer irrévocablement.

Il convient également de noter que le financement de démarrage de Synchron provient en partie de la DARPA, la branche de recherche et développement du département américain de la Défense qui a offert Internet au monde. Il est probablement sage de réfléchir à l'endroit où la DARPA place ses fonds d'investissement.

AGI serait-il ami ou ennemi ?

Selon Ray Kurzweil, un futuriste et ancien ingénieur en innovation de Google, les humains dotés de cerveaux améliorés par l'IA pourraient être jetés sur l'autoroute de l'évolution, se précipitant sans limite de vitesse.

Dans son livre de 2012 Comment créer un esprit, Kurzweil théorise que le néocortex - la partie du cerveau considérée comme responsable des «fonctions supérieures» telles que la perception sensorielle, l'émotion et la cognition est responsable - est un système hiérarchique de reconnaissances de formes qui , s'il est imité par une machine, pourrait conduire à une superintelligence artificielle.

Il prédit que la singularité sera avec nous en l'an 2045, et pense qu'elle pourrait donner naissance à un monde d'humains super-intelligents, peut-être même le "surhomme" nietzschéen : quelqu'un qui transcende toutes les limitations du monde pour atteindre son plein potentiel de réalisation.

Mais tout le monde ne voit pas AGI comme une bonne chose. Le regretté grand physicien théoricien Stephen Hawking a averti que l'IA super intelligente pourrait conduire à l'apocalypse. En 2014, Hawking a déclaré à la BBC : "Le développement de l'intelligence artificielle complète pourrait signifier la fin de la race humaine. […] Elle deviendrait indépendante et se développerait à nouveau à un rythme de plus en plus rapide. Les humains, limités par une évolution biologique lente, ne pourraient pas suivre et seraient déplacés.

Cependant, Hawking était un partisan de BCI.

Connecté dans une ruche

Une autre idée liée à la singularité est celle de la « ruche » alimentée par l'IA. Merriam-Webster définit une ruche comme "l'activité mentale collective, exprimée dans le comportement complexe et coordonné d'une colonie d'insectes sociaux (comme les abeilles ou les fourmis) et considérée comme comparable à un seul esprit dirigeant le comportement d'un seul organisme".

Le neuroscientifique Giulio Tononi a développé une théorie pour ce phénomène, la théorie de l'information intégrée (IIT). Il dit que nous nous dirigeons tous vers une fusion de tous les esprits et de toutes les données.

Le philosophe Philip Goff explique clairement les implications du concept de Tononi dans son livre Galileo's Fallacy : IIT prédit que si la croissance de la connectivité basée sur Internet aboutit à la quantité d'informations intégrées dans la société, l'augmentation de la quantité d'informations intégrées dans un dépasse le cerveau humain , alors non seulement la société deviendrait consciente, mais les cerveaux humains seraient également "absorbés" dans cette forme supérieure de conscience. Les cerveaux cesseraient d'être conscients d'eux-mêmes et deviendraient plutôt de simples rouages ​​de l'entité méga-consciente qu'est la société, y compris sa connectivité basée sur Internet.

Il convient de noter qu'il y a peu de preuves que quelque chose comme ça puisse jamais se concrétiser. Mais la théorie soulève des idées importantes, non seulement sur l'accélération rapide de la technologie (sans parler de la façon dont l'informatique quantique pourrait l'alimenter), mais aussi sur la nature de la conscience elle-même.

Hypothétiquement, on pourrait imaginer que l'émergence d'une ruche signifierait la fin de l'individualité et des institutions qui en dépendent, y compris la démocratie.

La limite finale est entre nos oreilles

Récemment, OpenAI (la société qui a développé ChatGPT) a publié un article de blog réaffirmant son engagement envers le développement d'AGI. D'autres suivront sans doute.

Nos vies sont contrôlées par des algorithmes d'une manière que nous ne reconnaissons souvent pas et que nous ne pouvons donc pas éviter. De nombreuses caractéristiques d'une singularité technologique promettent des améliorations étonnantes dans nos vies, mais il est inquiétant que cette IA soit le produit du secteur privé.

Ils ne sont pratiquement pas réglementés et sont largement à la merci de "technopreneurs" impulsifs qui ont plus d'argent que la plupart d'entre nous réunis. Que nous pensions qu'ils sont fous, naïfs ou visionnaires, nous avons le droit de connaître (et de pouvoir réfuter) leurs stratagèmes.

Si vous regardez les dernières décennies, nous sommes tous concernés par les nouvelles technologies.