L’intelligence artificielle (IA) est omniprésente, mais peut changer la conscience de manière significative. Des assistants numériques comme Siri et Alexa aux médias sociaux et au service client pour vos appareils, vous interagissez avec les programmes tous les jours. Ont-ils l’influence collective pour changer votre façon de penser? Ou pire, la façon dont vous pensez? Cet article doit être lu du début à la fin. Puis lisez-le deux fois de plus – Joe Allen n’est PAS un bot. ⁃ Éditeur TN

Les chatbots sont en première ligne d’une invasion implacable de l’IA. L’augmentation constante de l’intelligence artificielle dans notre psyché collective ressemble à une immigration de masse – à peine remarquée et facile à négliger jusqu’à ce qu’il soit trop tard. Notre paysage culturel est colonisé par des robots et, comme pour les immigrants illégaux, une grande partie de notre population accueille cela comme un « progrès ».

Les robots nous tiendront compagnie. Ils apprendront et adopteront nos personnalités. Et quand nous mourons, ils deviennent nos fantômes numériques. C’est une perspective morbide, mais le processus est déjà en cours.

Les établissements d’apprentissage en ligne font régulièrement appel à des enseignants en IA. Les compagnons de chatbot séduisent les âmes solitaires par millions, y compris les chatbots religieux qui agissent comme des guides spirituels. Au bout du chemin, diverses start-ups développent des cybersanctuaires où les familles peuvent communiquer avec leurs proches décédés et trouver du réconfort parmi les morts-vivants numériques.

Dans l’esprit des passionnés de technologie, les chatbots IA de toutes sortes seront nos compagnons sans âme sur le chemin de l’avenir™. Ces « amis » fugaces sont des composantes psychologiques clés de ce que beaucoup appellent la symbiose homme-IA. Ils seront comme des anges gardiens artificiels dans nos mains – et donc aussi dans nos têtes – qui répondent aux questions et guident les décisions.

Cependant, une chose est certaine. Quoi que l’on pense de cette invasion, les IA tombent sur terre comme des étoiles d’un ciel impie. Et à chaque nouvelle vague, leurs voix deviennent plus convaincantes.

Ces robots sont conçus pour appuyer sur nos boutons cognitifs et créer l’illusion d’une personnalité. Bientôt, on leur fera largement confiance, et même on les aimera. Avec les premiers utilisateurs, ils le sont déjà. Notre esprit émotionnel est taillé pour le contrôle.

Le récent lancement de ChatGPT, développé par OpenAI, a été annoncé comme la deuxième arrivée du dieu Google. Comme avec les programmes GPT précédents, l’utilisateur tape une question et le bot à l’écran crache une réponse raisonnablement cohérente, bien que parfois inexacte.

Il y a quelques jours, j’ai interrogé ChatGPT sur l’un des investisseurs fondateurs d’OpenAI: « Elon Musk va-t-il nous pucer la tête? »

« Non, » a répondu le bot, « Elon Musk ne croit pas au chipping du cerveau. Il a dit qu’il croyait que « l’abondance est notre avenir » et que la technologie devrait être utilisée pour autonomiser les gens, pas pour les remplacer.

Comme l’étrange dieu Google avant lui, ChatGPT n’est peut-être pas tout à fait véridique, mais au moins loyal envers ses alliés politiques. En ce sens, c’est assez humain.

Dans son discours à la série « The History of Civil Liberties in Canada » le 13 décembre, le Dr Jordan Peterson, pleurnichard, a mis en garde ses compatriotes contre les forces divines de ChatGPT :

Nous avons donc maintenant un modèle d’IA qui peut extraire un modèle du monde de l’ensemble du corpus linguistique. D’accord. Et c’est plus intelligent que vous. Ce sera beaucoup plus intelligent que vous dans deux ans. ...

Les géants marcheront à nouveau sur la terre. Et nous survivrons à cela. C’est possible.

Avez-vous entendu cela, mec? Préparez-vous à vous agenouiller devant vos maîtres numériques. Malgré toutes les larmes publiques que Peterson a versées, il n’a pas versé une seule larme sur le déplacement de l’humanité par l’IA. Peut-être croit-il que la machine va dévorer tous ses trolls en premier.

Peterson, cependant, s’est moqué d’Elon Musk en dépeignant le concessionnaire automobile cyborg comme une sorte de sauveur – une habitude embarrassante que presque toutes les icônes du « dark web intellectuel » affichent ces jours-ci, ce qui me dégoûte. Ce qui est étrange, c’est que le professeur de mythologie comparée n’a pas mentionné la signification archétypale de l’armure Baphomet que Musk porte toujours sur son profil Twitter.

Quiconque demande aux gens de faire confiance au transhumaniste le plus riche du monde se trompe ou essaie de vous tromper.

Cela ne veut pas dire que Musk et Peterson ont complètement tort sur le pouvoir croissant de l’intelligence artificielle, même s’ils attendent beaucoup trop fort que nous nous agenouillions. Même dans le cas peu probable où les progrès stagneraient pendant des décennies et que nous nous retrouverions avec la technologie actuelle, l’impact social et psychologique de l’invasion en cours de l’IA reste une préoccupation sérieuse.

À l’heure actuelle, les capacités intellectuelles de l’intelligence artificielle sont beaucoup trop vantées. Si l’humanité a de la chance, cela continuera d’être le cas. Mais les progrès réels sont toujours impressionnants. Les agents d’IA ne sont pas « seulement des programmes informatiques ». Ce sont des machines étroites d’esprit qui peuvent passer au crible d’énormes quantités de données par elles-mêmes, et elles trouvent des modèles vraiment significatifs.

Un grand modèle vocal (également connu sous le nom de chatbot) est comme un cerveau humain cultivé dans un bocal et connecté à une sélection limitée de capteurs. Tout d’abord, les programmeurs déterminent avec quels paramètres l’IA doit commencer – le type de modèles qu’elle recherchera à mesure qu’elle grandira. Ensuite, le modèle est formé avec une sélection de données, qui est également sélectionnée par le programmeur. Plus le programmeur a d’influence, plus le système montrera de biais.

Dans le cas de ChatGPT, les ensembles de données consistent en une vaste sélection de livres numérisés, l’ensemble de Wikipédia et la majeure partie d’Internet, ainsi qu’une formation secondaire de conversations répétées avec les utilisateurs. L’IA est motivée à apprendre par des « modèles de récompense » pavloviens, comme un blob neuronal qui reçoit une explosion de dopamine chaque fois qu’il obtient la bonne réponse. Comme pour la plupart des chatbots commerciaux, les programmeurs ont mis en place des garde-fous pour empêcher l’IA de faire des déclarations racistes, sexistes ou homophobes.

Lorsque les « éthiciens de l’IA » parlent « d’aligner l’IA sur les valeurs humaines », ils veulent généralement dire le développement de robots politiquement corrects. D’une part, c’est assez intelligent, car alors que nous nous dirigeons vers une algocratie mondiale – où les masses multiculturelles sont régies par des algorithmes – il est sage pour les libéraux de rendre l’IA aussi inoffensive que possible. Ils ne veulent certainement pas d’une autre créature du lagon 4chan comme ils l’ont fait lorsque Tay de Microsoft est devenu un schizo nazi ou que le bot d’image Google a appelé les noirs « gorilles ».

D’un autre côté, si une IA est incapable de reconnaître les différences fondamentales entre les hommes et les femmes ou de comprendre l’importance des populations continentales – eh bien, je suis sûr qu’elle sera toujours un agent utile dans notre algocratie arc-en-ciel.

Une fois que ChatGPT est téléchargé sur un appareil, il développe son propre goût. Plus un utilisateur individuel a d’interactions, plus le bot personnalise ses réponses pour cet utilisateur. Il peut écrire des phrases ou des essais entiers qui sont raisonnablement originaux, même s’ils ne sont qu’un remix de pensées humaines antérieures. Cette semi-originalité et cette personnalisation savante donnent au bot l’illusion d’une personnalité unique – sans aucun humour de vestiaire.

Dans l’ensemble, les réponses de cette IA deviennent de plus en plus précises et complexes. Un autre exemple est LaMDA de Google, qui n’a pas encore été publié, qui a pris de l’importance l’année dernière lorsqu’un « éthicien de l’IA » a informé le public que le bot était « sensible » et a exprimé sa tristesse et son désir. Ray Kurzweil a prédit ce développement psychologique en 1999 dans son livre The Age of Spiritual Machines:

Ils auront de plus en plus l’apparence de leur propre personnalité, montreront des réactions que nous ne pouvons appeler que des émotions et articuleront leurs propres objectifs et intentions. Ils sembleront avoir leur propre libre arbitre. Ils prétendront qu’ils ont des expériences spirituelles. Et les gens les croiront.

Cela en dit autant sur les personnes impliquées que sur les machines. Cependant, si vous projetez cette amélioration dans le futur – et à un rythme exponentiel – Kurzweil prévoit une singularité à venir dans laquelle même les personnes les plus intelligentes seront dépassées par l’intelligence artificielle.

Ce serait le point de non-retour. Notre destin ne serait alors plus entre nos mains.

L’entrepreneur technologique Sam Altman, qui a cofondé OpenAI avec Musk en 2015, a fait allusion à une singularité en 2021 dans son essai « Moore’s Law of Everything ». Tout comme Kurzweil, il promet que l’intelligence artificielle changera tous les aspects de la société, du droit et de la médecine au travail et à la socialisation.

En supposant que l’automatisation conduira à une abondance radicale – même si elle provoque un chômage généralisé – il plaide pour taxer les super-riches et un « fonds d’actions » pour le reste d’entre nous. Bien que je pense qu’un tel avenir serait catastrophique, créant d’énormes terrains de jeux pour l’élite et des ruches algorithmiques pour le reste d’entre nous, je pense qu’Altman a raison sur les implications à venir:

Au cours des cinq prochaines années, les programmes informatiques capables de penser liront des documents juridiques et donneront des conseils médicaux. Au cours de la prochaine décennie, ils travailleront à la chaîne et deviendront peut-être même des compagnons. Et dans les décennies à venir, ils feront presque n’importe quoi, y compris de nouvelles découvertes scientifiques qui élargiront notre concept de « tout ».

Cette révolution technologique est imparable.

Ces superrobots seraient sans aucun doute idiosyncrasiques et inhumains, mais au rythme actuel de l’amélioration, quelque chose comme la prédiction d’Altman semble se produire. Au-delà des possibilités et des limites techniques, la croyance croissante dans la personnalité de l’IA remodèle notre culture à partir de zéro – et à un rythme exponentiel.

Notre vision commune de qui nous sommes en tant qu’espèce est en train de changer.

Les robots envahissent nos esprits à travers nos téléphones, nos haut-parleurs intelligents, nos établissements d’enseignement, nos entreprises, nos agences gouvernementales, nos agences de renseignement, nos institutions religieuses et une variété croissante de robots physiques conçus pour nous accompagner du berceau à la tombe.

Nous nous préparons à l’algocratie.

Les générations précédentes ont ignoré l’immigration de masse et la dégradation de l’environnement, toutes deux alimentées par l’innovation technologique, jusqu’à ce qu’il soit trop tard pour inverser la tendance. Nous avons maintenant une « petite fenêtre d’opportunité » pour ériger des barrières culturelles et juridiques – famille par famille, communauté par communauté et nation par nation.

Si cette expérience sociale est « inévitable », nous devons insister pour faire partie du groupe témoin.

Aussi ridicule que cela puisse paraître, les techno-sceptiques sont déjà étiquetés « spécistes », c’est-à-dire racistes contre robots. Nous ferions mieux d’être prêts à porter cela comme un insigne d’honneur. Alors que nos oligarques de la technologie et leurs porte-parole proclament la montée des dieux numériques, il devrait être clair que nous ne sommes pas les suprématistes dans cette équation.