Cet article a été écrit par un chercheur au Center for a New American Security (CNAS), dont le conseil d’administration comprend deux membres de la Commission trilatérale. L’article attire l’attention sur la Chine et la Russie comme les abuseurs les plus probables de l’IA, tout en ignorant les abus actuels de notre propre gouvernement. En effet, il n’existe pas de « monde libre » pour la technocratie.

L’actuelle chef du CNAS, Victoria Nuland, a été conseillère adjointe à la sécurité nationale du vice-président Dick Chaney dans l’administration Bush et membre de la Commission trilatérale. Elle a récemment démissionné de son poste de secrétaire d’État adjointe aux affaires européennes et eurasiennes dans l’administration Biden. ⁃ Éditeur TN

C’est une désinformation très subtile qui détourne l’attention de la technocratie et de l’initiative de grande réinitialisation du WEF. Éditeur TN [/su_note]

L’IA générative est sur le point d’être le prochain grand cadeau du monde libre pour les autoritaires. Le lancement viral de ChatGPT – un système doté de capacités incroyablement humaines pour écrire des essais, des poèmes et du code informatique – a alerté les dictateurs du monde entier sur le pouvoir transformateur de l’IA générative, qui peut être utilisée pour créer un contenu unique et convaincant à grande échelle.

Mais le débat féroce qui a éclaté parmi les leaders de l’industrie occidentale sur les risques de la libération d’outils avancés d’IA générative est largement passé au point où leurs effets sont probablement les plus désastreux: dans les autocraties. Les entreprises d’IA et le gouvernement américain doivent introduire des normes plus strictes pour développer des outils tels que ChatGPT, car ils ont le potentiel de changer la donne pour les États autoritaires du monde – avant qu’il ne soit trop tard.

Jusqu’à présent, les préoccupations concernant l’IA générative et les autocrates se sont principalement concentrées sur la façon dont ces systèmes peuvent stimuler les efforts de propagande chinois et russe aux États-Unis. ChatGPT a déjà prouvé que l’IA générative est capable d’automatiser la désinformation chinoise et russe en appuyant simplement sur un bouton. Couplée aux progrès de la publicité ciblée et à d’autres nouvelles techniques de propagande de précision, l’IA générative promet une révolution dans la vitesse, la portée et la crédibilité de l’influence autocratique.

Mais, aussi effrayants que puissent paraître les efforts de désinformation de la Chine et de la Russie dans un monde post-TPG, les sociétés ouvertes ne reçoivent qu’une petite partie de la propagande que Pékin et Moscou infiltrent dans leurs propres populations. Et tandis que les puissances démocratiques maintiennent de solides communautés de technologues dédiés à la lutte contre la manipulation en ligne, les autocrates peuvent exploiter toute la puissance de leurs États pour optimiser l’influence de leur propagande.

En 2019, le Chinois Xi Jinping a appelé à cela lorsqu’il a ordonné à son parti-État d’utiliser l’IA pour « améliorer de manière globale » la capacité du Parti communiste chinois à influencer l’opinion publique. Le président russe Vladimir Poutine s’est également appuyé sur la propagande alimentée par l’IA après son invasion de l’Ukraine, y compris une fausse vidéo dans laquelle le président ukrainien Volodymyr Zelensky appelle les Ukrainiens à se rendre. Ces efforts sont soutenus par un nombre stupéfiant d’agences chinoises et russes chargées de contrôler l’esprit et de cultiver un écosystème compétitif d’outils de propagande numérique, dotés de milliards de budgets chaque année.

En d’autres termes, la Chine et la Russie sont un terrain fertile pour l’IA générative, permettant une percée historique dans le lavage de cerveau – une recette pour plus de catastrophes internationales, plus de violations des droits de l’homme et un enracinement accru de l’arbitraire. Alors que la Chine affine et exporte son techno-autoritarisme, les tyrans potentiels du monde entier sont susceptibles de bénéficier de la révolution de la propagande.

Heureusement, les entreprises aux États-Unis et dans les pays alliés ont largement dirigé le développement de capacités d’IA générative. À mesure que la technologie mûrit, cet avantage devient de plus en plus important car il donne aux sociétés ouvertes le temps de comprendre, de reconnaître et d’atténuer les dommages potentiels avant que les États autocratiques n’utilisent les technologies à leurs propres fins. Cependant, le monde libre risque de gaspiller cet avantage si ces outils révolutionnaires peuvent être facilement acquis par des États autoritaires.

Malheureusement, garder les modèles d’IA de pointe hors de portée des autocrates est une tâche difficile. Sur le plan technique, les modèles d’IA générative sont faciles à voler. Bien que leur développement nécessite d’énormes ressources, une fois développés, les modèles peuvent être facilement copiés et adaptés à un coût minimal. C’est une mauvaise nouvelle, car la Chine pille régulièrement la technologie des entreprises américaines.

Les entreprises technologiques américaines peuvent également être tentées de vendre des capacités d’IA génératives, tout comme elles ont contribué par inadvertance à jeter les bases du Grand Pare-feu chinois, de l’appareil de surveillance omniprésent et de la collecte de gènes de minorités musulmanes par des sociétés commerciales.

En outre, les chercheurs chinois ou russes en IA peuvent facilement tirer parti des efforts de diverses entreprises pour garder l’IA générative open source. Meta a commencé à « démocratiser » l’accès à son modèle de langage OBT-175B, tout comme la société d’IA Hugging Face a aidé à lancer BLOOM, un modèle multilingue librement accessible. Aussi bien intentionnés que puissent être ces efforts, ils sont une aubaine pour les propagandistes.

Au lieu de cela, les entreprises devraient développer l’IA générative avec les mesures de prudence et de sécurité appropriées pour une technologie ayant l’immense potentiel de fomenter l’arbitraire, et s’abstenir de divulguer les détails techniques de leurs modèles de pointe.

Le gouvernement américain devrait clarifier l’importance stratégique de l’IA générative et restreindre l’exportation de modèles d’IA générative de pointe vers des partenaires non fiables, en s’appuyant sur des mesures similaires qui restreignent l’exportation de la technologie de surveillance américaine. Le financement gouvernemental de la recherche sur l’IA générative ne devrait être réservé qu’à des destinataires de confiance ayant des pratiques de sécurité strictes. Les États-Unis et leurs alliés devraient également investir de manière agressive dans des capacités de contre-propagande qui peuvent atténuer les prochaines vagues de propagande générative de l’IA – à la fois au niveau national et dans les autocraties.

L’alternative est une voie bien tracée : les entreprises technologiques américaines qui soutiennent le techno-autoritarisme par une combinaison d’incitations au profit et de naïveté. Il est temps de faire mieux.

Bill Drexel est chercheur associé au Center for a New American Security (CNAS), où il étudie l’IA et la sécurité nationale. En tant que boursier Schwarzman, il a étudié les technologies autoritaires chinoises à l’Université Tsinghua de Pékin.

Caleb Withers est associé de recherche au CNAS, travaillant sur la sécurité et la stabilité de l’IA.