Un chatbot de type ChatGPT pour les agences d’espionnage américaines ?

L’IARPA met en place son programme REASON pour aider les analystes à identifier les informations importantes et négligées tout en générant automatiquement des commentaires à l’appui de leurs rapports de renseignement.

Dans le cadre du programme Rapid Explication, Analysis and Sourcing (ONline), l’activité de projets de recherche avancée sur le renseignement des États-Unis (IARPA) vise à développer un système d’IA qui peut « aider les analystes du renseignement à résoudre des énigmes de sécurité nationale en identifiant les informations importantes et négligées et en montrant comment elles s’imbriquent ».

REASON soutiendra et améliorera le travail des analystes en leur indiquant des preuves importantes au-delà de ce qu’ils ont déjà pris en compte et en les aidant à déterminer quelles explications alternatives bénéficient du soutien le plus fort.

La description du programme indique : « REASON développera une technologie qui permettra aux analystes de découvrir d’autres preuves pertinentes (y compris des preuves contraires) et d’identifier les forces et les faiblesses du raisonnement. »

En outre, REASON vise à développer de nouveaux systèmes qui génèrent automatiquement des commentaires qui permettront aux analystes du renseignement d’améliorer considérablement les preuves et les arguments dans leurs rapports d’analyse.

L’évaluation de la performance sera basée sur l’efficacité avec laquelle les équipes sont capables de développer des technologies qui aident les analystes à « découvrir des preuves précieuses, à identifier les forces et les faiblesses du raisonnement et à produire des rapports de meilleure qualité ».

REASON vise à développer de nouveaux systèmes qui génèrent automatiquement des commentaires qui permettront aux analystes du renseignement d’améliorer considérablement les preuves et les arguments dans leurs rapports analytiques.

Bien que la description du programme REASON ne fasse aucune référence au chatbot ChatGPT d’OpenAI, il existe certaines similitudes avec ce que l’IARPA tente de réaliser.

Par exemple, vous pouvez demander à ChatGPT de résumer n’importe quel sujet ou de tirer des conclusions, et il peut parcourir sa base de données pour fournir une explication convaincante.

Cependant, ces explications peuvent aussi être complètement fausses.

Comme le décrit OpenAI, « ChatGPT écrit parfois des réponses plausibles mais fausses ou absurdes. »

Néanmoins, l’un des objectifs du programme REASON de l’IRAPA est d’alerter les analystes sur « des preuves importantes au-delà de ce qu’ils ont déjà considéré », et un chatbot similaire à ChatGPT serait en mesure d’atteindre cet objectif particulier.

REASON « fonctionnera de la même manière qu’un vérificateur de grammaire automatique, mais en mettant l’accent sur les preuves et les arguments » – IARPA REASON Program

Entre les mains de la communauté du renseignement, et avec beaucoup de formation et d’optimisation supplémentaires, ce type d’IA pourrait orienter les analystes dans des directions qu’ils n’ont peut-être pas envisagées, et à partir de là, ils seraient en mesure d’évaluer manuellement la validité du « raisonnement » de l’IA.

En fin de compte, l’IARPA est à la recherche d’un outil qui soutient l’enquête, mais ne remplace pas l’analyste ou ne rédige pas de manière indépendante des rapports générés automatiquement.

Comme le dit l’IARPA, « REASON n’est pas destiné à remplacer les analystes, à rédiger des rapports complets ou à augmenter leur charge de travail. La technologie fonctionnera dans le flux de travail actuel de l’analyste.

« Cela fonctionnera de la même manière qu’un vérificateur de grammaire automatique, mais en mettant l’accent sur les preuves et les arguments. »

Le programme REASON est dirigé par le Dr Steven Rieber, qui s’est joint à l’IARPA en 2014 en tant que gestionnaire de programme.

Le Dr Rieber se concentre sur les domaines de la recherche scientifique qui comprennent la prédiction, le jugement rationnel et la prise de décision.

Il a dirigé plusieurs programmes de l’IARPA, notamment :

• ACE (ESTIMATION CONTINGENTE AGRÉGÉE)
• CRÉER (CROWDSOURCING PREUVE, ARGUMENTATION, RÉFLEXION ET ÉVALUATION)
• FOCUS (PRÉDICTION D’ÉVÉNEMENTS CONTREFACTUELS DANS DES ENVIRONNEMENTS NON CONTRÔLÉS)
• MOSAÏQUE (CAPTURE D’OBJECTIFS MULTIMODALES POUR ÉVALUER LES PERSONNES AVEC CONTEXTE)
• HFC (COMPÉTITION DE PRÉDICTION HYBRIDE)

Avant de se joindre à l’IRAPA, M. Rieber a travaillé au Bureau de l’intégrité analytique et des normes du directeur du renseignement national (ODNI) où, en tant que méthodologiste analytique, il a présenté de nouvelles méthodologies et une formation au personnel analytique d’IC.

Une journée des proposants aura lieu le 11 janvier 2023 pour présenter les candidats potentiels au programme REASON et fournir des informations sur les exigences techniques et les objectifs du programme.

Pour participer, les participants doivent s’inscrire avant le 6 janvier 2023.