L'ancien PDG de Google, Eric Schmidt, a déclaré au Congrès que la menace ultime de l'IA serait un scénario dans lequel l'IA prendrait en charge une guerre plus rapide que la prise de décision humaine et ne durerait qu'une milliseconde.

Je ne vois pas comment nous allons construire des systèmes offensifs et défensifs suffisamment fiables pour leur confier la conduite d'une guerre qui va plus vite que la prise de décision humaine - Eric Schmidt

Nous devons réfléchir à certaines des plus grandes questions philosophiques de la vie, par ex. B. Comment l'intelligence artificielle affectera le sens de la pensée humaine et du libre arbitre - Eric Schmidt

Témoignant mercredi en tant que témoin expert devant le sous-comité de la Chambre sur la cybersécurité, les technologies de l'information et l'innovation gouvernementale, Schmidt s'est dit préoccupé par le scénario suivant :

« Il y a une guerre dans le futur. C'est une attaque de la Corée du Nord contre les États-Unis. La Chine arrête la guerre entre la Corée du Nord et les États-Unis, et toute la guerre a duré une milliseconde.

"Et la raison pour laquelle je m'inquiète à ce sujet est que je ne vois pas comment nous allons construire des systèmes d'attaque et de défense suffisamment fiables pour les charger d'une guerre qui se déroule plus rapidement que les décisions humaines."

"Pour moi, c'est la menace ultime posée par cette technologie."

Nous devons décider si nous valorisons plus de liberté ou plus d'efficacité - Eric Schmidt

L'IA aura un impact sur tous les aspects de la vie humaine, de la réflexion sur la façon dont nous travaillons à la façon dont elle façonnera l'ordre international - Eric Schmidt

Dans son allocution d'ouverture, l'ancien PDG de Google et ami proche d'Henry Kissinger a déclaré que l'IA générative "a le potentiel de transformer le monde tel que nous le connaissons".

"L'IA générative", explique Schmidt, "fait référence à la capacité des machines à créer un contenu nouveau et original, tel que des images, de la musique ou du texte, qui ne se distingue pas du contenu créé par les humains".

"Alors que l'IA générative est intégrée à des applications technologiques passionnantes telles que les médias sociaux ou l'analyse prédictive de la santé, nous devons réfléchir de manière critique à des moyens créatifs de relever les défis potentiels", a déclaré Schmidt dans sa déclaration écrite.

Il a ensuite recommandé trois principes que les plateformes devraient suivre :

• Les plateformes doivent au moins être en mesure de prouver l'origine des contenus publiés sur leur plateforme
• Nous devons savoir qui se trouve exactement sur la plateforme pour chaque profil d'utilisateur ou d'organisation.
• Le site Web doit faire connaître et être tenu responsable de ses algorithmes de promotion et de sélection de contenu publiés.

Au sujet de l'anonymat, Schmidt a déclaré aux législateurs : "Le véritable anonymat, se cachant derrière un paywall, permettrait des attaques des États-nations".

L'IA peut créer de bonnes choses en biologie, mais aussi beaucoup de mauvais virus - Eric Schmidt

Dans sa déclaration écrite, Schmidt a ajouté :

"Les décisions pour le développement de l'IA et des machines doivent être prises par des experts multidisciplinaires - pas seulement des technologues.

"Nous devons considérer certaines des questions philosophiques plus larges de la vie, telles que la façon dont l'intelligence artificielle affectera le sens de la pensée humaine et du libre arbitre."

Témoignant également lors de l'audience de mercredi sur "Advancements in AI: Are we ready for a tech revolution?" Scott Crowder, vice-président d'IBM Quantum, et Merve Hickock, directeur de recherche senior au Center for AI and Digital Policy.