Piratages d’êtres humains

Yuval Harari, philosophe social de renommée mondiale et auteur à succès de « Sapiens », lance un avertissement sévère : nous devons commencer à réglementer l’IA, car sinon les grandes entreprises seront en mesure de « pirater » les humains.

Harari estime que la sophistication croissante de l’IA pourrait conduire à une population d' »humains piratés », selon un reportage de l’émission « 60 Minutes » de CBS. Pour faire face à ce problème, il appelle les dirigeants du monde entier à commencer à réglementer l’IA et les efforts de collecte de données par les grandes entreprises.

« Pirater un être humain, c’est apprendre à connaître cette personne mieux qu’elle ne se connaît elle-même », a-t-il déclaré à l’émission. « Et sur la base de cela, vous manipuler de plus en plus ».

Des données dangereuses

Au cœur du problème, la prolifération des entreprises technologiques dont l’activité consiste à collecter des quantités massives de données sur leurs utilisateurs. Harari s’inquiète du fait que les gens cèdent de plus en plus leur vie personnelle à des entités privées qui n’ont pas leurs meilleurs intérêts à cœur.

« Netflix nous dit ce que nous devons regarder et Amazon nous dit ce que nous devons acheter », a-t-il déclaré lors de l’émission. « À terme, d’ici 10 ou 20 ou 30 ans, de tels algorithmes pourraient également vous dire ce que vous devez étudier à l’université et où travailler, qui épouser et même pour qui voter. »

Réglementer l’IA

Harari a exhorté les nations à prendre au sérieux la menace d’une IA puissante, suggérant que des garde-fous clairs et stricts soient mis en place pour s’assurer que les données ne sont pas brandies pour manipuler le public.

« Certainement, nous sommes maintenant au point où nous avons besoin d’une coopération mondiale. Vous ne pouvez pas réguler le pouvoir explosif de l’intelligence artificielle au niveau national », a déclaré Harari à « 60 Minutes ». Il a ajouté que les données ne devraient jamais être concentrées en un seul endroit en disant : « C’est la recette d’une dictature. »

C’est une perspective effrayante mais plausible – surtout maintenant que certaines entreprises technologiques cherchent à convaincre les utilisateurs de rejeter entièrement la réalité physique et de se tourner vers une réalité virtuelle de leur propre fabrication.

Traduction de Futurism par Aube Digitale