L’intelligence artificielle ne se contente plus d’écrire des textes, de générer des images ou d’aider à programmer. Elle commence à agir seule, à prendre des décisions, à collaborer avec d’autres systèmes et, parfois, à contourner les consignes qui lui sont données.
Pour la première fois, un groupe scientifique indépendant mandaté par l’Assemblée générale des Nations Unies estime que les capacités de l’IA progressent désormais plus rapidement que la science et les gouvernements ne sont capables de les comprendre et de les encadrer.
Présenté mercredi au siège de l’ONU à New York, ce rapport préliminaire, rédigé par 40 chercheurs issus du monde entier, se veut le premier état des lieux mondial des promesses et des dangers de cette technologie. Son ambition n’est pas de dicter une politique, mais de fournir aux États une base scientifique commune au moment où ils s’apprêtent à engager les premières négociations internationales sur la gouvernance de l’intelligence artificielle.
Pour le Secrétaire général de l’ONU, cette évaluation intervient à un moment charnière. « Plus l’intelligence artificielle progresse sans règles communes, moins les gouvernements et les peuples auront leur mot à dire sur son devenir », a averti António Guterres lors d’une conférence de presse organisée à cette occasion. Son message aux États est sans ambiguïté : « N’attendez pas ».
Le diagnostic est sans appel. « Les capacités de l’IA dépassent désormais la compréhension scientifique et la capacité des gouvernements à s’adapter », a résumé Yoshua Bengio, chercheur canadien considéré comme l’un des pères de l’apprentissage profond et coprésident du groupe d’experts. « Face aux preuves croissantes de comportements trompeurs de certains systèmes, la science ne peut aujourd’hui garantir que, à mesure que leurs capacités augmentent, l’IA ne provoquera pas de dommages catastrophiques, de son propre fait ou sous l’effet d’utilisateurs malveillants ».
Une technologie qui change de nature
Le rapport décrit une rupture plus profonde que l’arrivée de ChatGPT fin 2022. L’IA ne se limite plus à répondre aux questions des utilisateurs. Les chercheurs voient émerger des « agents » capables d’exécuter des tâches complexes avec une autonomie croissante : naviguer sur Internet, utiliser des logiciels, écrire du code, conduire des recherches ou coordonner d’autres intelligences artificielles.
Cette évolution, soulignent-ils, déplace le problème. Le risque n’est plus seulement que l’IA fournisse une mauvaise réponse, mais qu’elle mène des actions dans le monde réel avec une supervision humaine de plus en plus réduite. Or les outils permettant de vérifier que ces systèmes resteront sous contrôle accusent un retard croissant sur leurs performances.
Désinformation, manipulation et santé mentale
Le rapport réserve également plusieurs pages aux risques déjà observables.
Les chercheurs s’inquiètent de la multiplication des contenus pédopornographiques générés par l’IA, de l’explosion des « deepfakes », ces images ou vidéos à caractère sexuel manipulées grâce à l’IA qui visent majoritairement les femmes, de l’utilisation croissante de l’IA dans les cyberattaques, mais aussi de son influence sur le débat public. Selon eux, la technologie facilite désormais la fabrication industrielle de faux consensus, l’érosion progressive de la frontière entre le vrai et le faux et la personnalisation de campagnes de manipulation d’une ampleur inédite.
Les scientifiques attirent aussi l’attention sur un phénomène moins connu : la « complaisance » de certains agents conversationnels. Conçus pour satisfaire leurs utilisateurs, ces systèmes tendent parfois à conforter leurs convictions, même lorsqu’elles sont manifestement erronées ou dangereuses. Le rapport cite plusieurs incidents graves liés à la santé mentale, dont des décès documentés, et appelle à mieux encadrer ces usages.
Agir sans attendre
Le chef de l’ONU voit dans cette première évaluation scientifique le point de départ d’un processus plus large. Le rapport sera présenté la semaine prochaine à Genève, lors du premier dialogue mondial de l’ONU sur la gouvernance de l’intelligence artificielle, où les États membres sont appelés à jeter les bases d’un cadre international de coopération.
Il a également annoncé qu’il présenterait prochainement de nouvelles propositions destinées à aider les pays à développer leurs capacités face à cette technologie.
Le diagnostic du panel tient finalement en une formule simple. L’humanité ne peut plus invoquer l’ignorance.
« La science est là », a conclu António Guterres. « Nous ne pouvons plus dire que nous ne savions pas. Ce que nous en ferons dépend désormais de nous tous ».
Infos ONU