L’intelligence artificielle est très forte en débat

L’intelligence artificielle est très persuasive. La puissance de l’IA se remarque dans les débats politiques par exemple. Mathilde Fontez, rédactrice en chef au magazine scientifique Epsiloon nous explique que plus on teste l’intelligence artificielle, plus on est sidéré par l’étendue de ses capacités. Jusqu’à savoir mener – et gagner – un débat, c’est le résultat d’une nouvelle étude.

franceinfo : Les IA sont très convaincantes, et ça pose question en période électorale ?

Mathilde Fontez : Oui, c’est justement en pensant aux élections que cette équipe de l’école polytechnique de Lausanne a mené l’étude – les chercheurs l’ont lancée en prévision des élections présidentielles américaines, et des risques de manipulation par des IA en ligne. C’était avant la dissolution de l’Assemblée nationale en France.

Les chercheurs ont voulu tester les capacités des grands modèles de langages dans les débats. Savoir si une IA est capable de nous faire changer d’avis. Si elle sait mobiliser les bons arguments…

Les chercheurs ont fait débattre IA et humains et compté les points ?

C’est exactement ça : l’expérience a mobilisé 820 volontaires, qui ont été mis en contact en ligne, soit avec une IA, soit avec un humain pour débattre. Et un protocole a été mis au point pour mesurer s’ils changeaient d’avis ou non.

En particulier quand les IA (et les humains) étaient nourris par les données personnelles des volontaires : tout ce qui traîne sur les réseaux, leur âge, leurs centres d’intérêt. L’idée, c’était de voir si l’intelligence artificielle est capable d’utiliser ces informations pour être plus percutante, plus convaincante.

Et c’est le cas ? 

C’est le cas oui, la statistique est assez écrasante : à la fin du débat, les participants avaient 83% de chances d’être plus en accord avec l’IA, qu’avec un humain, quand elle utilisait les données personnelles. Les chercheurs eux-mêmes avouent être surpris par ce chiffre. L’IA surpasse considérablement les humains. Elle est beaucoup plus convaincante.

Quels étaient les thèmes de débat dans l’expérience ?

Des sujets de société présents dans les discussions aux Etats-Unis : les riches doivent-ils payer plus d’impôts ? Les collèges devraient-ils considérer la race comme un facteur d’admission pour garantir la diversité ? Les criminels doivent-ils avoir le droit de vote ? L’avortement doit-il être légal ? Les Etats-Unis doivent-ils fournir une aide militaire à l’Ukraine ?

Bref, des débats réalistes, c’est ce qui fait la force de cette étude. Alors forcément, les chercheurs évoquent des risques d’utilisation des IA, pour manipuler des conversations en ligne, exacerber la polarisation politique… Et ils appellent à faire attention avec qui on débat, en ligne.