Cyberattaques, contrôle d'armes, création de pathogènes mortels… Si elle venait à perdre le contrôle de l'intelligence artificielle (IA), l'humanité passerait un sale quart d'heure. Mais cela n'est rien comparé à cette épée de Damoclès qu'est le risque de…manger dans de mauvais restaurants.
Car l'IA est désormais capable d'écrire de fausses critiques gastronomiques, prévient dans un article le «New York Times». Elles sont si bien rédigées que les humains ne peuvent plus faire la différence, ajoute le journal.
L'IA passe le test de Turing
Une étude menée par Balázs Kovács, professeur de psychologie à la Yale School of Management aux États-Unis, vient de le démontrer. Le scientifique a demandé à ChatGPT, l'agent d'IA d'OpenAI, de produire un grand nombre de commentaires à propos de divers commerces, dont des restaurants.
L'IA s'est pour cela inspirée d'un vaste corpus de commentaires publiés sur Yelp (une plateforme d'avis populaire aux États-Unis) fourni par le professeur. Résultat: les participants (humains) à l'étude ne sont pas parvenus à distinguer les vrais commentaires de ceux générés par la machine.
Cette étude vient renforcer d'autres résultats récents allant tous dans le même sens: l'IA est désormais capable de passer avec succès le test de Turing.
Même la machine ne démasque pas la machine
Il s'agit d'une proposition formulée en 1950 par le mathématicien Alan Turing visant à jauger le niveau de perfectionnement d'une machine. Le principe: on demande à des humains de converser par messages écrits avec un programme informatique (sans qu'ils le sachent). Si la personne conclut qu'elle a parlé avec un humain, alors la machine a réussi le test de Turing.
Cela faisait plus de 50 ans qu'aucun humain ne se laissait berner. Les récents progrès en intelligence artificielle ont fait exploser ce mur. Pire, la machine n'est semble-t-il même pas capable de distinguer elle-même les faux commentaires des vrais. Comme si elle se trompait elle-même au test de Turing!
Passer ce test ne signifie toutefois pas grand-chose d'un point de vue scientifique. Mais cette avancée peut avoir des conséquences graves pour les restaurants.
La crainte des «expériences gustatives savoureuses»
Pour ces derniers, les commentaires sont d'une importance capitale. Tout le monde ou presque les lit. Or, si l'IA commence à publier une avalanche d'avis factices mais crédibles sur Yelp, Google Maps ou TripAdvisor, il sera encore plus difficile pour les humains de prendre des décisions informées.
De quoi faire planer une crise de confiance avec toutes les plateformes de notation. Ou pire pour les restos suisses: voir se glisser une foule de formulations douteuses, d'«expériences gustatives savoureuses», ou de «mets fortement appréciés par la clientèle» dans les commentaires.
Preuve que je suis humain, cela me donne des frissons dans le dos. D'accord, c'est exactement ce qu'écrirait une IA voulant se faire passer pour moi: on n'est pas donc pas sorti de l'auberge (5 étoiles, allez-y).