Quand l’IA du quotidien se trompe dans le monde réel
Un agriculteur chinois a suivi une recommandation chimique générée par une IA qu’il utilisait depuis environ un an. Le sésame a dépéri sur près de dix hectares.
On demande désormais à l’IA de résumer un texte, préparer un voyage, traduire un message ou proposer une recette. Wu, agriculteur de 67 ans à Chuzhou, en Chine, l’avait intégrée à un autre quotidien : celui d’une ferme. Pendant environ un an, il lui a posé des questions sur la météo, les engrais et les parasites.
Les réponses étaient assez utiles pour installer une habitude. Puis cette habitude a rencontré une décision beaucoup moins réversible.
Selon CTWANT, dont les informations ont été reprises par Tom’s Hardware et The Economic Times, Wu a demandé au service comment lutter contre les mauvaises herbes et les insectes dans du sésame. L’IA a proposé plusieurs produits à mélanger. L’agriculteur n’a pas fait vérifier cette recommandation par un spécialiste avant de traiter 150 mu de terrain — environ dix hectares.
Le lendemain matin, les mauvaises herbes dépérissaient, mais les plants de sésame également. L’ampleur financière précise n’a pas été publiée, mais les comptes rendus décrivent une mortalité massive des jeunes plants sur la zone traitée.
Parmi les produits mentionnés se trouve le fomesafen, un herbicide destiné aux mauvaises herbes à feuilles larges. Les registres chinois encadrent son utilisation selon les cultures et avertissent des risques pour certaines plantes sensibles. Les spécialistes cités dans le reportage initial l’ont considéré comme un élément majeur pour expliquer les dégâts.
Le nom de l’application d’IA n’est pas indiqué dans les sources accessibles. C’est une nuance importante à l’heure où une histoire virale est souvent réécrite en quelques lignes et rattachée, sans preuve, au chatbot le plus connu du moment.
La situation dit surtout quelque chose de notre rapport aux interfaces. Le service affichait, selon les médias, un avertissement générique : l’IA peut produire des informations incorrectes, il faut vérifier. C’est vrai. Mais lorsque l’outil a été correct des dizaines de fois, le cerveau transforme peu à peu la vérification en étape optionnelle.
Le problème est que toutes les réponses n’ont pas le même risque. Une mauvaise suggestion de restaurant est gênante. Une mauvaise combinaison de produits phytosanitaires agit immédiatement sur des êtres vivants, et souvent sur une grande surface. Dans ce contexte, un simple message d’avertissement ne suffit pas forcément.
Les chercheurs chinois testent déjà une approche différente. Green Shield, un modèle spécialisé dans la protection des cultures présenté en mai 2026, doit consulter la base nationale des pesticides et rejeter les recommandations non conformes. Ses développeurs expliquent que les modèles généralistes peuvent manquer de précision dans ce domaine.
Une étude chinoise sur le désherbage du sésame confirme pourquoi cette spécialisation compte : les herbicides diffèrent fortement par leur efficacité et leur toxicité pour la culture elle-même. Le détail n’est pas accessoire, il est l’essentiel.
L’histoire de Wu rappelle donc une règle simple pour une vie de plus en plus assistée par l’IA : la confiance peut être pratique sans devenir absolue. Plus une action est difficile à annuler, plus la technologie doit ralentir avant de nous donner une réponse qui ressemble à un ordre.
