Deux randonneuses se perdent dans les Pyrénées… après avoir suivi les fausses indications de ChatGPT

[Eric123]

Bonjour,

Avis aux inconditionnels d'IA !

Deux randonneuses se perdent dans les Pyrénées… après avoir suivi les fausses indications de ChatGPT
https://www.lunion.fr/id819882/article/2026-07-28/deux-randonneuses-se-perdent-dans-les-pyrenees-apres-avoir-suivi-les-fausses

https://www.facebook.com/ledauphinelibere/posts/deux-randonneuses-se-sont-perdues-dans-les-pyr%C3%A9n%C3%A9es-apr%C3%A8s-avoir-suivi-une-carte-/1486879156807668/

https://www.tf1info.fr/societe/deux-randonneuses-se-perdent-dans-les-pyrenees-en-suivant-une-carte-generee-par-l-intelligence-artificielle-et-ce-n-est-pas-une-histoire-isolee-2455261.html

[GestiondeFortune]

Qui est à blâmer ? Un assistant certainement pas fait pour dessiner une trace en haute montagne ou deux huluberlues qui ont demandé on ne sait quoi ?

Pour la rando il faut une carte offline+un GPS, exemple Iphigénie. Et encore parfois on se trompe, alors avec un schéma...

Comme pour Internet dans les années 1990, la nouveauté inquiète et chaque incident est utilisé pour dénoncer l’outil dans son ensemble.

Lorsqu’une personne suit une mauvaise information trouvée sur Internet, personne ne conclut sérieusement qu’il faut condamner Internet. On cherche la source, on vérifie si elle était fiable et on examine la prudence de l’utilisateur. Avec l’intelligence artificielle, on a parfois tendance à oublier cette distinction.

Une erreur spectaculaire de ChatGPT devient immédiatement un article. En revanche, les milliers de personnes qui l’utilisent chaque jour correctement pour comprendre un document, préparer un voyage, rédiger un courrier ou résoudre un problème ne font évidemment pas la une.

Cela ne signifie pas que l’IA est infaillible. Dans cette affaire, la carte était manifestement fausse et c’est une défaillance réelle. Mais utiliser une carte générée par une IA comme unique moyen de navigation en haute montagne, sans la confronter à une carte IGN, au balisage ou à un topo officiel, est également une faute de méthode.

L’IA est un outil. Elle peut être excellente pour rechercher, expliquer, comparer ou préparer. Elle devient dangereuse lorsqu’on lui accorde une autorité qu’elle ne revendique pas nécessairement et que l’utilisateur renonce à toute vérification.

Le bon enseignement n’est donc pas qu’il faut se méfier de toute intelligence artificielle. C’est qu’il faut apprendre à l’utiliser, exactement comme nous avons dû apprendre à distinguer, sur Internet, une source sérieuse d’un contenu fantaisiste.