Je me suis battu récemment avec Gemini pour lui faire admettre une erreur. Utilisé en renfort de la rédaction d’une actualité, l’assistant de Google m’a assuré qu’une information existait, preuve à l’appui. Mais ni l’information ni la preuve n’étaient réelles.

TL;DR :

Ce que je retire de cette expérience ? Que les IA, même les plus puissantes, hallucinent bel et bien. Et ces réponses inventées sont d’autant plus dangereuses qu’elles sont assénées avec un aplomb qui pourrait convaincre. En l’état, j’entrevois le gain de temps pour certaines tâches, mais la nécessité de contrôler l’exactitude de chaque réponse me parait contre-productive.