Les outils de l’intelligence artificielle (IA) générateurs sont devenus des atouts puissants pour de nombreuses tâches, capables de produire une grande variété de contenus, allant des textes aux vidéos en passant par le code informatique. Cependant, malgré leurs capacités impressionnantes, ces outils présentent des risques souvent négligés par les utilisateurs. En effet, ces derniers ont tendance à ignorer – ou pire, à ne pas savoir – que ces outils peuvent commettre des erreurs.
Des avertissements tels que “ChatGPT peut faire des erreurs. Pensez à vérifier les informations importantes” et “Gemini peut afficher des informations erronées, y compris sur les personnes, veuillez vérifier ses réponses”, sont parfois ignorés par des utilisateurs qui créent des contrats légaux, des politiques d’entreprise, des programmes de cours, des protocoles de traitement médical, des rapports financiers, des propositions commerciales et du code informatique, sans avoir les compétences, l’expérience et le discernement nécessaires pour évaluer l’exactitude et la pertinence du matériel généré. De telles pratiques peuvent avoir des conséquences catastrophiques.
Par ailleurs, certains de ces outils d’IA générateurs sont parfois utilisés comme substituts aux moteurs de recherche. Il m’est arrivé de demander à ChatGPT un article de recherche que je pourrais utiliser comme référence sur les risques connus de l’utilisation exclusive des techniques d’anonymisation et de pseudonymisation pour protéger les informations sensibles. ChatGPT m’a fourni le titre de l’article, les noms des auteurs et leurs affiliations, ainsi que le résumé de l’article. Après avoir vérifié ces informations, j’ai découvert que l’article n’existait pas. Lorsque j’ai demandé à ChatGPT un article réel, j’ai reçu une réponse affirmant qu’il allait modifier la réponse pour correspondre à mes besoins spécifiques.
Ces exemples mettent en lumière l’importance des instructions données aux outils d’IA générateurs pour produire un contenu de haute qualité. Plus la tâche est complexe, plus la requête doit être détaillée et élaborée pour obtenir une réponse de qualité. En effet, la qualité du contenu produit dépend fortement de la qualité des requêtes reçues. C’est pourquoi le domaine de l’ingénierie de requêtes est devenu crucial dans le monde de l’IA générateur.
Ainsi, il est primordial que les utilisateurs considèrent les outils d’IA générateurs comme des assistants non autoritaires, non expérimentés et non discernants. Le contenu généré par ces outils ne doit jamais être considéré comme définitif, mais plutôt comme une base pouvant être affinée par des professionnels expérimentés dotés de compétences et de discernement. En fin de compte, l’IA peut certainement accélérer les tâches routinières, identifier les erreurs et exécuter rapidement des procédures standard répétitives. Elle ne remplacera cependant jamais complètement l’aspect humain, puisque l’expérience, la compétence et le discernement restent des qualités essentielles pour assurer la qualité et la pertinence des réponses générées.
En conclusion, si les outils d’IA générateurs peuvent être des alliés précieux, il est impératif de garder à l’esprit qu’ils doivent s’inscrire dans un processus d’apprentissage continu et d’amélioration, sous la supervision de professionnels qualifiés. L’IA peut être un formidable assistant, mais elle ne saurait remplacer l’expertise humaine et le bon sens qui sont indispensables pour garantir des résultats fiables et pertinents.