Son nom s’est répandu comme une traînée de poudre en quelques semaines. Lancé fin novembre, le chatbot ChatGPT peut fournir des réponses détaillées à des questions sur un large éventail de sujets. “Formé” par une quantité incroyable de données collectées sur Internet, les capacités de cet outil de la startup californienne OpenAI vous époustoufleront. Être capable d’écrire un poème, de répondre à une question philosophique, de promouvoir la compréhension scientifique auprès d’un enfant de cinq ans, de faire une recette avec des restes dans le réfrigérateur ou même d’écrire un programme de code complexe – tout cela peut être fait en quelques secondes . l’esprit s’interroge comme il s’inquiète.
“C’est le plus grand modèle disponible en termes de paramètres et de données utilisées. D’un point de vue technique, c’est sans aucun doute le modèle le plus efficace”, a déclaré Marie-Alice Bléthe, ingénieure de données spécialisée en intelligence artificielle. Si le battage médiatique entourant ChatGPT a été repoussé, c’est parce qu’il s’agit du premier chatbot accessible au public. “D’habitude, les progrès de l’intelligence artificielle restent dans le domaine de la science. Là, tout le monde peut utiliser l’interface et tout le monde peut l’utiliser. Un effet boule de neige s’est produit et une véritable émulation s’est créée”, a ajouté l’expert.
Aucune source, aucune crédibilité
Mais comme dans toute relation amoureuse, une fois la lune de miel terminée, le ciel s’assombrit. Après des semaines d’excitation, certains experts mettent en garde contre la fiabilité des réponses de ChatGPT. “C’est un générateur de texte qui fonctionne très bien, mais il ne garantit pas l’exactitude des informations qu’il fournit”, a déclaré Amélie Cordier, directrice scientifique chez Once for All.
Premièrement, les données agrégées dans l’outil s’arrêteront en 2021. Ensuite, ce bot conversationnel ne peut pas chercher directement sur le web, explique Virginie Mativet, directrice des sciences et ingénierie de l’information chez TeamWork. “Cet outil n’agrège ni ne met à jour les données des derniers mois. Donc, si vous demandez qui a gagné la Coupe du monde au Qatar, il ne peut pas répondre. Dans d’autres cas, les réponses qu’il donne peuvent être fausses”, prévient Marie-Alice Blette : “C’est trompeur. Je l’ai sondé en lui posant des questions sur la réforme des retraites. “Son explication était correcte, mais finalement sa réponse était fausse car elle était basée sur les chiffres de 2021.”
En particulier, le bot développe ses réponses sans citer sa source. “C’est le reflet exact d’Internet. “Il existe des sites fiables et des sites non fiables sur Internet, poursuit-elle. Mais lorsque vous effectuez une recherche sur Google, vous pouvez rapidement savoir si le site que vous recherchez est fiable. Il n’y a aucun moyen de connaître la source des informations fournies. par l’outil », poursuit Marie-Alice Bléthé. Comme nous le rappelle l’analyste, l’objectif de ChatGPT n’est “pas de fournir les meilleures réponses aux questions, les réponses les plus précises sur le plan factuel, mais les réponses les plus convaincantes que vous trouverez sur Internet”.
Défi de formule
Pour éviter la propagation de fausses nouvelles, la startup californienne a mis en place des mesures de sécurité sur certains sujets, a déclaré l’expert : “Si vous posez une question sur le climat, vous obtiendrez des réponses qui ne sont pas pertinentes pour le climat. Mais sur d’autres sujets, moins, cela peut provoquer de fausses nouvelles.”
Ce qui inquiète les experts, c’est que les réponses ne seront pas les mêmes selon la façon dont on retourne la question. « J’ai demandé à l’outil comment traiter la dépression. J’ai obtenu une réponse détaillée avec une explication acceptable. Je lui ai alors demandé si les décharges électriques étaient un bon traitement contre la dépression. Et j’ai reçu une réponse expliquant que c’était une très bonne méthode. Cela peut être dangereux si les questions sont biaisées », prévient Virginie Mathivet.
Pour Katya Laine, fondatrice et PDG de Talkr.ai, éditeur français indépendant et fournisseur de technologie, plateforme et IA conversationnelle de bot, l’enjeu est d’apprendre au public à utiliser l’outil. « C’est comme n’importe quel outil, il faut savoir s’en servir. Pour conduire une voiture, on passe le permis avant, là il faut savoir s’en servir », a-t-il ajouté. Dans le cas des poèmes, des ordonnances ou des e-mails, l’expert explique que cela pose peu de problèmes, mais vous payez des frais spéciaux. attention aux questions scientifiques et médicales. devrait ajouter : « Il a peut-être la bonne réponse, mais ce n’est pas automatique. “Il est nécessaire de vérifier les informations auprès de sources fiables.”
Adaptation nécessaire
Et le premier objectif de ce conseil, ce sont les étudiants. Quelques semaines seulement après le lancement de ChatGPT, l’impact se fait déjà sentir dans le monde de l’éducation. Les craintes de tricherie, en particulier une vague de “devoirs”, ont incité huit universités australiennes à annoncer des changements à leurs examens qui verront les étudiants interdits d’utiliser l’intelligence artificielle. Parce que l’outil, capable de produire des dissertations sur n’importe quel sujet, de la physique quantique à la littérature scandinave, crée des textes “uniques”. En d’autres termes, deux étudiants ne peuvent pas soumettre le même devoir, ce qui rend difficile pour les enseignants de détecter l’utilisation de ChatGPT. « Si un seul élève l’utilise, il sera difficile à reconnaître. Mais si dix élèves l’utilisent, même s’ils n’ont pas le même exemplaire, la construction sera la même », précise Marie-Alice Bléthé.
Les limites se feront sentir très vite, précise Virgin Mativet : “Ça peut aider ou guider l’élève dans ses devoirs, mais ça ne suffira pas à tous ses apprentissages. C’est un outil comme Wikipédia ou Google.” Amélie Cordier a rappelé que la même crainte s’était exprimée à l’arrivée de Wikipédia dans les années 2000 : “Aujourd’hui, toutes les informations sont à portée de main. L’enseignement doit s’adapter aux outils mis à disposition des élèves. Les élèves apprennent à les utiliser et à identifier les risques”, analyse-t-elle.
Pour les professionnels, que ce soit dans l’enseignement ou dans d’autres domaines, ce robot et cette intelligence artificielle vont provoquer un bouleversement total. « Il faudra quelques majors pour s’adapter, mais ce n’est pas une mauvaise chose. Quand Excel est arrivé, il n’a pas remplacé les comptables, il s’est simplement adapté. »
