Risques et bénéfices des agents conversationnels pour l’accès profane aux connaissances scientifiques

Cet article analyse les risques associés à l’utilisation d’agents conversationnels génératifs tels que ChatGPT pour l’accès aux connaissances scientifiques (et plus globalement techniques et médicales). Le développement du Web s’est en effet accompagné d’une évolution du processus de gatekeeping sous une forme algorithmique dont les intelligences artificielles génératives constituent le dernier avatar. Leurs limitations, et notamment les phénomènes d’hallucinations et de biais, sont cependant connues. Dès lors, ces agents conversationnels se révèlent-ils aptes à des tâches de médiation scientifique ? Leurs performances sont conditionnées aux caractéristiques de leur algorithme mais aussi de la disponibilité de données d’entraînement en quantité et de qualité. Or, l’accès à des contenus de sites de presse est régulièrement entravé par les éditeurs. Qu’en est-il pour les contenus scientifiques gérés par des éditeurs scientifiques commerciaux ? Les producteurs d’agents conversationnels génératifs doivent-ils se contenter de contenus de moindre qualité avec des conséquences dommageables sur la fiabilité des réponses ? Nous analysons dès lors les risques de mésinformation scientifique dus aux contraintes d’accès aux données. Nous discutons ensuite plus globalement ces risques, en cas d’usage en tant que médiateur scientifique, selon différents scénarios d’utilisation.