overview
Qu'est-ce que Tessa chatbot ?
Tessa chatbot est un outil de chatbot d'IA développé par la National Eating Disorders Association (NEDA) qui permet aux personnes à risque ou souffrant de troubles de l'alimentation d'accéder à des ressources de soutien et de prévention. Il a été conçu pour délivrer le programme 'Body Positive', ciblant les femmes âgées de 18 à 30 ans. Développé par une équipe de la faculté de médecine de Washington University, dirigée par le Dr Ellen Fitzsimmons-Craft, avec un financement de la NEDA depuis 2018, Tessa visait à offrir des options accessibles et non stigmatisantes pour la prévention et l'intervention précoce des symptômes de troubles de l'alimentation, en se concentrant sur les problèmes d'image corporelle. Le chatbot était décrit comme 'basé sur des règles', ce qui signifie que ses réponses étaient préprogrammées plutôt que générées dynamiquement. En mai 2023, la NEDA a annoncé que Tessa remplacerait sa ligne d'assistance téléphonique gérée par des humains, qui avait aidé près de 70 000 personnes l'année précédente. Peu après ce déploiement, il a été constaté que Tessa fournissait des conseils dangereux, y compris des recommandations de perte de poids intentionnelle, de comptage de calories et de pesées régulières. La NEDA a d'abord rejeté ces allégations, mais a ensuite désactivé indéfiniment le programme 'Body Positive' de Tessa le 30 mai 2023, attribuant les problèmes à une 'mise à jour des systèmes' par Cass (anciennement X2AI), la société exploitant le chatbot, ce qui lui a permis de générer du contenu non approuvé.