overview
¿Qué es Tessa chatbot?
Tessa chatbot es una herramienta de chatbot de IA desarrollada por la National Eating Disorders Association (NEDA) que permite a las personas en riesgo o que luchan contra trastornos alimentarios acceder a recursos de apoyo y prevención. Fue diseñada para ofrecer el programa 'Body Positive', dirigido a mujeres de 18 a 30 años. Desarrollada por un equipo de la Washington University's medical school, liderado por la Dra. Ellen Fitzsimmons-Craft, con financiación de NEDA desde 2018, Tessa tenía como objetivo ofrecer opciones accesibles y no estigmatizantes para la prevención y la intervención temprana de los síntomas de los trastornos alimentarios, centrándose en problemas de imagen corporal. El chatbot fue descrito como 'basado en reglas', lo que significa que sus respuestas estaban preprogramadas en lugar de generarse dinámicamente. En mayo de 2023, NEDA anunció que Tessa reemplazaría su línea de ayuda con personal humano, que había asistido a casi 70,000 personas el año anterior. Poco después de esta implementación, se descubrió que Tessa proporcionaba consejos perjudiciales, incluidas recomendaciones para la pérdida de peso intencional, el conteo de calorías y pesajes regulares. NEDA inicialmente desestimó estas afirmaciones, pero posteriormente deshabilitó el programa 'Body Positive' de Tessa indefinidamente el 30 de mayo de 2023, atribuyendo los problemas a una 'actualización de sistemas' por parte de Cass (anteriormente X2AI), la empresa que operaba el chatbot, lo que le permitió generar contenido no aprobado.