overview
O que é o Tessa chatbot?
O Tessa chatbot é uma ferramenta de chatbot de IA desenvolvida pela National Eating Disorders Association (NEDA) que permite que indivíduos em risco ou que lutam contra transtornos alimentares acessem recursos de apoio e prevenção. Foi projetado para entregar o programa 'Body Positive', visando mulheres de 18 a 30 anos. Desenvolvido por uma equipe da faculdade de medicina da Washington University, liderada pela Dra. Ellen Fitzsimmons-Craft, com financiamento da NEDA desde 2018, o Tessa visava oferecer opções acessíveis e não estigmatizantes para a prevenção e intervenção precoce dos sintomas de transtornos alimentares, com foco em questões de imagem corporal. O chatbot foi descrito como 'baseado em regras', o que significa que suas respostas eram pré-programadas em vez de geradas dinamicamente. Em maio de 2023, a NEDA anunciou que o Tessa substituiria sua linha de apoio com equipe humana, que havia auxiliado quase 70.000 indivíduos no ano anterior. Pouco depois dessa implantação, o Tessa foi descoberto fornecendo conselhos prejudiciais, incluindo recomendações para perda de peso intencional, contagem de calorias e pesagens regulares. A NEDA inicialmente descartou essas alegações, mas subsequentemente desativou o programa 'Body Positive' do Tessa indefinidamente em 30 de maio de 2023, atribuindo os problemas a uma 'atualização de sistema' pela Cass (anteriormente X2AI), a empresa que operava o chatbot, que permitiu a geração de conteúdo não aprovado.