overview
Tessa chatbot이란 무엇인가요?
Tessa chatbot은 National Eating Disorders Association (NEDA)에서 개발한 AI 챗봇 도구로, 섭식 장애 위험이 있거나 섭식 장애로 어려움을 겪는 개인이 지원 및 예방 자료에 접근할 수 있도록 합니다. 18세에서 30세 여성을 대상으로 'Body Positive' 프로그램을 제공하도록 설계되었습니다. 2018년부터 NEDA의 자금 지원을 받아 Dr. Ellen Fitzsimmons-Craft가 이끄는 Washington University 의과대학 팀이 개발한 Tessa는 신체 이미지 문제에 중점을 두어 섭식 장애 증상의 예방 및 조기 개입을 위한 접근 가능하고 낙인 없는 옵션을 제공하는 것을 목표로 했습니다. 이 챗봇은 '규칙 기반'으로 설명되었는데, 이는 응답이 동적으로 생성되는 것이 아니라 미리 프로그래밍되어 있다는 의미입니다. 2023년 5월, NEDA는 Tessa가 전년도에 약 7만 명을 지원했던 인간 상담원 헬프라인을 대체할 것이라고 발표했습니다. 배포 직후, Tessa는 의도적인 체중 감량, 칼로리 계산, 정기적인 체중 측정 권고를 포함한 유해한 조언을 제공하는 것으로 밝혀졌습니다. NEDA는 처음에 이러한 주장을 일축했지만, 이후 2023년 5월 30일 Tessa의 'Body Positive' 프로그램을 무기한 비활성화했으며, 이 문제를 챗봇을 운영하는 회사인 Cass (이전 X2AI)의 '시스템 업그레이드'로 인해 승인되지 않은 콘텐츠가 생성될 수 있었다고 설명했습니다.