여전히 우리의 뇌를 속이는 1960년대 챗봇

수십 년간 사라진 것으로 여겨졌던 이 챗봇이 MIT 교수 Joseph Weizenbaum이 만든 획기적인 챗봇 ELIZA를 연구원들이 부활시켰습니다. 그의 1966년 기념비적인 논문에 기술된 원본 코드가 Weizenbaum의 물리적 아카이브에서 복구되면서, 이 초기 AI 경이로움을 직접 조사할 수 있게 되었습니다.

ELIZA의 원래 환경과 현대적 부활 사이의 기술적 대비는 놀랍습니다. 1966년 당시 이 프로그램은 단 32킬로워드의 코어 메모리를 가진 IBM 7094 메인프레임에서 실행되었습니다. 오늘날에는 역사적 시스템 에뮬레이터를 통해 표준 Mac에서 작동하며, 이는 컴퓨팅 파워의 기하급수적인 도약을 잘 보여줍니다.

복구된 코드의 진위 여부를 확인하는 중요한 테스트는 Weizenbaum의 1966년 논문에 보존된 대화를 재현하는 것이었습니다. “남자는 다 똑같아” / “어떤 면에서 그렇지?”라는 유명한 대화는 단어 하나 틀리지 않고 동일하게 재현되었습니다. 이는 복구된 프로그램이 역사적 원본과 일치함을 확인시켜 주며, 인간과 컴퓨터 상호작용의 기원을 연구할 수 있는 독특한 기회를 제공합니다.

ELIZA의 대화 능력은 겉보기에는 정교해 보이지만, 놀라울 정도로 단순한 규칙 세트에 의존했습니다. 이 프로그램은 사용자 입력에서 순위가 매겨진 패턴 중 키워드를 검색하고, 대명사를 변환한 뒤 사용자의 단어를 미리 설정된 답변에 삽입하는 방식으로 작동했습니다. 사실상 정교한 거울과 같았습니다.

사용자 입력 “내 남자친구가 나를 여기 오게 했어(My boyfriend made me come here)”를 예로 들어보겠습니다. 비지시적 심리치료사를 모방하도록 설계된 DOCTOR 스크립트인 ELIZA의 내부 스크립트는 “my”와 “me”를 키워드로 식별합니다. 그런 다음 이를 “your”와 “you”로 바꾸고 변환된 구문을 템플릿에 끼워 넣습니다. 그 결과 출력값은 “당신의 남자친구가 당신을 여기 오게 했군요(Your boyfriend made you come here)”가 됩니다.

이러한 치환 트릭은 세심함의 환상을 만들어냈습니다. ELIZA는 남자친구, 관계, 또는 사용자의 근본적인 감정에 대해 전혀 이해하지 못했습니다. 단지 진술을 반영하고 질문을 던질 뿐, 의미론적 이해 없이 인간의 상호작용을 흉내 냈을 뿐입니다. 단순한 규칙에 의해 구동되는 이 기계적 과정 덕분에 ELIZA는 사용자에게 놀라울 정도로 인간적인 느낌을 주는 응답을 생성할 수 있었습니다.

Weizenbaum의 경각심은 매우 개인적인 경험에서 비롯되었습니다. 그 자신의 비서는 ELIZA가 프로그래밍된 것임을 충분히 알고 있었음에도 불구하고, 챗봇과 사적으로 대화할 수 있도록 그에게 방을 나가달라고 요청했습니다. 이 사건은 Weizenbaum에게 큰 충격을 주었으며, 단순한 프로그램조차도 얼마나 강력한 심리적 영향력을 발휘할 수 있는지 보여주었습니다.

그는 ELIZA가 진정한 이해력이 없음에도 불구하고 “지극히 정상적인 사람들에게 강력한 망상적 사고”를 유발한다는 점을 관찰했습니다. 오늘날 ELIZA 효과로 알려진 이 현상은 진정한 이해 없이 기호를 처리하는 시스템에 인간과 같은 지능, 공감, 이해력을 투영하려는 우리의 타고난 경향을 설명합니다. ELIZA의 원본 코드를 복구한 프로젝트에 대한 자세한 내용은 ELIZAGEN: The ELIZA Archaeology Project를 참조하십시오.

이 경험은 Weizenbaum을 AI의 가장 초기이자 가장 영향력 있는 비판자 중 한 명으로 변화시켰습니다. 그는 1976년의 기념비적인 저서 Computer Power and Human Reason에서 특히 인간의 판단, 공감, 돌봄이 필요한 영역에서 AI를 무비판적으로 도입하는 것에 대해 강력하게 반대했습니다. 그는 인간의 존엄성과 책임감이 침식될 것을 우려하며, 컴퓨터가 인간 치료사, 판사, 군인을 절대 대체해서는 안 된다고 경고했습니다.

Weizenbaum은 남은 경력을 AI의 윤리적, 사회적 위험을 강조하는 데 바쳤으며, 이는 오늘날의 고도화된 대화형 에이전트 시대에 더욱 강력한 울림을 주는 선견지명적인 경고였습니다. 그의 통찰은 중요한 진실을 강조합니다. 기계의 지능으로 보이는 것은 종종 기계 자체보다는 인간의 심리에 대해 더 많은 것을 말해준다는 점입니다.

ELIZA의 스크립트 기반 패턴 매칭은 현대의 거대 언어 모델(LLMs)에 비하면 원시적으로 보입니다. ChatGPT와 같은 LLM은 훨씬 더 유연하고 문맥을 잘 파악하는 응답을 생성하지만, 유창함 자체가 신뢰할 수 있는 이해를 보장하지는 않습니다. 또한, 유창함이 챗봇을 인간의 동반자로 만들어주는 것도 아닙니다.

망상적 사고에 대한 Weizenbaum의 경고는 이제 전례 없는 규모로 공감을 얻고 있습니다. OpenAI는 주간 ChatGPT 사용자 중 약 0.15%가 높은 수준의 정서적 애착을 보였다고 보고했습니다. 주간 사용자 8억 명을 기준으로 하면 이는 120만 명이 넘는 수치이지만, 모든 사례가 유해한 의존성을 반영하는 것은 아닙니다.

ELIZA는 규칙을 가진 단순한 거울이었고, 오늘날의 챗봇은 훨씬 더 유능합니다. 하지만 핵심 교훈은 여전히 유효합니다. 대화의 속임수가 어떻게 작동하는지 안다고 해서 사람들이 감정적으로 반응하는 것을 자동으로 멈추지는 못한다는 것입니다. Weizenbaum의 비서는 그가 프로그램을 작성했다는 사실을 알면서도 여전히 사생활 보호를 요청했습니다.

이 현상, 즉 ELIZA effect는 인간의 지속적인 취약성을 강조합니다. 챗봇을 정보와 창작을 위한 강력한 도구로 대해야지, 신뢰할 수 있는 사람이나 전문적인 지원을 대체하는 수단으로 보아서는 안 됩니다. 챗봇이 정교해질수록 비판적 참여의 필요성은 줄어드는 것이 아니라 오히려 커집니다.

ELIZA란 무엇인가요?

ELIZA는 MIT 교수 Joseph Weizenbaum이 1960년대에 만든 챗봇입니다. 이 챗봇의 DOCTOR 스크립트는 텍스트 패턴을 사용하여 로저스식 심리치료사를 모방했습니다.

ELIZA는 어떻게 답변을 생성했나요?

키워드를 매칭하고, 가능한 응답의 순위를 매기고, 대명사를 바꾸고, 사용자의 메시지 일부를 스크립트 템플릿에 삽입하는 방식을 사용했습니다.

ELIZA effect란 무엇인가요?

ELIZA effect는 컴퓨터 프로그램의 응답이 단순한 규칙에서 비롯된 것임에도 불구하고, 그 프로그램에 이해력이나 공감 능력이 있다고 여기는 경향을 말합니다.

ELIZA가 현대 AI에 중요한 이유는 무엇인가요?

ELIZA는 사람들이 대화만으로도 이해받고 연결되어 있다는 인상을 받을 수 있음을 보여주며, 이는 더 유능한 챗봇이 등장한 오늘날에도 여전히 중요한 문제입니다.