'어떤 위험이 도사리고 있다': 최초의 챗봇 발명가가 AI에 반대한 이유

May 30, 2023

컴퓨터 과학자인 Joseph Weizenbaum은 인공 지능의 여명기에 있었습니다. 하지만 그는 컴퓨터와 인간을 결코 혼동해서는 안 된다고 단호하게 주장했습니다.

1966년에 Joseph Weizenbaum이라는 MIT 교수가 최초의 챗봇을 만들었습니다. 심리치료사 역할에 캐스팅됐다. 사용자는 메인프레임에 연결된 전자 타자기에 메시지를 입력합니다. 잠시 후 '심리치료사'가 대답했습니다.

User: 남자들은 다 비슷해요.Chatbot: 어떤 방식으로User: 그들은 항상 뭔가에 대해 우리를 괴롭히죠.Chatbot: 구체적인 예를 생각해 보세요.User: 글쎄요, 제 남자친구가 저를 여기로 오게 했어요.Chatbot: 당신의 남자친구가 당신을 오게 했어요 HERE사용자: 제가 자주 우울하다고 하더군요.챗봇: 당신이 우울하다는 소식을 들으니 안타깝습니다.

Weizenbaum은 챗봇의 작동 방식을 설명하는 저널 기사에 이 샘플 교환을 게시했습니다. 소프트웨어는 비교적 간단했습니다. 사용자 입력을 살펴보고 그럴듯한 응답을 생성하기 위해 일련의 규칙을 적용했습니다. 그는 Pygmalion의 Eliza Doolittle의 이름을 따서 프로그램을 Eliza라고 불렀습니다. 조지 버나드 쇼(George Bernard Shaw)의 희곡에 등장하는 코크니 꽃 파는 아가씨는 환상을 만들기 위해 언어를 사용합니다. 그녀는 자신의 말투를 공작부인으로 여길 수 있을 정도로 끌어올립니다. 마찬가지로 엘리자는 타자기 앞에 앉아 있는 사람의 말을 이해했다는 착각을 불러일으키는 방식으로 말하곤 했습니다.

Weizenbaum은 "일부 주제에서는 Eliza(현재 대본으로)가 인간이 아니라는 것을 확신하기가 매우 어려웠습니다."라고 썼습니다. 다음 해에 나온 후속 기사에서 그는 좀 더 구체적으로 말했습니다. 어느 날 그의 비서가 엘리자와 함께 시간을 보내자고 요청했다고 말했습니다. 잠시 후 그녀는 Weizenbaum에게 방을 나가라고 요청했습니다. “저는 이 일화가 프로그램이 이해의 환상을 유지하는 데 성공했음을 입증한다고 믿습니다.”라고 그는 말했습니다.

엘리자는 정확히 모호하지 않습니다. 보스턴 글로브(Boston Globe)는 기자를 보내 타자기 앞에 앉아 대화 내용을 발췌하게 했고, 이는 당시 큰 화제를 불러일으켰으며, 컴퓨팅 역사상 가장 잘 알려진 발전 중 하나로 남아 있습니다. 최근에는 ChatGPT가 출시되면서 이에 대한 관심이 다시 높아졌습니다. 작년에 Eliza는 Guardian, New York Times, Atlantic 및 기타 지역에서 언급되었습니다. 60년 가까이 된 소프트웨어를 아직도 사람들이 생각하는 이유는 그 당시의 기준으로 보아도 그다지 정교하지 않았던 기술적 측면과는 아무런 관련이 없습니다. 오히려 Eliza는 우리가 컴퓨터와 관계하는 방식에 큰 영향을 미치는 인간 정신의 메커니즘을 조명했습니다.

경력 초기에 지그문트 프로이트는 그의 환자들이 계속해서 자신과 사랑에 빠지는 것을 발견했습니다. 그가 유난히 매력적이거나 잘생겼기 때문이 아니라고 그는 결론지었다. 대신에 더 흥미로운 일이 일어나고 있었습니다. 바로 전이였습니다. 간단히 말해서, 전이는 과거의 누군가에 대한 감정을 현재의 누군가에게 투사하는 경향을 말합니다. 그것은 정신분석학에서 증폭되면서도 모든 관계의 특징이다. 우리가 다른 사람들과 상호작용할 때, 우리는 항상 한 무리의 유령들을 만남에 데려옵니다. 우리의 초기 삶의 잔여물, 그리고 무엇보다도 어린 시절은 우리가 서로를 볼 수 있는 화면입니다.

이 개념은 Eliza에 대한 사람들의 반응을 이해하는 데 도움이 됩니다. Weizenbaum은 사람들이 소프트웨어에 이해, 공감 및 기타 인간 특성을 부여하는 전이의 컴퓨터 버전을 우연히 발견했습니다. 그는 자신이 그 용어를 사용한 적이 없지만 "엘리자 효과"라고 ​​불리는 것을 어떻게 해석했는지 명확하게 알려주는 정신분석학의 오랜 역사를 가지고 있습니다.

컴퓨터의 성능이 향상됨에 따라 엘리자 효과는 더욱 강력해졌습니다. 많은 사람들이 ChatGPT와 관련되는 방식을 생각해 보세요. 챗봇 내부에는 일련의 문자, 단어 또는 문장의 다음 문자열을 예측하도록 훈련된 수학 시스템인 "대형 언어 모델"이 있습니다. ChatGPT를 구별하는 것은 그 기반이 되는 대규모 언어 모델의 복잡성뿐만 아니라 으스스한 대화 음성입니다. Meta의 데이터 과학자인 Colin Fraser가 말했듯이 이 애플리케이션은 "당신이 실제로 거기에 없는 사람과 이야기하고 있다고 생각하도록 속이기 위해 설계되었습니다".