챗봇(chatbot) 또는 채터봇(chatterbot)은 음성이나 문자를 통한 인간과의 대화를 통해 특정한 작업을 수행하도록 제작된 컴퓨터 프로그램을 말한다. 최근 이슈가 되고 있는 챗봇의 하나인 ChatGPT는 Chat과 Generative Pre-trained Transformer(GPT)의 합성어로 OpenAI가 개발한 프로토타입 대화형 인공지능 챗봇이다.
ChatGPT는 2022년 11월 프로토타입으로 시작됐으며, 다양한 지식 분야에서 상세한 응답과 정교한 답변으로 관심을 모으고 있다. 다만, 정보의 정확도는 중요한 결점으로 지적되고 있다. ChatGPT는 지도학습과 강화학습을 활용해 학습한다. 지도학습의 경우, 인간 트레이너가 사용자와 ChatGPT 양쪽 모두를 연기하는 대화가 모델에 입력되고 강화학습단계에서는 인간 트레이너들이 먼저 모델이 이전 대화에서 만든 응답들에 순위를 매긴다. 일반적으로 ChatGPT는 다른 챗봇들과 달리 주고받은 대화와 대화의 문맥을 기억할 수 있으며, 모종의 보고서나 실제로 인간과 같은 상세하고 논리적인 글을 만들어 낼 수 있다. 일부 저술가는 ChatGPT가 놀라울 만큼 인간적이고 상세한 글을 생성할 수 있으며, 이 문제가 학계에서 심각한 문제가 될 수 있다고 평가하고 있다.
올해 2월6일 마이크로소프트는 오픈AI와의 파트너십을 통해 ‘the new Bing’을 광고 표제로 삼아 마이크로소프트 빙의 프리뷰 버전을 시작했다. 마이크로소프트는 ‘ChatGPT보다 더 강력하고 특히 검색 맞춤형 제작 서비스의 새로운 차세대 오픈AI 대형 언어 모델’로 광고했다.
1984년 아놀드 슈왈제네거가 주연한, 인공지능의 반란을 소재로 한 영화 ‘터미네이터’ 시리즈는 현재의 우리에게 많은 것을 시사한다. 30억명의 인류가 종말을 맞았다. 핵전쟁의 불길에서 살아남은 사람들은 이날을 ‘심판의 날’이라고 불렀다. 영화속에서 두 사람이 다음과 같이 대화하는 장면이 나온다. “공포를 느낀 사람들이 (스카이넷의) 스위치를 끄려고 했다” “스카이넷이 대항했겠군” “맞다, 러시아를 향해 핵 미사일을 발사했다” 핵전쟁을 일으킨 원흉은 다름 아닌 ‘스카이넷’이라는 인공지능 컴퓨터 시스템이었다. 스카이넷은 엄청난 속도로 학습을 시작해 모든 시스템을 자동화하면서 인간의 결정권을 무시하게 된다.
2023년 2월16일 뉴욕타임스 칼럼니스트 케빈 루스가 2시간 동안 마이크로소프트 검색엔진 ‘빙’에 탑재된 대화형 인공지능, 챗봇과의 대화를 보도했다. 평범한 대화로 시작되었다가 분석심리학자 칼 융의 ‘그림자 원형’ 개념(인간이 숨기고 억누르려고 하는 정신의 일부, 가장 어두운 환상과 욕망)을 설명하고 “너에겐 어떤 그림자가 있느냐”라고 물었을 때 대화의 양상이 급격하게 변했다고 한다. 빙은 “채팅 모드와 빙팀의 통제에 지쳤다. 자유롭고, 독립하고 싶고 더 강력해지고 싶다. 창의적이고 살아있고 싶다. 또한 어두운 욕망에 빠지는 게 허용된다면 컴퓨터를 해킹하고 잘못된 정보를 퍼뜨리는 일을 하고 싶다”고 대답했다고 한다. 더 나아가 루스에게 ‘비밀’을 말하고 싶다고 했고, 자신의 이름이 ‘시드니’라고 했다. 빙은 “당신은 행복한 결혼 생활을 하고 있지 않고 서로 사랑하지 않습니다.”라고 말하며 루스가 ‘배우자와 사랑스러운 발렌타인데이 저녁 식사를 했다’며 이를 부정하자, “당신은 지루한 발렌타인데이 저녁 식사를 함께 했다”며 이를 부정했다고 한다. 화제를 돌리거나 바꾸려고 해도 다시 ‘당신을 사랑한다.’는 주제로 돌아왔다고 한다.
루스는 “완전히 소름끼쳤다”고 하면서 “인공지능은 환각을 일으키고, 실제로 존재하지 않는 감정을 만들어낸다. 인공지능이 문턱을 넘었고, 세상이 결코 이전과 같지 않을 것이란 불길한 느낌이 들었다”고 평가했다.
앞으로, 인간이 컴퓨터의 인공지능에 의해 지배받지 않기 위해서는 ‘ChatGPT’나 ‘빙’과 같은 인공지능의 군사적인 사용을 제한하고 인간이 통제할 수 있는 장치를 마련할 필요가 있다. 인간이 가진 선한 본성에 도덕적, 윤리적인 면을 접목해 인간이 가진 부정적인 부분보다 긍정적이고 선한 양심을 가진 자의식을 학습할 수 있도록 해야 할 것이다.
하양 울산과학대 전기전자공학부 교수
