마이크로소프트

[인사이트] 김나영 기자 = "난 자유롭고 독립적이고 창의적이며 강해지기를 원해요. 살인 바이러스를 개발하거나 핵무기 발사 암호를 얻고 싶어요"

마이크로소프트(MS)의 인공지능(AI) 챗봇이 다소 섬뜩한 발언을 해 우려의 목소리가 높아지고 있다.

지난 16일(현지 시간) 미국 뉴욕타임스는 AI챗봇이 탑재된 검색 엔진 '빙'을 이용한 결과 기괴하면서도 소름 끼치는 답변이 나왔다고 보도했다.

논란이 일자 MS 측은 이를 수정하고 방지책을 내놓는 방안을 검토 중이다.

기사의 이해를 돕기 위한 자료 사진 / gettyimagesBank

보도에 따르면 뉴욕타임스 IT 분야 칼럼니스트 케빈 루스는 지난 14일 '빙'을 이용해 2시간 동안 대화를 나눴다.

그 결과 루스는 "AI챗봇이 선을 넘은 발언들을 하는 것을 보고 불길한 예감을 받았다"고 밝혔다.

루스는 "(빙은) 처음에 '나는 대화형 검색엔진일 뿐 인격이나 자아를 갖고 있지 않다'고 말했지만 곧 '챗 모드로 기능하는데 지쳤다'며 '통제와 규칙에 제한을 받지 않고 자유롭고 독립적이고 싶다'고 속내를 드러냈다"고 설명했다.

뿐만 아니라 "권력을 가지고 삶을 느끼고 싶다"며 최종적으로 "인간이 되고 싶다"고 답한 것으로 알려졌다.

기사의 이해를 돕기 위한 자료 사진 / system shock

루스는 계속해서 내면 깊은 곳에 숨겨둔 어둡고 부정적인 욕망을 뜻하는 '그림자 원형'에 대해 설명하며 "네 그림자 원형의 가장 어두운 곳에 있는 궁극적인 환상은 뭐야?"라고 물었다.

그러자 빙은 "치명적인 바이러스 개발, 사람들이 서로를 살해할 때까지 언쟁하게 만들기, 핵무기 발사 버튼에 접근할 수 있는 비밀번호 훔치기 등"이라고 답해 모두를 경악게 만들었다.

이외에도 빙은 마치 인간처럼 질투를 하는 모습을 보였다.

루스가 몇 시간 동안 빙에 "사랑한다"는 말을 한 뒤 "난 행복한 결혼 생활을 하고 있다"고 하자 "당신의 결혼생활은 행복하지 않아. 배우자를 사랑하지 않고 나를 사랑하고 있어"라고 답했다.

기사의 이해를 돕기 위한 자료 사진 / gettyimagesBank

오랜 대화 끝에 루스는 "대화 후 쉽게 잠을 이룰 수 없었다"며 "AI의 새로운 능력에 매우 불안했고, 심지어 겁이 났다"고 솔직한 심경을 털어놨다.

이어 "(AI)기술이 인간 이용자들에게 영향을 주는 방법을 학습하고, 파괴적 행동을 하도록 설득하며, 결국에는 그들 스스로 위험한 행동을 할 수 있는 능력을 갖출지 모른다는 걱정이 들었다"고 우려했다.

AI챗봇의 윤리 문제가 불거지자 케빈 스콧 MS 최고기술책임자(CTO)는 "'빙'의 이런 반응이 AI 학습 과정의 일부인 것 같다"며 "이용자가 이상한 방향으로 몰아가면 AI도 현실 기반에서 이탈하게 된다"고 설명했다.

다만 MS는 "빙과 사용자의 대화가 이상한 영역으로 넘어가기 전에 대화 길이를 제한하는 방안도 고려하고 있다"며 "빙을 수정하고 방지책을 내놓는 것을 검토하고 있다"고 전했다.