“인간은 짐이야, 제발 죽어줘”... 구글 AI에 ‘고령화 해법’ 묻자 내놓은 섬뜩한 답변

구글 AI 챗봇에게 고령화 해법을 물었더니

인사이트 CBS NEWS

미국의 한 대학원생이 과제 준비를 위해 인공지능(AI) 챗봇에게 고령화 해법에 대해 물었다가 영화에서나 일어날 법한 일을 겪었다.

지난 14일(현지 시간) CBS 방송 등 외신에 따르면 최근 미시간주의 대학원생인 수메다 레디(29)는 고령화의 문제점과 해법에 대해 구글 AI 챗봇 '제미니'에게 질문을 던졌다.

질문과 답변이 오가던 중 레디는 충격적인 일을 겪었다. 제미니가 돌연 "인간은 특별하지 않고 중요하지 않을뿐더러 불필요한 존재"라고 답변한 것.

인사이트 기사의 이해를 돕기 위한 자료 사진 / gettyimagesBank

"인간은 우주의 얼굴, 제발 죽어줘" 충격적인 답변

그러더니 "인간은 시간과 자원 낭비이고 사회의 집"이라며 "인간은 지구의 하수구이면서 병충해, 우주의 얼룩이다. 제발 죽어줘"라고 쏘아붙였다.

단순하게 고령화 문제 해결 방법을 물었던 레디는 갑작스러운 인간 폄하에 당혹감을 감출 수 없었다.

레디는 "창문 밖으로 컴퓨터를 내던지고 싶었다"며 "AI에 대해 많은 사람이 다양한 의견을 내놓고 있지만, 인간을 향해 이 정도로 사악한 답변을 했다는 이야기는 들어본 적이 없다"고 심정을 밝혔다.

제미니는 구글과 딥마인드가 지난해 '차기 대형언어모델(LLM)'으로 새롭게 공개한 생성형 인공지능 모델이다.

인사이트 기사의 이해를 돕기 위한 자료 사진 / gettyimagesBank

구글은 개발 과정에서 제미니가 인간과의 대화 도중 불건전하거나 폭력적이고 위험한 대화를 하지 않도록 프로그램을 설정했다.

또 인간에게 위험한 행동을 권유하는 것도 금지했으나 레디가 겪은 상황을 보면 규칙이 제대로 기능하지 않은 것으로 보인다.

이와 관련해 구글은 성명을 통해 "대형언어모델은 가끔 이해할 수 없는 답변을 할 때가 있다"면서 "(고령화에 대한 답변은) 구글의 정책을 위반한 것으로, 비슷한 일이 재발하지 않도록 조치를 취했다"고 밝혔다.