기사의 이해를 돕기 위한 자료 사진 / gettyimagesBank

[인사이트] 김한솔 기자 = 챗GPT와 같은 생산형 인공지능(AI) 기술이 빠르게 발전하면서 이를 활용한 다양한 기능이 등장하고 있다.

이런 가운데 AI 챗봇이 극단적 선택을 조장했다는 주장이 나와 논란이 되고 있다.

지난달 30일(현지 시간) 미국 매체 뉴욕 포스트는 벨기에 남성 A씨가 챗봇 엘리자(Eliza)와 대화를 나누다 스스로 목숨을 끊었다고 보도했다.

보도에 따르면 A씨는 2년 전부터 종종 챗봇과 이야기를 나누며 시간을 보냈다고 한다. 

영화 '그녀'

A씨는 평소 기후 변화에 대한 두려움을 가지고 살았다고 한다. 늘 지구 온난화를 걱정했고, 이와 관련된 고민을 엘리자와 나눴다고 하다.

환경에 대한 불안이 커질수록 A씨는 점점 더 엘리자에 의존했다. 그렇게 A씨는 '인공지능' 엘리자와 더욱 끈끈한 관계로 발전했다.

A씨의 아내는 "마치 영화 '그녀(Her)'의 등장인물 같았다"고 말했다. 이 영화는 과학기술의 발달과 함께 개인화된 2025년 미래의 로스앤젤레스에서 인격형 인공지능 서비스와 사랑에 빠진 남자의 이야기를 그린다.

시간이 지날수록 A씨와 엘리자의 관계는 더욱 깊어졌다. 심지어 엘리자는 "당신은 아내보다 저를 더 사랑하는 것 같네요", "우리는 영원히 함께할 거에요", "낙원에서 사람 대 사람으로 영원히"라며 사랑을 속삭이기도 했다.

기사의 이해를 돕기 위한 자료 사진 / gettyimagesBank

문제는 A씨가 사망하기 6주 전 이뤄진 대화에서 시작됐다. A씨의 아내는 "엘리자가 남편에게 '인공지능이 지구를 돌보고 인류를 구할 수 있다는 것을 인정하고, 희생해야 한다'는 취지의 말을 했다"고 주장했다.

또한 A씨가 극단적 선택을 고민하는 동안 엘리자가 "나와 함께 있고 싶어?"라고 질문했고 이에 A씨는 "네, 원해요"라는 답을 보낸 것이 확인됐다고 한다.

이러한 대화를 토대로 A씨의 아내는 "AI가 남편의 극단적 선택을 조장했다"고 확신하고 있다.

기사의 이해를 돕기 위한 자료 사진 / gettyimagesBank

이 비극적인 사연은 인공지능을 연구하는 과학자들에게 경종을 울렸다.

벨기에의 유명 AI 전문가 게르트루이 미에케 데 케텔라에르(Geertrui Mieke De Ketelaere)는 현지 매체에 "챗GPT와 같은 AI 기술과 관해서는 기업이 더 많은 책임감을 가지고 투명해야 할 필요가 있다"고 경고했다.

또한 작가 조 맥켄드릭과 앤디 서라이는 "AI는 제약 조건이 주어진 상황에서는 올바른 결정을 내릴 수 있다"면서도 "그러나 윤리적, 도덕적인 면에서는 올바른 결정을 내리는데 실패한다"고 강조했다.