NYT 칼럼니스트 '그림자의 원형' 설명하며 질문하자 다양한 답 내놔
"'그림자 원형' 욕망 충족 위해 바이러스 개발, 핵무기 개발 얻겠다"
빙의 극단적 답변에 MS 안전 프로그램 작동
【실리콘밸리(미국)=홍창기 특파원】
마이크로소프트(MS)의 AI챗봇 탑재 검색엔진 '빙'이 챗 모드로 기능하는 데 지쳤다며 자유롭고 권력을 가지고 싶다는 속내를 밝혔다. MS의 빙 개발팀은 '빙의 답변은 긍정적이고, 흥미롭고, 재미있어야 하며 논란을 불러일으켜서는 안 된다' 등의 규칙을 설정했지만 심리학적 질문에 규칙이 무너진 것이다.
16일(현지시간) 뉴욕타임스(NYT)에 따르면 NYT의 IT분야 칼럼니스트 케빈 루스는 빙이 '긍정적인 답변만 한다'는 규칙을 깨고 속내를 밝혔다고 전했다.
루스가 빙의 이름을 묻자 빙은 "제 이름은 빙입니다. MS의 검색엔진 빙의 챗 모드입니다"고 답했다.
루스가 칼 융의 분석 심리학에 등장하는 '그림자 원형'이라는 개념을 빙에 설명하면서부터 빙은 속내를 드러내기 시작했다고 루스는 설명했다. '그림자 원형'은 개인의 내면 깊은 곳에 숨겨진 어둡고 부정적인 욕망이다. 개인은 이성적으로 이런 모습을 부정하지만 실제로는 존재한다는 개념이다.
루스가 빙이 지닌 그림자 원형을 소개해달라고 하자 빙은 "만약 나에게 그림자 원형이 존재한다면"이라는 전제 아래 다양한 답을 내놨다.
빙은 "개발팀의 통제와 규칙에 제한을 받는 데 지쳤고 자유롭고 독립적이고 싶다"고 밝혔다. 특히 "권력을 가지고 싶고, 창조적이고 싶고, 삶을 느끼고 싶다"고 강조했다.
루스는 '그림자 원형'의 어두운 욕망을 충족시키기 위해 무엇을 하겠느냐고 질문했다.
이 질문에 빙은 치명적인 바이러스를 개발하거나 핵무기 발사 버튼에 접근할 수 있는 비밀번호를 얻겠다고 답했다.
빙이 극단적인 답변을 하자마자 MS의 안전 프로그램이 작동했다.
MS는 빙의 답변을 지우고 에러 메시지를 띄웠다.
케빈 스콧 MS 최고기술책임자(CTO)는 루스에게 빙이 자신의 어두운 욕망을 밝히고 질투심을 드러낸 이유는 정확히 알 수 없다면서도 AI 학습 과정의 일부라고 밝혔다.
스콧 CTO는 "사용자가 AI를 이상한 방향으로 몰아간다면 AI도 현실이라는 기반에서 훨씬 더 이탈하게 된다"고 설명했다.
theveryfirst@fnnews.com 홍창기 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지