챗GPT 제안으로 만난 석학
벤 자오 美 시카고대 교수
수천마리 고양이 학습하면
한데 섞은 고양이 도출 한계
기업은 디자이너 찾게 돼있어
AI가 사람 업무 대체하는 순간
인간 숙련 기회 빼앗기게 될 것
<편집자주>
인공지능(AI) 바둑 프로그램 '알파고'가 세계적인 프로바둑 기사 이세돌에게 압도적 승리를 거둔 지난 2016년 이후 AI에 대한 관심이 급증했다. 2022년에는 '챗(Chat)GPT'라는 생성형 AI의 등장으로 AI 활용은 일상화가 됐다. 올해는 AI가 노벨과학상을 사실상 휩쓸었다. 이처럼 우리는 AI가 불러온 대전환의 시대에 살고 있다. 파이낸셜뉴스의 기획 취재의 시작점은 여기였다. AI가 인간을 대체하고 있는 시대에 인간이 생각하는 '미래 직업'이 아닌 AI가 스스로가 생각하는 '미래 직업'이 궁금했다. 따라서 기획 기사는 AI에 의뢰해 기획안을 만들었다. AI가 지시한 취재 방식에 따라 추천한 지역을 찾았고 요구한 인터뷰를 진행했다. 기사 작성만 기자가 직접했다. 이번 인터뷰는 AI가 기획 기사로 제시한 세번째 번째 인물이다. AI는 미국 일리노이주 시카고에서 벤 자오 시카고대 컴퓨터 공학과 교수를 만날 것으로 제안했다. 현재 AI가 가진 문제점과 갈수록 드러나는 한계점에 대한 이야기를 들어볼 수 있다고 했다.
!["디자이너 대신 생성형 AI 도입… 제품 질과 비용 절감 모두 지는 게임" [AI, 미래 직업을 바꾸다]](https://image.fnnews.com/resource/media/image/2024/11/03/202411031820403491_l.jpg)
【파이낸셜뉴스 시카고(미국)=강명연 노유정 기자】 챗(Chat)GPT는 미국 일리노이주 시카고에서 벤 자오 시카고대 컴퓨터공학과 교수(사진)를 만날 것을 제안했다. 자오 교수 연구팀은 생성형 인공지능(AI)이 인간 창작자의 저작권과 창의성을 침해하지 못하도록 막는 연구를 하고 있다.
타임지 선정 '2023년 최고의 발명품' 중 하나인 '글레이즈(Glaze)'는 자오 교수 연구팀이 개발한 것이다. 이용자가 사람의 눈에는 거의 보이지 않는 수준의 특수한 노이즈를 게시 작품에 추가해 AI에는 원래의 작품과 다른 외관의 이미지로 인식하도록 하는 방식으로 모방을 방지하는 것이 글레이즈의 원리다.
자오 교수 연구팀은 지난 1월 한 단계 더 발전한 '나이트 셰이드(Nightshade)'를 선보였다. 이미지에 독약을 묻혀 생성형 AI의 이미지 생성체계 자체를 무너뜨리는 방법이다. 나이트 셰이드가 적용된 이미지를 생성형 AI가 학습하면 개를 고양이로, 자동차를 소로 인식하게 되는 등 AI 이미지 인식 등의 작업에 오류가 생긴다.
본지를 만난 자오 교수는 "이미 많은 사람들이 AI 때문에 일자리를 잃었다"며 "일부는 AI가 인간의 업무를 대체해서 그렇지만, 실제 대부분은 그렇지 않다"고 강조했다.
다음은 AI 기술과 직업의 변화를 주제로 한 자오 교수와의 일문일답.
―생성형 AI에 반대하는 입장을 밝혀왔는데.
▲전반적으로 생성형 AI는 필요 없다고 생각한다. 생성형 AI는 글을 작성하고 이미지나 음악을 만들어내는 기술이지만 결과물이 정말 '새로운 것'은 아니다. 고양이 그림들을 주고 학습시키면 그 그림들을 한데 섞어 '약간 달라 보이는' 고양이 그림을 내놓는 식이다.
―하지만 어떤 방식으로 작동하든 생성형 AI가 결과물을 낸다면 기업에선 충분히 이용할 수 있을 것 같은데.
▲대부분은 AI가 일자리를 대체해서가 아니라 기업이 AI의 한계를 제대로 이해하지 못해서 대량해고가 발생한다. 예를 들어 한 회사에서 원래 고용했던 20명의 아티스트 가운데 19명을 해고하고 AI를 활용하는 경우가 생기고 있다. 하지만 AI는 인간처럼 지시를 이해하고 일하지 못한다. 그래서 결과적으로 남은 아티스트 1명이 20명분의 일을 해야 하는 상황이 된다.
―생성형 AI 기술이 더욱 발전하면 문제가 해결되지 않을까.
▲생성형 AI의 본질적인 원리를 생각하면 쉽지 않다. 생성형 AI는 데이터를 그대로 외우고, 모방해서 결과를 낸다. 인간처럼 의미를 이해하고 결과를 도출하는 것이 아니다. 예컨대 '1+2'의 답이 무엇인지 물어보면 생성형 AI는 '1+2=3'으로 표시한 수많은 데이터를 그대로 학습했기 때문에 '1+2' 뒤에 '=3'을 넣어야 한다고 판단한다. 반면 인간은 '1' 또는 '2'라는 숫자의 개념과 '+'라는 사칙연산의 의미를 이해해 '3'이라는 결론에 도달한다. 그림도 마찬가지다. 생성형 AI가 만들어낸 그림은 수많은 '그림'이라는 데이터를 조합한 결과물이라고 할 수 있다. 생각을 표현하는 도구로써의 인간의 그림과 차이가 날 수밖에 없다. 그런 '데이터 조합'이 만들어낸 '그림'은 인간이 보기에 어색하거나 불편한 부분이 있을 수밖에 없다. 이는 생성형 AI의 작동원리를 생각하면 시간이 흘러도 해결되기는 어려워 보인다.
―생성형 AI가 이미 많이 쓰이고 있는데 이런 상황이 계속되면 어떻게 될까.
▲많은 기업이 이미 생성형 AI를 도입했고, 디자이너들을 해고했다. 이들은 시간이 지나 제품의 질이 나빠졌다는 것을 깨닫고 다시 디자이너를 고용했다. 결국 비용이 절감되지 않은 것이다.
동시에 AI를 이용한 회사가 단기적으로 비용을 낮추면서 경쟁업체들도 버티지 못하고 망했다. 모두가 지는 게임이다. 실제로 생성형 AI를 개발하는 회사들도 망해가고 있다. 대용량 컴퓨터, 빅데이터 센터를 유지하는 데 많은 비용이 들어서다. 스태빌리티 AI(Stability AI)는 이미지를 생성하는 AI를 처음 만든 스타트업이고, 그 분야에서 가장 큰 회사인데도 거의 파산 직전이다. 또 전력이나 냉각수 등의 자원도 필요하다. 누군가 생성형 AI에 질문을 하나 할 때마다 환경에 영향을 미친다.
―생성형 AI가 아닌 다른 AI는 인간 일자리에 얼마나 영향을 미칠까.
▲AI를 탑재한 차량은 1㎞ 전방에 있는 보행자를 인식해 서행할 수 있고, 의사들은 AI를 이용하면 엑스레이 사진만 보고 암이라는 것을 진단할 수 있다. AI는 세탁기처럼 인간이 원치 않는 일을 대신 해줄 것이다. 지금 당장은 AI가 인간의 업무를 대체하는 것처럼 보이지만, 장기적으로는 한계가 드러날 것이다. 법률적 상담이나 간단한 회계 처리 같은 일들은 AI로 충분히 할 수 있다.
하지만 복잡하고 중요한 법률적 판단이나 회계 분석은 AI가 처리하기에는 아직 부족하다. 문제는 이런 업무는 경험을 통해 숙련되는 부분이 많다는 점이다. 변호사들은 처음 일을 배울 때 법률 보조 업무를 하는데 AI가 일을 대신하면 경험을 쌓을 기회를 잃게 된다. 나중에 정식 변호사가 돼도 실무에 필요한 경험이 부족한 상태로 일하게 될 수 있다.
*본 기획물은 정부광고 수수료로 조성된 언론진흥기금의 지원을 받았습니다.
yesyj@fnnews.com 노유정 기자
타임지 선정 '2023년 최고의 발명품' 중 하나인 '글레이즈(Glaze)'는 자오 교수 연구팀이 개발한 것이다. 이용자가 사람의 눈에는 거의 보이지 않는 수준의 특수한 노이즈를 게시 작품에 추가해 AI에는 원래의 작품과 다른 외관의 이미지로 인식하도록 하는 방식으로 모방을 방지하는 것이 글레이즈의 원리다.
자오 교수 연구팀은 지난 1월 한 단계 더 발전한 '나이트 셰이드(Nightshade)'를 선보였다. 이미지에 독약을 묻혀 생성형 AI의 이미지 생성체계 자체를 무너뜨리는 방법이다. 나이트 셰이드가 적용된 이미지를 생성형 AI가 학습하면 개를 고양이로, 자동차를 소로 인식하게 되는 등 AI 이미지 인식 등의 작업에 오류가 생긴다.
본지를 만난 자오 교수는 "이미 많은 사람들이 AI 때문에 일자리를 잃었다"며 "일부는 AI가 인간의 업무를 대체해서 그렇지만, 실제 대부분은 그렇지 않다"고 강조했다.
다음은 AI 기술과 직업의 변화를 주제로 한 자오 교수와의 일문일답.
―생성형 AI에 반대하는 입장을 밝혀왔는데.
▲전반적으로 생성형 AI는 필요 없다고 생각한다. 생성형 AI는 글을 작성하고 이미지나 음악을 만들어내는 기술이지만 결과물이 정말 '새로운 것'은 아니다. 고양이 그림들을 주고 학습시키면 그 그림들을 한데 섞어 '약간 달라 보이는' 고양이 그림을 내놓는 식이다.
―하지만 어떤 방식으로 작동하든 생성형 AI가 결과물을 낸다면 기업에선 충분히 이용할 수 있을 것 같은데.
▲대부분은 AI가 일자리를 대체해서가 아니라 기업이 AI의 한계를 제대로 이해하지 못해서 대량해고가 발생한다. 예를 들어 한 회사에서 원래 고용했던 20명의 아티스트 가운데 19명을 해고하고 AI를 활용하는 경우가 생기고 있다. 하지만 AI는 인간처럼 지시를 이해하고 일하지 못한다. 그래서 결과적으로 남은 아티스트 1명이 20명분의 일을 해야 하는 상황이 된다.
―생성형 AI 기술이 더욱 발전하면 문제가 해결되지 않을까.
▲생성형 AI의 본질적인 원리를 생각하면 쉽지 않다. 생성형 AI는 데이터를 그대로 외우고, 모방해서 결과를 낸다. 인간처럼 의미를 이해하고 결과를 도출하는 것이 아니다. 예컨대 '1+2'의 답이 무엇인지 물어보면 생성형 AI는 '1+2=3'으로 표시한 수많은 데이터를 그대로 학습했기 때문에 '1+2' 뒤에 '=3'을 넣어야 한다고 판단한다. 반면 인간은 '1' 또는 '2'라는 숫자의 개념과 '+'라는 사칙연산의 의미를 이해해 '3'이라는 결론에 도달한다. 그림도 마찬가지다. 생성형 AI가 만들어낸 그림은 수많은 '그림'이라는 데이터를 조합한 결과물이라고 할 수 있다. 생각을 표현하는 도구로써의 인간의 그림과 차이가 날 수밖에 없다. 그런 '데이터 조합'이 만들어낸 '그림'은 인간이 보기에 어색하거나 불편한 부분이 있을 수밖에 없다. 이는 생성형 AI의 작동원리를 생각하면 시간이 흘러도 해결되기는 어려워 보인다.
―생성형 AI가 이미 많이 쓰이고 있는데 이런 상황이 계속되면 어떻게 될까.
▲많은 기업이 이미 생성형 AI를 도입했고, 디자이너들을 해고했다. 이들은 시간이 지나 제품의 질이 나빠졌다는 것을 깨닫고 다시 디자이너를 고용했다. 결국 비용이 절감되지 않은 것이다.
동시에 AI를 이용한 회사가 단기적으로 비용을 낮추면서 경쟁업체들도 버티지 못하고 망했다. 모두가 지는 게임이다. 실제로 생성형 AI를 개발하는 회사들도 망해가고 있다. 대용량 컴퓨터, 빅데이터 센터를 유지하는 데 많은 비용이 들어서다. 스태빌리티 AI(Stability AI)는 이미지를 생성하는 AI를 처음 만든 스타트업이고, 그 분야에서 가장 큰 회사인데도 거의 파산 직전이다. 또 전력이나 냉각수 등의 자원도 필요하다. 누군가 생성형 AI에 질문을 하나 할 때마다 환경에 영향을 미친다.
―생성형 AI가 아닌 다른 AI는 인간 일자리에 얼마나 영향을 미칠까.
▲AI를 탑재한 차량은 1㎞ 전방에 있는 보행자를 인식해 서행할 수 있고, 의사들은 AI를 이용하면 엑스레이 사진만 보고 암이라는 것을 진단할 수 있다. AI는 세탁기처럼 인간이 원치 않는 일을 대신 해줄 것이다. 지금 당장은 AI가 인간의 업무를 대체하는 것처럼 보이지만, 장기적으로는 한계가 드러날 것이다. 법률적 상담이나 간단한 회계 처리 같은 일들은 AI로 충분히 할 수 있다.
하지만 복잡하고 중요한 법률적 판단이나 회계 분석은 AI가 처리하기에는 아직 부족하다. 문제는 이런 업무는 경험을 통해 숙련되는 부분이 많다는 점이다. 변호사들은 처음 일을 배울 때 법률 보조 업무를 하는데 AI가 일을 대신하면 경험을 쌓을 기회를 잃게 된다. 나중에 정식 변호사가 돼도 실무에 필요한 경험이 부족한 상태로 일하게 될 수 있다.
*본 기획물은 정부광고 수수료로 조성된 언론진흥기금의 지원을 받았습니다.
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지