제임스 렌데이 스탠퍼드대학교 교수 겸 AI연구소 이사
AI가 바꿀 금융산업의 미래
재무분석 등 특정 직종 업무 보완 가능
자산변동 흐름 분석해 포트폴리오 조정 등
금융정보 이해하는 데 도움 주는 단계
트레이딩 분야서 신뢰 얻으려면 시간 필요
오류 대비할 수 있게 최종 결정은 인간 몫
인간중심의 AI, 공존을 말하다
인간과 사회에 긍정적 영향 미쳐야
법·윤리교육 바탕 엄격한 규제 필요
딥페이크 같은 악의적 행동 차단이 핵심
기술 활용 기업 침해로 이어져선 안돼
!["5년 안에 AI 대전환기 대응 못한 금융사들 도태 위기에 처할 것"[미리보는 2025 FIND]](https://image.fnnews.com/resource/media/image/2025/04/14/202504141818262693_l.jpg)
AI 석학 스탠퍼드대학교 제임스 렌데이 컴퓨터과학과 교수(AI연구소 상임이사)는 14일 서면 인터뷰에서 이같이 경고하고, 가속화되는 AI 시대에 한국 금융사들이 대비할 것을 주문했다.
렌데이 교수는 파이낸셜뉴스 주최로 오는 23일 서울 여의도 페어몬트 앰배서더 호텔에서 열리는 '2025 FIND·26회 서울국제금융포럼'에 기조연설자로 나설 예정이다.
특히 렌데이 교수는 "금융업 분야의 많은 지원 직무가 AI 시스템으로 쉽게 보완될 수 있다"면서 "앞으로는 AI가 자산변동 흐름을 파악해 금융사의 포트폴리오를 조정하거나 고객 여신을 관리하면서 리스크를 줄이는 경영적 의사결정에도 도움을 줄 것"이라고 내다봤다. 다만 그는 "AI가 트레이딩 분야, 응용 분야에서 여전히 범할 수 있는 위험이나 오류를 고려해서 최종 결정은 '인간'이 내려야 한다"고 강조했다.
렌데이 교수는 AI가 금융산업을 포함한 경제와 노동과 일자리 구조 등 사회 전체를 재편할 것으로 예측했다. 이에 사람들은 AI 시대에 대비해야 할 뿐만 아니라 정부도 AI로 인한 일자리 구조 재편에 대비하면서 AI 발전으로 인한 과실이 사회 전반에 공유될 수 있도록 법과 제도 설계에 나서야 한다고 조언했다.
렌데이 교수는 AI가 인간과 사회에 긍정적인 영향을 미치도록 설계하는 '인간 중심 AI'를 연구하는 세계적인 학자로, 스탠퍼드대에 인간중심 AI연구소(HAI)를 만든 창립멤버이며, 현재는 상임이사로 활약하고 있다. 그는 인간중심 AI 시스템을 △사용자 △커뮤니티 △사회라는 세 가지 집단을 결합하도록 설계하는 한편 AI로 인한 부작용을 막기 위해 윤리 교육과 법 등 '규제'가 필요하다고 역설했다. 다음은 렌데이 교수와의 일문일답.
―인간 중심 AI가 무엇인가.
▲인간 중심 AI는 AI 시스템과 앱을 사람과 사회에 긍정적인 영향을 미칠 수 있도록 설계하는 새로운 방법론이다. 이는 설계자, 개발자가 설계하는 AI 시스템이 사용자 요구뿐만 아니라 사용자 주변의 커뮤니티와 더 넓은 사회에 미치는 영향까지 고려해야 한다는 것이다.
AI 시스템이 현재 사용되는 앱보다 더 큰 영향을 미친다는 사실을 깨닫고 인간중심 AI 시스템을 구축해야 한다는 아이디어를 갖게 됐다. 예를 들어 AI 앱은 사용자가 아닌 더 넓은 공동체에 대한 결정을 내리는 데 사용된다. 이 AI 시스템이 성공적이면 사회적인 차원에도 영향을 미칠 수 있다.
중요한 것은 인간 중심 AI를 설계할 때 사용자, 커뮤니티, 사회라는 세 가지 집단을 분석해 결합하는 것이다. 하지만 과학자들은 아직 커뮤니티와 사회 차원에서 이 같은 역량을 갖추지 못했다. 이에 프로젝트 초기에는 기술자뿐만 아니라 인문학자, 사회과학자, 각 분야의 전문가를 포함한 '학제 간' 팀을 구성해서 인간 중심 AI 시스템을 설계해야 한다.
―인간중심 AI가 생산성을 높인다고 생각하나.
▲인간 중심 AI는 인간이 잘하는 부분을 더 잘 지원하고, AI가 잘하는 부분을 보완하도록 설계 및 구축된 시스템과 앱을 통해 생산성을 높일 수 있다. 아직 AI가 생산성을 높인다는 통계가 등장하기에는 이르다. 하지만 AI가 적용된 콜센터가 상담원의 역량을 강화하거나 소프트웨어 엔지니어 역량을 강화하는 연구에서는 이미 생산성 향상을 우리가 목격하고 있다.
―AI가 금융업 미래를 어떻게 바꿀까.
▲금융 분야의 많은 지원 직무가 AI 시스템으로 쉽게 보완될 수 있다. AI는 금융 분야 보고서를 작성하면서 수많은 금융정보를 이해하는 데 도움을 주고, 재무분석 등 특정 직종의 업무를 보완하고 있다. 다만 AI가 일상적인 거래나 트레이딩에 활용될 때 거대언어모델(LLM) 기반 AI 시스템은 여전히 수치 데이터나 논리 정확성을 확보하는 데 어려움을 겪는 등 문제점이 있다. 이에 트레이딩 분야에서는 AI 시스템이 값비싼 실수를 저지를 수 있다는 점에서 위험할 수 있어 AI 기술을 신뢰하기 위해서는 훨씬 더 많은 발전이 필요하다.
또 앞으로는 AI가 자산변동 흐름을 분석해 금융사의 투자 포트폴리오를 조정하거나 고객여신을 관리하면서 리스크를 줄이는 경영적인 의사 결정에도 도움을 줄 것이다. 하지만 AI 기반 시스템이 초래할 수 있는 실수 때문에 AI 시스템이 인간적 요소를 포함하는 것이 중요하다. AI 시스템이 응용 분야에서 여전히 범할 수 있는 오류를 고려해서 최종 분석과 결정을 내리는 것은 인간이어야 한다.
―인간 중심 AI로 인간과 AI의 공존이 가능한가, 아니면 더 엄격하고 강력한 AI 규제가 필요한가.
▲인간 중심 AI 방법론만으로는 AI로 인해 발생할 수 있는 모든 문제나 우리가 이미 겪고 있는 문제도 피할 수 없다. 즉, 인간 중심의 AI 시스템 설계 외에도 윤리 교육과 법과 규제도 필요하다.
우선 AI 시스템 개발 인력을 효과적으로 교육하기 위한 윤리와 윤리 메커니즘이 필요하다. 스탠퍼드대는 자체 윤리 프로그램으로 개발 인력을 교육하고 있다. 이 프로그램은 20개 이상의 학부 컴퓨터 과학 과정에서 학생들이 배우는 내용에 윤리적 교훈을 포함시키는 것이다. 스탠퍼드대의 윤리 및 사회 검토 프로세스(ESR)는 HAI(인간중심 AI연구소) 지원을 받는 내부 스탠퍼드 연구 프로젝트가 대중화될 경우 발생할 수 있는 사회적 영향에 대한 성명서를 작성하도록 규정하고 있다. 이 성명서는 ESR위원회 검토를 거쳐 연구팀에 문제해결을 위한 개선 방안에 대한 피드백을 제공하거나 연구팀이 간과했을 수 있는 문제점을 지적한다.
AI로 악의적인 행동을 하거나 AI에 부주의한 기업들을 막기 위한 법과 규제도 중요하다. 대표적으로 딥페이크 문제다. 이런 악의적인 행동을 막고 기업들의 부주의로 인한 비용을 부담하는 한편 AI 기술을 차세대로 활용 중인 스타트업이나 혁신 기업들에 피해를 주지 않도록 합리적인 법률을 만들어야 한다.
―AI가 빠르게 침투하면서 산업계 미치는 영향은.
▲AI는 우리 경제와 사회 전체를 재편할 것이다. 의료 서비스 향상부터 더 나은 개인 맞춤형 교육까지, 10년 후의 세상이 얼마나 더 나은 방향으로 변했는지 놀라게 될 것이다. 하지만 AI는 노동과 일자리 구조도 변화시킬 것이다.
그래서 사람들은 AI를 배우고 자신의 일을 바꿀 준비를 해야 한다. AI가 인간이 하기 싫어하는 지루한 일을 보완하고 잘하고 즐거운 일에 집중할 수 있게 해야 하지만 반대로 일자리를 사라지게 할 수도 있다. 정부도 AI로 인한 일자리 구조 재편에 대비한 계획을 세우고 AI로 인한 생산성 향상이나 경제적 발전이 일부 부유한 층에만 집중되는 게 아니라 사회 전반에 공유되도록 해야 한다. 이를 위한 법적인 변화도 필요하다.
―금융산업에서도 JP모건, 모건스탠리 등 미국 대형은행이 변화를 주도하고 있다. 한국 금융사들에게 조언을 한다면.
▲AI는 금융회사를 포함해 산업 전반에 영향을 미칠 것이기 때문에 한국 금융사들이 AI 기술을 이해하고 대비해야 한다. 특히 금융산업에 AI를 책임감 있게 활용하는 방법을 배우는 동시에 고객에게 미치는 영향을 이해하는 데 집중해야 한다. 이 같은 중대한 경제적 변화는 향후 5~10년 동안 발생할 것이고 이를 방관하면 도태될 것이다.
―한화생명연구소와 협업하게 된 계기는.
▲HAI는 AI가 사회에 긍정적인 영향을 미치면서 전 세계 다양한 지역의 사람과 사회에 효과적으로 적용될 수 있는 연구를 하고 있다. 아시아의 중요한 지역을 대표하는 한화생명과 협업하게 돼 기쁘다. 한화생명연구소는 건강 분야의 연구에 관심을 가지고 있고 이는 HAI 연구에 중요한 응용 분야다. AI가 고객의 건강 유지에 도움을 주면서 보험료를 절감하는 방법에 관심이 있을 것이라고 생각한다.
gogosing@fnnews.com 박소현 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지