[단독]생성형 AI뱅커 첫 선보인 우리금융, 위험수준 3단계 나눈 AI 활용기준 제정

지주사 그룹사에 AI 활용 가이드라인 배포...현황 파악도
구제방안 절차 명시..현업부서 의견 수렴해 수정 보완 계획

임종룡 우리금융그룹 회장. 뉴시스

[파이낸셜뉴스] 우리금융지주가 인공지능(AI) 활용 과정에서 위험수준을 3단계로 나눠 리스크 관리를 고도화하는 '그룹 AI 개발·활용 가이드라인’를 만든 것으로 확인됐다. AI가 시스템 내 의사결정을 '전면 대체'하는 경우 내부통제 절차를 마련·준수하는 의무를 제도화한 것이다. 특히 우리금융은 차별화된 소비자 보호 방안을 이번 가이드라인에 반영해 사고 예방에 나섰다.

16일 금융업계에 따르면 우리금융지주는 지난달 29일 계열사에 ‘그룹 AI 개발·활용 가이드라인’을 배포했다. 가이드라인은 목적과 적용범위, 거버넌스의 구축, 업무위탁에 대한 특례, 단계별 점검, 별표 등 총 4장으로 구성됐다. 금융위가 지난 2021년 7월 발표한 ‘AI 운영 가이드라인’에서 소비자 보호 관점과 업무위탁 등 현장 애로사항을 반영해 종합 보완했다.

구체적으로 살펴보면 “이 기준은 AI 관련 정부 및 감독기관의 규제가 시행될 때까지 그룹 내 AI 개발·활용 관련 제반 업무의 기준과 절차를 수립하여, 발생 가능한 규제 불확실성 해소 및 리스크를 예방·관리하는데 목적이 있다”는 내용을 담았다.

특히 적용범위를 ‘고객에게 영향을 미치는 경우로 한정’해 AI 활용 거버넌스 구축의 배경이 소비자 보호에 있음을 분명히 했다. AI 윤리기준과 관련해 “지주회사는 AI 윤리기준을 제정하고 그룹사는 이를 준수해야한다”고 규정했다. 그룹사는 윤리기준에 맞는 조직관리 목적 AI윤리위원회를 별도로 설치할 수 있다는 규정도 만들었다.

우리금융은 각 계열사에 이번 가이드라인을 보내면서 △AI 활용 조사(양식) △AI 활용 자체점검 체크리스트 △AI 활용 소비자보호 검토 체크리스트 등을 함께 배포했다. 우리금융은 향후 금융당국의 기조와 활용부서의 의견을 고려해 가이드라인을 개정할 방침이다.

우리금융지주 금융테크부가 주도해 제정한 ‘우리금융그룹 AI 개발·활용 가이드라인’은 금융당국이 규제를 시행하기 전 선도적으로 준비됐다. 지난달 29일 가이드라인을 배포한 우리금융은 향후 계열사별 AI 활용 현황을 파악해 가이드라인을 수정 보완해나갈 방침이다.

우리은행은 지난해 말 생성형 AI 활용 계획을 수립한 바 있다. 기존 시나리오 기반의 챗봇 서비스를 생성형 AI 기반 ‘AI뱅커 서비스’로 확대한다는 것이다. 지난 7일 우리은행이 서비스 시작을 알린 AI 뱅커는 금융 언어는 물론 은행 창구에서 일어나는 일상의 대화까지 학습했다. 방대한 양의 금융 데이터를 학습한 AI뱅커는 대화형 서비스로 예·적금 상품을 설명해주고 가입도 권유한다.

AI뱅커는 현재 고객의 성향, 상황에 맞춘 예·적금 상품만을 권유하고 있다. 하지만 점차향후 대출 상품 등 권유 상품의 리스트를 확대해나갈 방침이다. 여기서 AI 활용의 윤리적 문제가 발생할 수 있다. 은행의 이익과 금융소비자의 이익이 상충할 경우 AI의 답변 알고리즘을 설계자가 누구의 입장에 설것인지부터 문제다. 또 AI의 답변을 신뢰한 고객의 이의제기 방안, 정합성 원칙 준수 여부 등이 문제가 될 수 있다.

금융소비자 보호와 관련된 기준으로는 현업부서가 대고객 서비스를 출시하기 전에는 체크리스트 참고해 ‘소비자 권익 침해 여부’를 검토하도록 했다.

또 회사의 금융소비자보호 담당부서와 사전협의하도록 했다. 소비자 구제 방안도 구체적으로 담겼다. 소비자의 피해 발생 시 이의제기 절차 및 피해구제 방안, 피해구제를 위한 담당자 지정과 손해배상 처리 절차가 마련됐는지 AI 활용부서가 점검하도록 했다.

[e-mail] 박문수 김나경 기자

※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지