[파이낸셜뉴스] 대출 전문 핀테크 기업 핀다가 국제연합(UN) 산하 국제전기통신연합(ITU) 주관 ‘AI for Good(선을 위한 인공지능)’ 글로벌 서밋에 참가했다고 3일 밝혔다. 지난달 29일부터 5월 31일까지 스위스 제네바에서 열린 ‘AI for Good’ 글로벌 서밋은 AI 기술로 지속가능발전목표(SDGs, Sustainable Development Goals)를 달성하기 위해 전세계 정부, 민간 및 공공기관 관계자, 기업가, 투자자 등이 함께 모이는 자리다. 2017년부터 개최돼 40여개 UN 산하 기구가 함께하고 있는 UN의 연례 행사다. 특히 올해 행사에는 챗GPT(ChatGPT)를 창시한 오픈AI(OpenAI) CEO 샘 알트먼과 AI 분야 최고 석학이자 딥러닝 창시자인 제프리 힌튼 교수 등 세계적인 AI 전문가들이 연사로 나섰다. 이혜민 핀다 공동대표는 대한민국 대표 기업으로 선정, 기조 강연 연사로 초청받아 ‘AI를 통한 금융 포용’을 주제로 지난 30일 사례를 발표했다. 이번 발표에서 이 대표는 핀다는 빅데이터와 AI 기술을 기반으로 대출 시장의 공급·수요 간 정보비대칭을 해소하며 금융포용을 실천해온 사례에 대해 설명했다. 실제로 핀다는 고객 개개인이 받을 수 있는 승인율보다 5배 이상 높은 승인율을 기록하고 있으며, 지난해 중저신용 고객의 대출 실행 비중은 전체의 67%에 달할 정도로 높다. 또 이 대표는 약 1억1000만개 이상의 빅데이터를 기반으로 AI를 활용해 상권 특성을 분석해 알려주는 ‘오픈업’ 서비스를 통해 핀다가 소상공인, 자영업자와 같은 씬파일러들의 금융 격차를 해소하고 있는 사례를 소개했으며, 피싱 방지 및 단기 연체 솔루션인 AI-FDS를 도입해 금융 사기 범죄를 기술적으로 100% 막고 있음을 설명했다. 이 대표는 "이번 서밋 참가를 통해 핀다만이 제공할 수 있는 AI 기반 데이터 모델·솔루션의 가치와 경쟁력을 국제적으로도 인정받게 되어 매우 기쁘다"며 “대출을 비롯한 금융 시장에서의 정보 불균형을 해소해 더 많은 금융소외계층을 포용하는 데 AI 기술이 큰 역할을 할 것으로 기대한다”고 전했다. 현재 핀다는 업무환경과 서비스에 AI를 전방위적으로 도입하고 있다. 핀다는 지난해 11월 한국 마이크로소프트와 손잡고 핀다 전용 챗GPT인 ‘핀다GPT’를 도입한 후, 매월 4만~5만 건의 비정형화된 외부 고객의 소리(VOC)까지 수집·분석하는 ‘핀다 지식센터’를 구축했다. 또 2022년 7월에는 빅데이터 AI 상권 분석 플랫폼 ‘오픈업(Openub)’의 지분 100%를 인수, 케이뱅크 개인사업자 대출 상품에 오픈업의 사업장 기대 매출과 폐업 예측 데이터를 제공하는 등 사업자대출 시장에서도 시너지를 내고 있다. yesji@fnnews.com 김예지 기자
2024-06-03 15:48:57[파이낸셜뉴스]금융투자협회는 19개 자산운용사 CEO들로 구성된 ‘한국 자산운용업계 NPK(New Portfolio Korea) 대표단’을 구성해 이달 13일부터 21일까지 캐나다의 토론토와 몬트리올을 방문한다. 대표단은 글로벌 탑티어 연기금인 캐나다연금투자위원회(CPPIB) 등 캐나다 연기금들을 비롯하여 글로벌 리딩 AI 연구기관들을 차례로 방문할 예정이다. 대표단은 캐나다연금투자위원회(CPPIB), 온타리오교원연기금(OTPP), 퀘벡주연기금(CDPQ)을 차례로 방문해 캐나다 연기금 관점에서 바라본 한국 자본시장과 시장 전망, 주요 투자 분야 등을 파악하고, 향후 투자 방향 등 협력 방안에 대하여 논의해 볼 예정이다. 또한, 구글, 마이크로소프트, 엔비디아 뿐 아니라 삼성, LG와 네이버 등 한국기업들도 AI연구소를 두고 있을 만큼 글로벌 AI 중심지로 성장한 캐나다 토론토와 몬트리올에서 AI 산업을 리딩하는 Vector Institute, MILA 등 AI 연구기관과 관계기관 등을 방문할 예정이다. 이를 통하여 세계적으로 주목받고 있는 AI를 중심으로 한 첨단 산업에 대한 이해도를 높이고 AI를 우리 자산운용업계에서 활용하는 방안과 투자 기회를 모색해 볼 예정이다. Vector Institute와 MILA는 세계 3대 AI 석학인 제프리 힌튼 교수와 요슈아 벤지오 교수를 중심으로 각각 설립된 연구기관이다. 아울러, 현지 한국계 하이테크 분야 벤처 엑셀러레이터인 해피소나와 협력하여 AI 산업 전반을 아우르는 AI 산업포럼을 개최할 예정이다. 이 포럼에는 온타리오주 경제개발부 빅 페델리 장관을 비롯하여 Vector Institute, Cohere, Recursion 등 현지 AI 관련 기관의 주요 인사들이 참석하여 AI산업과 금융투자산업의 협력과 발전 방향에 대해 논의할 예정이다. 이번 방문 일정은 자산운용사 대상 사전 설문을 통하여 선정된 테마와 지역을 중심으로 마련됐다. 대표단은 일주일간 토론토와 몬트리올 2개 도시를 방문하여 주요 연기금과 AI 관계기관을 비롯하여 온타리오주 무역투자대표부, 캐나다 금융감독당국, 자나두, Horizon ETF, MaRS, KPMG 몬트리올, BCA리서치 등과 차례로 미팅을 하는 바쁜 일정을 소화하게 될 예정이다. 서유석 금투협 회장은 “글로벌 경제적 불확실성에 따른 리스크가 커지고 있는 이때에 글로벌 자산시장 주요 플레이어들인 캐나다 주요 연기금들과의 교류는 자산운용업계의 투자 전략을 점검해보는 소중한 기회가 될 것으로 기대된다”며 또한 “캐나다 AI 관련 기관들 방문을 통해 자산운용 업계가 AI를 보다 적극적으로 활용할 수 있는 방안과 AI 산업에 대한 투자기회를 모색해 본다면 자본시장 밸류업을 위한 또 하나의 계기가 될 수 있을 것으로 기대한다"고 말했다. khj91@fnnews.com 김현정 기자
2024-04-15 10:11:56세상을 떠들썩하게 했던 미국의 오픈AI 샘 올트먼 대표 해임 소동을 이해하려면 그의 동료 일리야 수츠케버 수석과학자의 동선을 따라가는 것이 편하다. 지난달 손에 땀을 쥐게 했던 이 배반의 드라마 한복판에 그가 있다. 알려진 대로 수츠케버는 인공지능(AI)의 대부 제프리 힌튼의 수제자다. 힌튼은 1980년대 중반 사람의 뇌와 비슷한 방식으로 컴퓨터를 학습시키는 획기적인 방법을 개발, 지금의 챗GPT 모델의 근간을 제공한 인물이다. 하지만 지금은 자신의 50년 가까운 AI연구 전체를 후회한다. 20년 전인 2003년, 17세 수츠케버는 약속도 없이 혼자 캐나다 토론토대 교수인 힌튼을 찾아갔다. 힌튼은 수츠케버와 몇 마디 나눈 뒤 그의 천재성을 바로 알아챘다. 그길로 사제지간이 된 둘은 스타트업을 공동창업했고, 이 회사를 구글이 인수하면서 두 사람은 구글의 식구가 됐다. 선량한 천재 과학자 수츠케버를 구글에서 빼내 비영리단체 오픈AI로 끌어들인 이는 다름 아닌 테슬라 창업자 일론 머스크였다. 훗날 머스크도 수츠케버가 포함된 이사진에 의해 해임되는 운명에 처하지만 2015년 이들의 출발은 의미심장했다. AI가 사고로 인간을 제거하는 일을 막을 것, 그러기 위해선 오픈AI가 AI 기능의 최첨단에 있을 것. 오픈AI의 영혼을 말해주는 비전이었다. 올트먼은 오픈AI의 화려한 면면의 공동창업자 중 한 명이었다. 올트먼은 19세에 스탠퍼드대를 중퇴한 뒤 자신의 기술로 창업을 했고, 이를 발판으로 벤처캐피털로 진출해 수많은 유니콘 기업의 산파 역할을 했다. 공유숙박업체 에어비앤비도 그중 하나였다. 암을 정복하고, 핵융합발전을 성공시키고, 초음속 비행기를 만드는 일에도 관심이 지대했다. 거대한 계획을 세우는 것을 즐겼고, 썰렁한 농담도 주저하지 않았다는 실리콘밸리의 괴짜. 그는 설득 능력이 탁월한 수완가이면서 야심에 찬 사업가였다. 오픈AI 창립 3년 만에 머스크가 떠나고 그 이듬해 대표가 된 올트먼은 천문학적 개발비를 조달키 위해 영리 자회사를 설립한다. 마이크로소프트는 2019년 이후 지금까지 100억달러 이상을 투자했다. 수백억원대 연봉이 수두룩한 700여명의 개발자들 월급도 여기서 나왔다. 올트먼은 이 두뇌들과 지난해 11월 생성형 AI '챗GPT'를 완성, 인류 기술 패러다임의 한 획을 긋는다. 최선두를 지켜야 하는 올트먼은 자금줄을 일본, 중동 거부로 넓히면서 AI 수직계열화 물밑작업까지 추진했다. 그러는 사이 수츠케버의 근심은 커져갔다. 언론에 "챗GPT가 약간의 자의식이 있는 것 같다"고 한 말은 섬뜩한 암시다 개발진이 궁극의 목표로 삼았던 AGI(범용일반지능)에 근접한 것인지 모르겠다는 의미로 볼 수 있었다. AGI는 사람의 통제에서 벗어나 스스로 판단하고 행동하는 지능을 말한다. 여기서 한발만 더 나가면 인간의 지능을 능가하는 슈퍼AI가 된다. 수츠케버의 과학자그룹은 개발 중인 '큐스타 모델'이 학습하지 않은 새로운 수학 연산 문제를 응용해 능숙하게 푸는 것을 보고 충격에 휩싸였다고 한다. 진격의 올트먼을 멈춰 세우라. 수츠케버가 배반의 총대를 멨다. 자신을 포함한 6인의 이사 중 4명이 올트먼 제거에 동의했다. 올트먼 해임을 단행한 뒤 후임에 기술책임자(CTO) 미라 무라티를 앉혔다. 하지만 상황은 우리가 봤던 대로 급반전한다. 올트먼을 다시 데려오라는 개발자가 700여명 중 85%였다. 이들 없이 오픈AI 미래도 없다고 본 수츠케버는 "몹시 후회한다"며 사태를 수습해갔다. 5일 천하 쿠데타는 끝나고 수츠케버는 이제 말이 없다. 돌아온 올트먼, 뉘우치는 수츠케버. 외신은 수츠케버를 패자라고 했지만 시간이 흐르면서 그렇지도 않은 것 같다. 세상에 이번처럼 AI 위험성이 와닿은 적이 있었던가. 수츠케버의 반란이 이것으로 끝일까. 더 격렬해질 세계 AI 대전, 그 핵심에 AI 인재가 있다는 사실도 확인했다. 의대 광풍에 허우적대는 우리에게 시사하는 바가 적지 않다. 최진숙 논설위원 jins@fnnews.com jins@fnnews.com 최진숙 기자
2023-12-06 18:55:37KT가 세계 최고 수준의 인공지능(AI) 연구기관인 캐나다 벡터 연구소와 초거대 AI 분야의 협력 방안을 논의했다. 6일 KT에 따르면 이번 만남은 지난해 9월 양사가 AI 연구개발 및 사업 협력을 위해 체결한 파트너십의 일환으로 성사됐다. 지난 5일 서울시 서초구 KT 융합기술원에서 KT AI2XL연구소장 배순민 상무와 벡터 연구소 토니 가프니 최고경영자(CEO)를 비롯한 양사 관계자는 초거대 AI '믿음(Mi:dm)' 기술을 고도화하기 위한 협력 방안을 구체화했다. 또한 공동 AI 연구 프로젝트의 수행 계획을 점검하고 초거대 AI 기반 기업간(B2B) 사업과 AI 모델의 발전을 목표로 한 교육과 컨설팅 내용도 논의했다. 양사는 AI가 최적의 결과물을 내놓을 수 있게 명령어를 만드는 '프롬프트 엔지니어링' 등 최신 AI 기술에 관한 공동 리서치를 진행 중이며, 이를 사업에 적용하기 위한 최적의 방법론을 찾는 데 협력하고 있다. 이를 바탕으로 KT는 최신 AI 기술들을 다양한 서비스에 활용하는 방안을 검토 중이다. 이외에도 벡터 연구소 관계자들은 KT 융합기술원 연구개발 전시 공간인 '퓨처온'에서 ‘지니 TV'와 '지니버스', 'AI 미래교육 플랫폼' 등 KT의 AI 기술이 접목된 다양한 서비스를 체험하고 KT 관계자에게 초거대 AI '믿음'의 주요 특징과 'AI 풀스택' 전략에 대한 설명을 들었다. 벡터 연구소는 2017년 캐나다 온타리오주와 민간기업의 투자로 설립된 세계적인 AI 연구기관이다. 딥러닝 창시자이자 AI 최고 권위자인 제프리 힌튼 교수가 공동 설립해 수석 자문관으로 참여하고 있으며, 연구자와 기업, 정부가 책임감을 갖고 AI를 개발하고 채택할 수 있도록 지원한다. 올해 1월 벡터 연구소 CEO로 부임한 토니 가프니는 이달 7~8일 KT와 GSMA가 진행하는 '모바일 360 아시아태평양(M360 APAC)' 콘퍼런스 AI 세션에서 발표자로 나와 AI 시대의 미래 전망에 대한 인사이트를 공유할 계획이다. 가프니 CEO는 "벡터 연구소는 AI의 응용과 채택, 상용화를 위해 노력하는 세계 최고의 AI 연구기관으로서 KT가 AI 분야에서 의미 있는 성과를 내도록 협력하겠다"고 말했다. KT AI2XL연구소장 배 상무는 "KT는 현재 AI 기술에 집중적으로 투자하고 있고 '믿음'을 통해 산업의 디지털 전환(DX)을 가속할 계획"이라며 "벡터 연구소와의 협업으로 KT의 AI 기술 역량을 끌어올리고 글로벌 AI 사례에 대한 인사이트를 얻어 ‘믿음’의 경쟁력을 높이겠다”고 밝혔다. solidkjy@fnnews.com 구자윤 기자
2023-09-06 09:01:46과학기술정보통신부 박윤규 2차관이 30일 서울ICT이노베이션스퀘어에서 캐나다 토론토대 연계 인공지능융합교육 과정에 선발된 석·박사생 30명 등이 참석한 간담회를 개최했다. 이번 간담회는 토론토대 인공지능융합과정 석·박사생, 교육과정 관계자 등을 격려하기 위해 마련된 자리로, 교육 세부 안내, 인공지능 기술 동향 등 오리엔테이션과 함께 교육 이수 선배 및 토론토대 출신 선배의 경험담을 듣고 의견을 교환하는 등 낯선 환경에서 성공적인 교육 이수를 위한 소통의 시간도 가졌다. 박 차관은 “작년 9월 대통령 순방 후속조치로 인공지능 분야 세계적 석학인 제프리 힌튼 교수의 지도 하에 우수한 성과를 내고 있는 토론토대와 이번 인공지능융합과정을 개설했다"며 “인공지능 전공자 외에도 인공지능과 융합 가능한 다양한 분야에서 우수한 학생들을 선발했으며, 인공지능 등 미래 전략기술 분야를 선도하는 글로벌 고급인재 양성을 위해 세계 최고 수준의 교육과정에 더 많은 우리 청년들이 참여할 수 있도록 노력을 계속해 나가겠다"고 말했다. solidkjy@fnnews.com 구자윤 기자
2023-08-30 11:06:04[파이낸셜뉴스] 과학기술정보통신부는 글로벌 인공지능(AI) 석학인 앤드류 응 교수와 국내 AI 연구자·스타트업이 함께하는 대담회를 개최했다고 21일 밝혔다. 응 교수는 스탠퍼드 컴퓨터과학 교수로, 제프리 힌튼, 얀 르쿤, 요수아 벤지오 등과 함께 AI 분야 최고 석학으로 평가받는 인물이다. 이번 행사는 응 교수로부터 AI 분야 전망과 가능성을 직접 듣고 국내 AI 스타트업이 글로벌 무대에서 성장·발전할 수 있는 인사이트를 얻기 위해 마련됐다. 응 교수는 기조연설을 통해 "AI는 전기와 같이 경제·사회 모든 분야에 응용되는 다목적 기술이다"고 강조했다. 그러면서 AI의 글로벌 기술 동향과 금융·물류·교육·헬스케어 등 다양한 산업의 응용 사례·전망 등을 설명했다. 이와 함께 응 교수는 생성형 AI 기반의 로우 코드 플랫폼을 통한 AI 응용 프로그램 개발과 생성형 AI가 텍스트·이미지를 비롯한 다양한 유형의 데이터로 확장되면서 발생하는 새로운 기회와 가능성을 설명했다. 이외에도 AI가 가진 위험성, 피해 최소화 방안 등도 논의했다. 이어진 대담회에선 국내 AI 스타트업에 대한 투자 및 글로벌 진출 전략, 생성형 AI 동향 및 전망, AI 위험성 및 대응방향, AI 윤리·신뢰성 확보 방안 등 주제에 대해 응 교수를 비롯한 참석자들이 의견을 나눴다. 현장에 참석한 AI 개발자 및 스타트업 관계자들은 응 교수에게 자유롭게 질문할 수 있는 시간도 가졌다. 이종호 과기정통부 장관은 "초거대 AI 등장으로 AI가 일상생활과 사회·경제 전반으로 확장되고 있으며, 빅테크(초거대기술기업)는 막대한 투자를 통해 새로운 서비스를 연이어 출시하는 등 AI 산업 생태계가 지각 변동을 일으키고 있다"며 "국내 AI 스타트업이 가진 창의력과 잠재력을 발휘해 글로벌 무대에서 활약할 수 있는 유니콘 기업(기업가치 1조원 이상의 비상장 스타트업)이 될 수 있도록 핵심 인프라와 초거대 AI 기반 응용서비스 개발을 지원해 나갈 것이며, 디지털 심화 시대를 주도할 수 있는 AI 윤리·신뢰성 확보 방안을 마련하고 사회적 수용성을 향상해 나가겠다"고 전했다. jhyuk@fnnews.com 김준혁 기자
2023-07-21 12:48:49【하노이(베트남)·서울=서영준 김학재 기자】 윤석열 대통령이 24일(현지시간) 베트남 국빈 방문의 마지막 일정으로 하노이 삼성전자 R&D센터를 방문해 한-베 디지털 미래세대와의 대화 시간을 가졌다. 이 자리에서 윤 대통령은 "양국의 문화가 섞이면 우리의 디지털은 더 발전할 수 있다"며 한국과 베트남 청년들간 왕성한 교류를 지원할 것임을 밝혔다. 윤 대통령은 이날 '디지털 미래세대와의 대화' 행사 마무리 발언에서 "한국 청년들이 베트남에 와서 일하고, 베트남 청년들이 한국에 와서 공부하고 일하면, 과학기술 뿐만 아니라 문화도 섞이면서 가치와 산업을 더 키울 수 있다"며 이같이 말했다고 이도운 대통령실 대변인이 서면 브리핑을 통해 전했다. 지난해 캐나다 방문 당시 토론토 대학 AI 권위자 제프리 힌튼 교수가 토론토대가 AI 선도대학이 된 이유에 대해 "캐나다가 지니는 문화적 다양성이 AI가 선도국가가 되도록 하는데 크게 기여했다"고 말한 것을 언급한 윤 대통령은 문화적 다양성을 강조했다. 윤 대통령은 "지금은 디지털 시대이며, 디지털을 과학기술 차원에선 빠른 속도의 정보와 데이터의 이동으로 정의할 수 있지만, 문화적 측면에서 살펴보면 디지털은 네트워크와 초연결을 통해 사회적으로 많은 부가적 가치를 창출한다"고 말했다. 이어 "앞으로 양국의 정부와 기업이 미래 세대의 꿈과 열정을 실현시키는데 지원하고 투자할 것"이라며 "청년들의 꿈과 열정을 강력히 지지할 것"이라고 강조했다. 앞서 윤 대통령은 모두발언에선 제조 협력 파트너에서 연구개발 핵심 파트너로 진화한 한-베트남 디지털 파트너십의 의미를 언급, "한국과 베트남의 기술을 융합해 혁신적인 가치를 창출할 수 있도록 양국 간 공동연구를 적극 지원하고, 미래 세대의 역량 강화를 위한 인재 양성 프로그램의 규모를 넓혀나가겠다"고 말했다. 이날 행사에는 베트남의 쩐 르우 꽝 부총리와 후잉 타잉 닷 과학기술부 장관, 이종호 과기정통부 장관, 이재용 삼성전자 회장을 비롯한 R&D센터 임직원, 베트남에 진출한 한국 디지털 기업 및 한국에 진출한 베트남 디지털 기업, 한·베트남 양국의 디지털 청년인재들이 함께 했다. 윤 대통령은 '디지털 미래 세대와의 대화'에 앞서, 한국이 설립을 지원한 베트남의 VKIST, 베트남의 소프트웨어(SW) 인재를 양성하는 코리아 IT 스쿨, 폴더블폰의 힌지 부품 세계 1위를 점유하고 있는 KH바텍의 부스를 찾았다. hjkim01@fnnews.com 김학재 서영준 기자
2023-06-24 14:40:40[파이낸셜뉴스] [수담활론(手談闊論)]은 각 분야의 전문가들의 글(수담)을 통해 우리사회 곳곳의 이슈들을 파악하고 보다 쉽게 이해하기 위해 마련됐습니다. <편집자 주> "인공지능(AI)으로 인한 멸종(extinction) 위험을 완화하는 것은 팬데믹이나 핵전쟁 같은 다른 사회적 규모의 위험과 함께 세계적인 우선 순위가 되어야 한다." 5월 29일 비영리 단체인 'Center for AI Safety (CAIS)'가 발표한 한 문장 성명서다. 이에 대해 6월 9일 현재 업계 리더 554명이 서명했다. 서명자들은 AI를 디스토피아(Dystopia)의 서막으로 여기는 몽상가들이나 선도적인 AI 개발업체들을 시샘하는 경쟁자들이 아니다. AI의 대부 제프리 힌튼과 요슈아 벤지오, 구글 딥마인드의 최고경영자(CEO) 데미스 허사비스, OpenAI의 CEO 샘 알트만, 앤트로픽의 CEO 다리오 아모데이 등이 가장 먼저 서명했다. 올해 3월 'Future of Life Institute(FLI)'가 발표한 "거대한 인공지능 실험을 멈춰라"라는 공개 서한도 비슷한 맥락이었다. 여기에는 6월 9일 현재 엘론 머스크, 스티브 워즈니악, 유발 하라리 등 3만1810명이 서명했다. 이 서한은 세계의 모든 AI 개발자들에게 강력한 AI의 개발을 일시 중단하고 AI의 위험을 통제할 수 있는 메커니즘을 마련할 것을 촉구했다. 반면 구글의 CEO 순다르 피차이를 비롯한 많은 기업인과 전문가들은 이 서한에 반대하거나 회의적인 입장을 표명했다. 이들은 AI가 창작의 영역에서 인간의 조력자 또는 협력자가 될 것이라고 믿으며 FLI의 제안이 비현실적이라고 주장한다. 최근 몇 해 동안 AI 거버넌스(AI Governance)에 대한 많은 원칙과 가이드라인이 제시됐다. 구글 스칼라에서는 2019년 이후 'AI Governance'를 다룬 문헌이 4270건, 'AI Law'가 언급된 문헌은 1180건 각각 검색된다. 'AI Ethics'를 다룬 문헌은 1만6800건이나 된다. 유럽연합(EU)은 올해 세계 최초 인공지능 법률 'The AI Act'를 제정할 예정이다. 초안의 주된 내용은 △중국 정부의 사회 신용평가 시스템처럼 허용할 수 없는 위험을 초래하는 애플리케이션은 금지하고 △입사 지원자의 순위를 매기는 이력서 스캔 도구 등 고위험 애플리케이션은 특정한 법적 요건에 따르도록 하며 △기타 명시적으로 금지되거나 고위험군으로 분류되지 않은 애플리케이션은 규제 대상에서 제외하는 것이다. 성명서의 서명자들처럼 AI 거버넌스를 시급하고 중대한 과제로 인식하는 이들이 많지만 AI의 위협이 과장됐고 아직은 통제할 만한 수준이므로 시기상조라는 의견들도 적지 않다. 필자는 AI 거버넌스 구축이 매우 시급하다는 입장에서 시리즈를 통해 인공지능 거버넌스의 다양한 내용들을 다루고자 한다. 인공지능 거버넌스는 인공지능의 편익을 향유하면서도 그에 수반되는 비용과 위험을 최소화하기 위한 기술적, 윤리적, 사회적 노력 및 궁극적으로는 이를 강제할 수 있는 법과 제도를 포괄하는 개념이다. 도대체 AI가 인류에게 어떤 위협이 되는가? AI의 의사결정의 투명성, 데이터의 보안과 프라이버시, AI의 개발, 유통, 이용에 따른 피해 발생시 책임 등 AI 자체의 기술적 특성 또는 AI 생태계의 이해관계자들에 대한 이슈들이 대표적이다. 인간의 불완전성으로 인한 데이터의 편향이 학습 과정을 통해 AI에 그대로 반영되는 문제도 자주 논의된다. 2016년에 마이크로소프트가 트위터를 통해 출시한 'Tay'라는 AI 챗봇이 인종 차별적인 발언을 쏟아내는 바람에 16시간만에 서비스가 종료된 것이 좋은 예이다. AI의 사회적 영향에 대한 논의도 흔하다. 여러 직업들이 사라지고 산업구조가 재편될 것이라는 전망 때문이다. 심지어 최근 한 연구에 따르면 AI 챗봇은 20~50개의 쿼리를 처리할 때마다 서버를 식히기 위해 500ml의 물을 사용한다고 한다. 물론 AI 구동에 소요되는 어마어마한 양의 전기에 대한 고민도 있다. AI가 인류의 지속 가능성까지 위협하고 있다는 주장도 가능한 샘이다. 지식재산(IP) 분야에서도 AI와 관련된 많은 이슈가 제기되고 있다. 특히 AI가 독립적 발명과 창작의 주체로 등장하면서 인간을 유일한 발명과 창작의 주체로 상정하고 있는 지식재산 법체계가 도전 받고 있다. 유발 하라리는 최근 이코노미스트 기고문에서 AI가 인류 문명의 운영체계를 해킹했다고 역설했다. 인간 문화의 구성 요소인 글, 소리, 이미지를 학습한 AI가 이제 글, 소리, 이미지의 생산자로 등장한 현실을 풍자한 것이다. 생성형 AI가 창작하는 디지털 콘텐츠가 기하급수적으로 늘어나 결국 인터넷 공간을 점령하지 않을까 우려하는 목소리들도 있다. 일반적으로 혁신의 주체들은 규제를 싫어하기 마련이다. 그러기에, CAIS와 FLI의 성명서에 서명한 AI의 아버지들, OpenAI, 구글 딥마인드, 애플, 테슬라의 경영자들, 수많은 개발자들의 AI 규제 요구는 매우 이례적이다. 기업들과 각국 정부가 통제되지 않은 AI 개발의 파괴적 결과를 진지하게 고민해야 하는 이유다. 이들은 AI 혁신 성과의 향유와 지속가능한 개발을 위해서는 오히려 규제가 필요하다는 사실을 간파한 것이다. 그런데 CAIS와 FLI 성명서의 숨은 맥락, 즉 AI 개발 업체들의 고충도 함께 이해해야 한다. 그것은 모든 개발 업체에 대한 규제가 동시에 시행되지 않는 한 파괴적 결과가 우려되더라도 어느 업체도 AI 개발을 중단할 수 없는 상황, 즉 새로운 유형의 '치킨게임'이다. 스스로 개발을 중단하는 회사는 경쟁에 밀려 퇴출되는 길을 선택하는 샘이다. 국제 관계에서의 AI 규제 양상도 유사하다. 규제를 준수하는 국가의 기업은 비준수 국가의 경쟁자들로 인해 글로벌 시장에서 경쟁력을 잃게 된다. AI 규제에 대한 정부간 협력이 불가피한 이유다. 한편, 올해 세계 최초의 AI 법을 통과시키려 하고 있는 EU는 마음이 조급하다. EU는 2018년 제정된 'General Data Protection Regulation (GDPR)'이 세계적인 영향력을 행사했던 것에 큰 자부심을 느끼고 있다. 더 나아가 올해 제정될 The AI Act가 글로벌 표준이 되기를 바라고 있다. 다른 나라의 정부, 국제기구, 기업, 연구기관과 단체들은 어떤 상황일까. 미-중 무역갈등으로 인해 중국이 자국 AI 개발업체 규제에 동참하지 않는다면 다른 나라들의 규제 노력은 무의미한 것이 아닐까. 우리 정부와 기업들은 어떻게 대처해야 할까. 구체적인 AI 거버넌스 이슈들에 대해서는 어떤 제도적, 법적 대응이 필요할까. 앞으로 시리즈를 통해 다양한 관점에서 AI 거버넌스를 논하고자 한다. 모든 논의의 전제는 AI가 인간에 의해 개발된 기술이고 또 인간을 위해 존재하는 기술이라는 사실이다. ᅠ/박성필 KAIST 문술미래전략대학원장 ᅠ ※이 글은 필자의 주관적인 견해이며, 본지의 편집방향과 다를 수 있습니다. kim091@fnnews.com 김영권 기자
2023-06-10 21:18:49인공지능(AI)의 권위자가 AI의 빠른 기술 진보에 대한 경계와 함께 유용성 대신 안전에 우선을 두지 못한 것이 후회스럽다고 말했다. 캐나다 몬트리올대 컴퓨터 과학 교수인 요슈아 벤지오는 5월 30일(현지시간) 영국 BBC방송과 가진 인터뷰에서 AI의 기술이 빠르게 진보할 줄 몰랐다며 "내 업적이 이제는 불분명해지고 상실감을 느끼고 있다"고 했다. 이날 벤지오 교수와 오픈AI 최고경영자(CEO) 샘 올트먼, 구글딥마인드 CEO 데미스 하사비스, 제프리 힌튼 등 AI의 거물들은 앞으로 인류가 AI로 인해 멸종될 수 있다는 우려의 성명을 냈다. jjyoon@fnnews.com 윤재준 기자
2023-05-31 18:20:58[파이낸셜뉴스] 인공지능(AI)의 권위자가 AI의 빠른 기술 진보에 대한 경계와 함께 유용성 대신 안전에 우선을 두지 못한 것이 후회스럽다고 말했다. 캐나다 몬트리올대 컴퓨터 과학 교수인 요슈아 벤지오는 5월 30일(현지시간) 영국 BBC방송과 가진 인터뷰에서 AI의 기술이 빠르게 진보할 줄 몰랐다며 "내 업적이 이제는 불분명해지고 상실감을 느끼고 있다”고 했다. 이날 벤지오 교수와 오픈AI 최고경영자(CEO) 샘 올트먼, 구글딥마인드 CEO 데미스 하사비스, 제프리 힌튼 등 AI의 거물들은 앞으로 인류가 AI로 인해 멸종될 수 있다는 우려의 성명을 냈다. 벤지오는 힌튼, 얀 르쾽 미국 뉴욕대 교수와 함께 AI의 대부들로 불려왔다. 비영리단체 AI안전센터(CAIS) 홈페이지를 통해 공개된 성명에서 이들 전문가들은 우려되는 AI 악용 시나리오로 마약 단속 기술이 화학무기 제조에 사용되고 사회 불안 야기, 일부 소수의 기술 독점을 통한 감시와 검열, 인간의 쇠약해짐으로 인한 AI에 대한 의존 증가를 예로 들었다. 벤지오 교수는 특히 AI기술이 군사력에 사용돼서는 안된다며 규제 도입을 요구했다. AI 전문가들과 업계에서는 AI의 빠른 속도로 인해 타인 또는 본인에게까지도 해를 끼칠 수 있다고 경고하고 있다. 일론 머스크 테슬라와 트위터 CEO도 최근 월스트리트저널(WSJ) 주최 이벤트에서 AI가 인간을 파괴하지까지는 못해도 통제를 할 수 있다고 경고했다. 벤지오는 강력한 AI 제품을 사용하는 모든 기업들이 등록을 할 것과 각국 정부들이 관리를 해야 한다고 주문했다. 또 AI 기술을 다루기 위한 자격증 제도 도입과 윤리 교육의 필요성도 강조했다. AI 기업 허깅페이스(Huggingface)의 연구원인 사샤 루치오니 박사는 AI가 일으킬 수 있는 편견, 거짓 정보 확산이 더 심각한 위험으로 이 문제가 인류에 대한 위협 보다 더 시급하다고 했다. 벤지오와 힌튼 교수의 우려와 달리 르쾽 교수는 AI로 인한 재앙 경고는 지나친 우려라고 지적했다. BBC는 우려와 달리 AI가 사회에 기여하는 긍정적인 면도 있다며 그 예로 지난주 새로운 항생제가 발견됐고 AI를 사용하는 마이크로칩으로 인해 불구인 남성이 생각만으로 다시 걷게 된 사례를 전했다. jjyoon@fnnews.com 윤재준 기자
2023-05-31 13:57:35