"인공지능(AI)이 인류 번영에 기여할 수 있도록 지속 가능한 발전과 안전의 균형 잡힌 접근이 필요하다." 5일 서울 송파구 롯데시네마에서 파이낸셜뉴스와 과학기술정보통신부가 공동 개최한 'AI월드 2024'에 참석한 주요 인사들은 AI 기술 발전이 우리 사회 전반에 걸쳐 혁신을 불러오고 있다며, AI 산업 육성과 안전 신뢰를 균형 있게 가져가야 한다고 입을 모았다. 유상민 과기정통부 장관은 이날 환영사를 통해 "정부는 AI 반도체 이니셔티브를 지난 4월 수립했으며 산업현장과 공공행정, 국민일상 전반의 AI 일상화에도 범부처가 총 7102억원의 재정을 투입하고 있다"면서 "과기부는 2025년도 연구개발(R&D)예산안 중 AI 분야에만 1조2000억원을 책정했다"고 강조했다. 유 장관은 "한국은 세계 최고 수준의 메모리반도체 경쟁력과 탄탄한 제조업 등 하드웨어 역량과 미국과 중국에 이어 전 세계에서 세번째로 초거대 AI 모델을 개발하는 저력을 보유하고 있다"면서 "독자적인 클라우드, AI 반도체, AI 모델 등 독자적인 AI 생태계도 갖추고 있으며 AI와 접목이 용이한 가전, 휴대폰, 자동차 등 제조업 분야가 강하다"고 덧붙였다. 이와 함께 "OECD국가 중 기업 AI 도입률 1위에 국민들이 AI에 대한 긍정적 인식이 매우 높다"고 강조했다. 유 장관은 "조만간 출범 예정인 국가 AI위원회가 국가 역량 결집의 구심점이 되도록 민관협력도 주도해 나갈 계획"이라며 "'AI월드 2024' 행사에서 한국이 도약하고 국민 삶이 윤택해질 수 있는 구체적 정책과 깊이 있는 논의가 이루어지기 기대한다"고 말했다. 이충용 대한전자공학회 회장은 축사를 통해 "이번 행사에서 AI 발전 이면에 있는 문제들도 함께 논의돼야 한다"고 당부했다. 특히 딥페이크 문제가 매우 심각해 AI 윤리 및 관련 법령 제정이 필수라고 강조했다. 그러면서도 "이와 동시에 AI 발전을 저해하지 않도록 신중한 접근이 필요하다"며 "AI 가속을 위한 산업의 성장에 따라 에너지와 환경에 대한 고민도 필수"라고 지적했다. 변동식 파이낸셜뉴스 사장은 개막사에서 "이제 AI는 단순히 도구에 그치지 않고 창의적 사고를 지원하고 복잡한 문제를 해결하며, 인간의 상상력과 협력할 수 있는 동반자로 자리 잡게 됐다"며 AI 발전과 우리 생활방식의 변화에 대해 설명했다. 변 사장은 "국내 최초로 멀티플렉스 영화관에서 글로벌 컨퍼런스를 개최하며 장소에 대한 고정관념도 깼다"면서 "압도적인 몰입감으로 AI월드를 경험하게 될 것"이라고 말했다. 특별취재팀 조윤주 팀장 김만기 김동호 조은효 박소연 구자윤 장민권 최종근 김준혁 권준호 노유정 임수빈 김예지 기자 김현지 서지윤 송지원 신지민 이동혁 이해람 최가영 최은솔 수습기자

[파이낸셜뉴스] 인공지능(AI) 기술을 활용해 신속하고 공정한 재판을 실현할 필요가 있다고 대법원 사법정책자문위원회 위원들이 다시 한번 중지를 모았다. 다만 사법부가 법적·윤리적 기준 제정이 필요하다고 제안했다. 14일 대법원에 따르면 자문위는 이날 오후 3차 회의를 열고 안건으로 올라온 ‘사법절차에서의 AI 활용과 그 법적·윤리적 기준’에 대해 이같이 논의한 뒤 대법원에 건의했다. 자문위는 사법정책과 관련된 각종 사법제도의 개선 방안에 관한 사항으로서 대법원장이 안건으로 올린 내용을 토의·심의하고 그 결과를 대법원장에게 건의하는 역할이다. 위원장을 포함해 7명이며, 3기는 법조계·언론계 출신으로 구성돼 있다. 자문위는 회의에서 딥러닝기반 AI 기술이 급속도로 발전하고, 특히 최근 등장한 거대언어모델(LLM)은 우리 사회의 다양한 영역에서 응용되고 있다고 평가했다. 그러면서 AI 기술은 다양한 영역을 포괄하는 범용기술이므로, 인공지능 기술을 통한 적정한 재판지원 활용 방안을 마련해 신속하고 공정한 재판을 실현할 필요가 있다는 결과를 냈다. 하지만 AI 기술 수준에선 한계가 완전히 해소되지 않았고, 재판 사무의 특성 등을 고려해 인공지능 활용에 대한 법적·윤리적 기준을 마련할 필요가 있다고 지적했다. 자문위는 “AI의 기술적 특성과 해외 사례를 참조해 우리 사법부의 AI 활용에 대한 법적·윤리적 기준을 마련하되, 그 기준에는 △기본권보장 및 평등 △신뢰성 △합법성 △책임성 △투명성 등과 같은 원칙을 포함하는 것이 바람직하다”고 설명했다. 이날 함께 안건으로 상정된 ‘합리적인 법원장 보임제도’는 충분한 토론을 위해 제4차 회의에서 추가 논의키로 했다. jjw@fnnews.com 정지우 기자

LG그룹이 유네스코와 함께 인공지능(AI) 윤리 플랫폼을 만든다. LG AI연구원은 지난 22일 AI 서울 정상회의가 열린 서울 성북구 한국과학기술연구원(KIST)에서 유네스코와 AI 윤리 글로벌 온라인 공개강좌 사업(MOOC) 공동 추진을 위한 협약을 맺었다고 23일 밝혔다. LG AI연구원과 유네스코는 2025년 말 공개를 목표로 연내 국제 전문가로 자문그룹을 꾸리고 AI 윤리 교육 코스 개발을 시작하기로 합의했다. hoya0222@fnnews.com 김동호 기자

[파이낸셜뉴스] LG그룹이 유네스코와 함께 인공지능(AI) 윤리 플랫폼을 만든다. LG AI연구원은 지난 22일 AI 서울 정상회의가 열린 서울 성북구 한국과학기술연구원(KIST)에서 유네스코(UNESCO)와 AI 윤리 글로벌 온라인 공개강좌 사업(MOOC) 공동 추진을 위한 협약을 맺었다고 23일 밝혔다. 협약식에는 김수현 아태지역사무소장, 이라클리 코델리 AI 윤리과장, 김은송 뉴델리사무소 인문사회과학부문 과장 등 유네스코 고위 관계자들과 배경훈 원장, 김유철 전략부문장 등 LG AI연구원 관계자들이 참석했다. LG AI연구원과 유네스코는 2025년 말 공개를 목표로 연내 국제 전문가로 자문 그룹을 꾸리고 AI 윤리 교육 코스 개발을 시작하기로 합의했다. AI의 윤리적 사용에 대한 첫 국제 표준인 'AI 윤리 권고'를 기반으로 LG와 유네스코의 협업이 본격화될 전망이다.    hoya0222@fnnews.com 김동호 기자

[파이낸셜뉴스] 김소영 부위원장이 "전세계적으로 AI 패권 경쟁이 치열해지는 가운데 우리 정부는 '초거대 AI 초일류 국가 도약'을 주요 국정목표로 설정하고 AI 경쟁력 강화를 추진하고 있다"고 28일 밝혔다. 김 부위원장은 이날 서울 중구 은행회관에서 '금융권 AI 협의회 발족식' 모두발언을 통해 "주요 국가들도 생성형 AI의 활성화 및 안전한 활용 방안에 대해 치열하게 고민하고 있다"며 이같이 말했다. 김 부위원장은 "미국의 경우 생성형 AI의 안전한 개발과 배포를 지원하기 위해 정부, 기업, 학계 등 다양한 집단이 논의하는 'AI 안전 컨소시엄'을 지난달 발족하는 등 생성형 AI의 혁신 생태계 마련을 적극 추진하고 있다"며 "EU의 경우 생성형 AI의 위험수준에 따라 차등화된 의무를 부여하고 위반시 제재토록 하는 AI 법안이 이번달 최종 승인돼 2025년부터 단계적 발효를 앞두고 있다"고 부연했다. 이에 금융위원회도 이번 출범하는 '금융권 AI 협의회'를 통해 현장에서 제기된 AI 활용에 있어 애로사항을 해결하겠다고 밝혔다. 앞서 금융위원회는 지난 2월부터 총 3회에 걸쳐 업권별 릴레이 간담회를 실시했다. 그 결과 생성형 AI를 활용하기 위해서는 클라우드 환경이 필수적이지만 금융회사에서 망분리 규제로 인해 클라우드를 이용하기 어렵다는 의견이 다수 제기됐다. 또한 생성형 AI 학습 등을 위해서는 방대한 양질의 데이터가 필요하지만 개별 회사가 이런 데이터를 확보하기 어려우므로 데이터 결합, 합성데이터 활용 확대 등에 대한 지원 요청도 있었다. 이와 함께 생성형 AI 활용시 발생할 수 있는 윤리 기준 등을 마련하기 위한 거버넌스가 부재하다는 의견도 제기됐다. 이런 의견들에 대해 김 부위원장은 "향후 '금융권 AI 협의회'를 통해 반드시 해결방안을 찾겠다"고 강조했다. 그는 "협의에서는 국내외 AI 기술과 정책동향을 함께 공유해 우리 금융회사들이 빠르게 변화하는 AI 기술에 신속히 대응할 수 있도록 하겠다"며 "AI 협의회가 금융권의 양질의 데이터 공동확보, AI 공동학습 등 협업을 지원할 수 있는 매개체가 되도록 하겠다"고 힘주어 말했다. 끝으로 김 부위원장은 "생성형 AI의 활용은 금융회사와 소비자에 미치는 영향력이 크고 다양할 수 있는 만큼 여러 전문가 지혜를 함께 모으는 것이 중요하다"며 "오늘 발족하는 협의회를 통해서 금융권에서 AI 활용이 활성화되고, AI를 안전하게 활용할 수 있도록 다양한 의견을 모아 우리 금융산업을 한 단계 더 도약시킬 수 있기를 기대한다"고 당부했다. seung@fnnews.com 이승연 기자

【파이낸셜뉴스 수원=장충식 기자】 경기도교육청은 교육과정과 수업에서 인공지능 윤리 의식을 키우기 위한 초·중등 인공지능(AI) 윤리교육 자료를 개발해 하반기 보급한다고 26일 밝혔다. 도교육청은 생성형 인공지능 등장 등 급격한 디지털 변화에 따라 인공지능 윤리교육 자료를 개발한다. 윤리교육 자료는 2022 개정 교육과정 교과별 성취기준과 국가 인공지능 윤리기준 10대 요건의 연계성 분석, 교과별 인공지능 윤리 함양 수업 사례, 인공지능 윤리 가치와 태도를 내면화할 수 있는 교과별 논·서술형 평가 문항 예시 등을 담는다. 특히 2022 개정 교육과정 교과별 성취기준과 인공지능 윤리기준 연계성을 분석해 교육과정과 수업, 평가를 지원한다는 데 큰 의미가 있다. 도교육청은 현장 교원, 교수, 연구자 등 교과 교육 및 인공지능 윤리 교육 전문가를 개발위원으로 위촉하고, 현장 소통, 전문가 검토를 통해 현장성 높은 자료를 개발할 계획이다. 도교육청 하미진 미래교육담당관은 "인공지능 기술을 윤리적으로 올바르게 사용하는데 필요한 역량은 디지털 시민으로서의 필수 소양"이라며 "2022 개정 교육과정을 기반으로 한 개발 자료가 학교 현장의 인공지능 윤리교육 확산에 기여할 것"이라고 말했다. jjang@fnnews.com 장충식 기자

LG AI연구원이 글로벌 무대에 국내 인공지능(AI) 업계의 목소리를 대변하는 역할을 맡는다. LG AI연구원은 지난 5일(현지시간)부터 이틀간 슬로베니아에서 열리는 '유네스코 AI 윤리 글로벌 포럼'에 국내 기업 중 유일하게 참가했다고 6일 밝혔다. 올해로 2회째를 맞은 유네스코 AI 윤리 글로벌 포럼은 첫 국제 표준인 'AI 윤리 권고' 이행 방안을 논의하기 위한 자리로 마련됐다. 유네스코 194개 회원국 과학기술 담당 장관들과 유럽의회 사무총장, 앨런 튜닝 연구소 윤리국장, 세계경제포럼 AI국장 등이 참석했다. 김유철 LG AI연구원 전략부문장은 포럼에서 연구·개발부터 활용 및 폐기에 이르기까지 AI 시스템의 생애주기별 LG만의 위험 관리 체계 구축 경험을 공유하고, 글로벌 빅테크를 비롯해 유네스코 회원국 및 국제기구 인사들과 AI 윤리 및 거버넌스 분야에서 긴밀한 협력 관계 구축을 위한 논의를 진행했다. 특히 LG AI연구원은 이번 포럼에서 민간 부문 AI 윤리 기구인 '유네스코 비즈니스 카운실'에 가입하며 국내 AI 업계 목소리 대변하는 구심점 역할을 맡았다. 비즈니스 카운실은 공동의장사인 마이크로소프트와 텔레포니카를 비롯한 글로벌 기업 중심으로 유네스코 AI 윤리 권고 이행을 촉진하는 기구다. AI 윤리영향평가 도구를 개발하고 운영 우수 사례를 확산하는 플랫폼 역할을 하고 있다. 김동호 기자

#1. 인공지능(AI)이 빠른 속도로 발전하면서 시간당 1을 처리하던 기계가 5를 처리할 수 있게 됐다. A씨는 이 기계를 이용해 일을 빠르게 끝내고 여유롭게 개인 시간을 보낸다. #2. 평소 스마트기기에 의존을 많이 하는 B씨는 요즘 들어 생각하는 시간이 줄었다. 하루 종일 화면을 들여다보니 굳이 생각할 필요가 없어졌기 때문이다. 스마트기기를 잃어버리는 날에는 불안감이 커져 일상생활을 할 수 없을 정도다. 【파이낸셜뉴스 라스베이거스(미국)=권준호 기자 홍창기 특파원】 미국 라스베이거스에서 열린 세계 최대 가전·정보기술(IT) 전시회 CES 2024의 최대 관심사인 AI의 순기능과 부작용을 놓고 세계적 전문가들의 논쟁이 달아올랐다. 글로벌 전문가들은 "AI 시대가 왔다"는 데 대부분 공감하면서도 "명과 암을 정확히 봐야 한다"고 입을 모았다. ■AI, 업무·개발 '혁명적 수단' 미국 반도체 기업 인텔, 국제전기전자공학자협회(IEEE) 등은 10일(현지시간) CES 컨벤션센터(LVCC), 베네시안 엑스포에서 각각 AI 관련 토론회를 열었다. 이날 토론회에는 가디 싱어 인텔 AI 담당 부사장을 비롯해 데이버 신드릭 인텔 부사장, 교수 등 AI 전문가들이 대거 참석했다. 이들은 "AI 시대가 왔다"는 데 이견이 없었다. 그러나 일부는 AI 시대에 닥친 현실과 미래에 대한 의견은 달랐다. 인텔은 핑크빛 미래를 점쳤다. 바스데브 랄 인텔 연구원은 "만약 몇백, 몇천 개의 문서를 처리하다가 갑자기 10만개가 넘는 문서를 처리하려면 어떻게 해야 할지, 어디서부터 시작해야 할지 큰 벽에 부딪힐 것"이라며 "응답을 몇 분이 아닌 몇 초 안에 받으려면 (AI 기능을 활용해) 그 벽을 넘어야 한다"고 말했다. 그는 AI 발달로 언어가 단순해진 부분도 '혁명'이라고 표현했다. 바스데브 연구원은 "(올바르게 AI를 사용할 경우) 데이터 과학자들이 애플리케이션 개발자 옆에 앉아서 긴 시간을 보낼 필요가 없어졌다"면서 "수십년 동안 다른 언어로 앱 개발을 해야 하는 불편함이 사라졌다"고 했다. 그동안 데이터 과학자는 주로 자연어를 사용하며 앱 개발자는 대규모언어모델(LLM)을 써왔지만 생성형 AI 등을 통해 새 전환점을 맞았다. 인텔 관계자는 "현재 AI 관련 보안 등을 책임 있게 연구하고 있으며, 효율적이고 발전된 모델을 개발하고 있다"고 전했다. ■"오히려 혁신 감소"…AI윤리도 난제 AI 대중화에 대한 반대 의견도 나왔다. 반대 진영은 △혁신 감소 △윤리문제 발생 등을 꼽았다. 캐슬린 크레이머 샌디에이고대학 전기공학 교수는 "자동화가 진행될수록 사람들은 점점 생각을 줄일 것"이라며 "AI 찬성론자들이 미래의 일자리가 더 많은 창의성과 혁신의 기회를 제공할 것이라고 하지만, 자율주행 동안 사람들이 더 창의적이고 혁신적인 일을 하는 것도 아니다"라고 주장했다. 보안 분야에서 25년 이상 일한 케인 맥글러리 IEEE 시니어는 "AI를 사용해 대량의 속임수 있는 정보를 만들어 주가에 영향을 미칠 수 있다"며 "AI가 경제의 큰 부분에 적용될 때는 의사처럼 윤리규정 등이 있어야 한다"고 제안했다. 한편 이날 기조연설을 한 정기선 HD현대 부회장은 AI 시대가 전통산업의 대혁신을 이끌 것으로 봤다. 정 부회장은 "AI를 비롯해 디지털, 로봇 등의 기술이 더해진 HD현대만의 혁신을 전 세계 건설현장에 전파시키겠다"고 강조했다. kjh0109@fnnews.com 권준호 홍창기 기자

[파이낸셜뉴스] 카카오가 국제행사에서 인공지능(AI) 윤리 도입의 중요성을 강조했다. 인권 기반 접근(Human Rights Based-Approach, HRBA)을 토대로 AI 윤리를 준수하는 것은 지속가능경영 측면에서도 가치 있는 일이란 게 핵심 내용이다. 15일 업계에 따르면 카카오는 지난 14일(현지시간 기준) 스위스 제네바 UN 회의장에서 열린 ‘스타트업의 관점에서 바라본 신뢰가능한 AI를 위한 인권 기반의 접근 및 관련 국제 규범에 대한 논의’ 보고서 발간 기념행사 패널로 나섰다. 앞서 서울대학교 AI정책이니셔티브(SAPI)는 지난 2022년 주제네바 대한민국 대표부의 의뢰로 URG와 함께 ‘신기술에 관한 인권 기반의 접근’에 대한 정책 연구를 수행해 보고서를 발간한 바 있다. 올해는 신기술 중 AI에 대한 인권 기반의 접근을 실천하는 방안을 스타트업의 관점에서 심도 있게 논의하는 후속 보고서를 발간했다. 해당 보고서에는 카카오 AI 윤리 거버넌스 고도화 사례가 담겨 있다. 카카오 인권과 기술윤리팀 하진화 매니저는 본 행사에 참여해 관련 내용을 소개했다. 행사 진행을 맡은 임용 교수는 “지금까지 AI 윤리를 포함한 거버넌스 논의가 서구권 빅테크 중심으로 이뤄진 측면이 있다”며 “앞으로는 보다 다양한 문화적 사회적 맥락이 반영되고, 미래 혁신의 엔진이 될 스타트업들의 관점에서도 현실적이고 실천 가능한 제안과 규범 논의가 필요하다”고 강조했다. 카카오는 그동안 연구하고 실천한 AI 윤리 실행 경험을 기반으로 AI 윤리강화를 위한 가이드라인, 사내 인식을 개선하기 위한 노력에 대해 설명했다. 이와 함께 AI를 포함한 기술 윤리를 기반으로 서비스를 검토하는 것이 안전하고 신뢰할 수 있는 서비스를 만드는 데 있어 중요한 근간이라고 강조했다. 카카오 인권과 기술윤리팀 하진화 매니저는 “카카오 AI 윤리 이슈는 ‘리스크 식별→과제 우선 순위 선정→문제 개선’의 절차에 따라 체계적으로 관리되고 있다”며 “일련의 과정은 카카오의 인권 경영 원칙과 긴밀하게 연관되어 있다”고 설명했다. 이채영 카카오 공동체 기술윤리위원회 위원장도 “사회적 책임에 걸맞은 윤리적 규범과 원칙에 대해 고민하고 기술을 활용한 서비스를 제공할 때 윤리적 접근 방식을 고려하는 것은 매우 가치 있고 중요한 일”이라며 “카카오는 책임감을 갖고 스스로 앞장서서 기술 윤리를 준수할 것이며 AI 윤리 점검도구 개발에 힘쓰고 구체적인 실천 방안을 마련하기 위해 노력할 것”이라고 밝혔다. elikim@fnnews.com 김미희 기자

LG AI연구원은 지난 24일 서울 마곡 LG사이언스파크에서 유네스코와 인공지능(AI) 윤리 실행과 확산을 위한 협력 의향서(LOI)를 체결했다고 26일 밝혔다. 유네스코가 AI윤리 실행을 위해 국내 기업과 손잡은 것은 이번이 처음이다. LG AI연구원과 유네스코는 이번 파트너십을 통해 AI윤리 영향 평가 및 데이터 프라이버시와 보안을 보장하는 거버넌스 모델을 함께 모색하는 등 인류와 지속 가능한 발전 모두에 기여하는 AI 기술 발전을 위해 뜻을 같이하기로 했다. mkchang@fnnews.com 장민권 기자