[파이낸셜뉴스] 카카오가 인공지능(AI) 기술의 윤리와 신뢰를 강화하고, 사회적 책임을 다하기 위한 활동을 보다 체계적으로 이행해간다. 카카오는 AI 기술 개발과 운영 과정에서 발생할 수 있는 리스크를 사전에 식별하고, 이를 관리하는 프로세스를 정의한 리스크 관리 체계인 ‘카카오 AI 세이프티 이니셔티브'(Kakao ASI)를 구축했다고 23일 밝혔다. 이 내용은 카카오의 개발자 컨퍼런스인 ‘if(kakaoAI)2024’의 첫날인 지난 22일 세션을 통해 공개됐다. Kakao ASI는 AI 기술 개발 및 운영 상의 위험 발생을 최소화하고, 안전하고 윤리적인 AI 시스템을 구축하기 위한 종합 지침이다. 특히 기술의 설계부터 개발, 테스트, 배포, 모니터링 및 업데이트 등 AI 시스템의 전 생애 주기에서 발생할 수 있는 리스크에 선제적인 대응이 가능한 것이 특징이다.  Kakao ASI는 △Kakao AI 윤리 원칙 △리스크 관리 사이클 △AI 리스크 거버넌스라는 3가지 핵심요소로 구성된다. ‘Kakao AI 윤리 원칙’은 지난 2023년 3월 발표한 ‘카카오 그룹의 책임 있는 AI를 위한 가이드라인’을 기반으로 사회 윤리, 포용성, 투명성, 프라이버시, 이용자 보호 등 원칙을 포함한다. ‘리스크 관리 사이클’은 리스크를 체계적으로 다루기 위한 접근법으로, 식별-평가-대응의 순환 단계로 구성된다. ‘AI 리스크 거버넌스’는 AI 시스템의 개발, 배포, 사용 등을 관리하고 감독하는 의사 결정 체계를 뜻한다. 조직 내 정책, 절차, 책임 구조 및 외부 규제와의 조화를 포함하며, 거버넌스 체계 내에서 관련 리스크들을 다각도로 검토하게 된다. Kakao ASI 거버넌스는 AI Safety, 전사 리스크 관리 전담 조직인ERM 위원회, 최고 의사결정 기구의 3단계로 구성된다. 지난 22일 컨퍼런스 세션에 연사자로 나선 카카오 김경훈 AI Safety 리더는 “AI 시스템 이용에 따른 리스크의 발생 주체를 AI와 인간으로 구분하고, 발생 주체 별 리스크의 특성을 반영해 평가 및 대응방안을 마련하였다는 점이 타사의 AI 리스크 관리 프레임워크와 차별화되는 점”이라고 말했다. 카카오는 Kakao ASI 구축 이후에도 AI 기술 개발과 운영 과정에서 발견되는 리스크를 신속하게 식별해 대응하고, 지속적으로 체계 고도화를 이어갈 계획이다.  김 리더는 "AI 기술의 영향력이 빠르게 확산되고 변화의 속도가 가속화되는 환경에 맞춰 안전한 AI 생태계 조성을 위한 협력을 이어가면서 Kakao ASI를 통해 윤리 기준을 선도해 갈 수 있도록 노력할 것"이라고 말했다.  yjjoe@fnnews.com 조윤주 기자

"교육에 인공지능(AI)이 개입되면 어떤 결과가 나올지 알 수 없다" "AI가 교육현장에 적용될수록 인간 교사의 역할이 더 중요해질 것" 인공지능(AI)이 수많은 직업을 대체할 것이라는 전망 속에서도 교실의 주역은 여전히 교사다. 오히려 AI를 활용해 학생들의 수준과 이해도를 실시간으로 파악하고 각 학생에 맞춤 수업을 진행하는 등 교사의 역할이 더 커질 가능성도 높다. 내년부터 도입될 'AI 디지털 교과서'를 비롯해 디지털 기술이 본격적으로 교육 영역에 진출하며 정부도 '교사가 이끄는 교실혁명'을 논의하는 자리가 마련했다. 지난 23일 방문한 '2024 에듀테크 코리아 박람회'에는 내년부터 공교육 현장에 도입되는 에듀테크 기술을 미리 보기 위한 방문객들로 북적였다. 교육부와 산업통상자원부가 주최한 이번 박람회는 '인공지능(AI)이 이끄는 에듀테크의 미래'를 주제로 열려, 국내 주요 교육 기업들이 참여했다. 실시간으로 사용자와 문답이 가능한 '생성형 AI' 활용이 일상에 퍼지며 '교육 AI'에 대한 관심은 해마다 늘고 있다. 2022년 3만1256명이었던 에듀테크 코리아 박람회 관람객은 지난해 3만5706명으로 14% 늘었다. 올해도 13개국의 220여개 기업이 부스를 차리고 기술 시연과 AI 시대 교육에 대한 논의를 이어갔다. 이날 교육부 정책홍보관(이노베이션관)에서는 '교사가 이끄는 교실혁명'의 주요 정책과 더불어 디지털 교과서의 시제품 체험과 시연이 진행됐다. 학생이 자신의 모니터에서 문제를 풀면 AI가 이해도와 학업 수준을 분석해 교사의 화면으로 전송했다. 여러 학생의 공부 현황에 대한 AI 분석을 교사가 실시간으로 확인할 수 있는 셈이다. 채점 외에도 문제를 푸는 속도나 방식, 진도율 등이 '교사용 화면'에 표시됐다. 이후 각 학생의 성취도에 따라 '맞춤 숙제'를 내는 것도 가능했다. 학생 1명마다 보조교사 1명씩 붙여두는 효과와 유사해 보였다.교육기업 웅진씽크빅은 자사 학습지에 '디지털 교과서'와 마찬가지로 문제 풀이별 진단과 이에 따른 맞춤형 학습 콘텐츠 제공 기술을 도입했다. 체감 난이도, 예측 정답률, 풀이 시간에 따라 학생별로 성취도를 높일 수 있는 커리큘럼을 AI 분석을 통해 내놓는다. 교과 연계뿐 아니라 유아기부터의 수학교습, 증강현실을 통한 외국어·독서교육 등 다양한 교육시장에 AI 기술을 적극 도입하고 있다. AI 디지털 교과서를 개발해 현재 검정심사를 진행 중인 아이스크림미디어는 QR코드 등을 통해 지면에 담을 수 없는 콘텐츠까지 교과서에 담아내고 있었다. 퀴즈·동영상 등 수업 자료를 제공하는 자사 플랫폼 '아이스크림S'와 연계해 폭넓은 AI 교과서 생태계를 구축한다는 계획이다. 박람회 참여자들은 AI가 교육에 깊숙하게 발을 들여놓음에 따라 올바른 사용을 위한 교사의 역할도 커지고 있다고 입을 모았다. AI가 내놓는 결과를 실제 학생에 적용하는 것은 어디까지나 교사의 역량에 속한다는 것이다. 원만호 웅진씽크빅 본부장은 대담회를 통해 "생성형 AI를 교육에 바로 적용했을 때 어떤 결과가 나올지 예측되지 않아 위험한 부분이 있다"며 "웅진씽크빅은 자체 구축한 DB 모델로 답을 제한하는 등 윤리적 부분을 고려하고 있다"고 말했다. 임보라 서울 명신초 교사는 "유네스코는 교육에서 AI가 활용될 때 교사 역할이 중요하다고 강조한다"며 "교사가 비판적으로 생각할 수 있고, 윤리적 모델을 구성하고, 수업을 디자인하는 AI 역량이 필요하다"고 강조했다. chlee1@fnnews.com 이창훈 기자

LG AI연구원이 국내 최초로 국제 표준화기구 윤리 인증 파트너에 이름을 올리며 '신뢰할 수 있는 인공지능(AI)'을 위한 개발 생태계를 선도한다. LG AI연구원은 이달 중순 국제 표준화 기구인 IEEE-SA(국제전기전자 표준협회)와 계약을 맺고 국내 첫 AI윤리평가 인증기관으로 선정됐다고 23일 밝혔다. LG AI연구원은 국제 AI윤리 인증인 'IEEE CertifAIEd' 국내 1호 협력기관으로서 AI윤리 국제표준을 선도해 나간다는 계획이다. 알페시 샤 IEEE-SA 회장은 "IEEE는 표준화 준비부터 적합성 검증 및 인증까지 국제사회에서 핵심적 역할을 수행하고 있다"며 "AI윤리 문제에 대해 진지하면서도 책임감 있는 모습을 보여주고 있는 LG와 인증 프로그램을 함께하게 돼 기쁘게 생각한다"고 말했다. 배경훈 LG AI연구원장(사진)은 "IEEE의 AI윤리 인증프로그램 한국 최초 공식 협력기관이라는 책임감을 갖고 AI가 인류와 사회에 유익한 가치를 제공하고 인권을 존중하는 방향으로 발전할 수 있도록 AI의 책임성과 투명성 강화에 기여하고자 한다"고 밝혔다. hoya0222@fnnews.com 김동호 기자

【파이낸셜뉴스】 한국지역정보개발원은 오는 25일 오후 2시 독일 프리드리히 나우만재단과 공동으로 제4회 온라인 정기세미나를 개최한다고 23일 밝혔다. 이번 세미나에서는 최근 대한민국을 뒤흔든 '딥페이크' 범죄와 관련, AI 기술 발전 못지않게 윤리적 문제 해결을 위한 규제 마련 또한 시급한 과제임을 보여준다. 개발원은 AI 기술을 어떻게 받아들이고, 어떤 윤리적 기준을 세워야할지 그 방향성을 모색하기 위해 이번 세미나를 마련했다. 세미나는 전문가 발표와 토론 및 질의응답 순으로 진행되며, 개발원 유튜브 채널을 통해 실시간으로 운영된다. 첫 번째 발표는 국제인공지능윤리협회 전창배 이사장이 '국내외 최신 AI 윤리 이슈와 해결방안'이라는 제목으로 진행하며, AI 윤리의 중요성과 사회적 역할에 대해 알아본다. 이어 고려대학교 정보보호대학원 임지훈 박사가 '글로벌 인공지능 규제 동향과 시사점'이라는 제목으로 발표를 진행하며, 다양한 해외 사례들을 살펴볼 예정이다. 마지막으로 발표 내용을 바탕으로 온라인 참여자들이 실시간으로 자유롭게 소통하는 시간이 주어질 예정이다. 세미나 신청은 디지털 분야에 관심 있는 사람이면 누구나 가능하며, 오는 25일 오전 11시까지 세미나 홍보 포스터의 QR코드를 통해 신청하면 된다. 신청자에게는 행사당일 세미나 접속이 가능한 링크가 발송된다. 김석진 부원장은 "최근 AI에 대한 수요가 높아지고 다양한 분야에 활용됨에 따라 AI 기술에 대한 윤리적 딜레마는 반드시 발생할 수밖에 없다"며 "이번 세미나를 통해 AI 기술이 인간의 가치를 위협하지 않고 이롭게 사용될 수 있는 좋은 방안들이 논의되길 바란다"고 말했다. jjang@fnnews.com 장충식 기자

[파이낸셜뉴스] LG AI연구원이 국내 최초로 국제 표준화기구 윤리 인증 파트너에 이름을 올리며 '신뢰할 수 있는 인공지능(AI)'을 위한 개발 생태계를 선도한다. LG AI연구원은 이달 중순 국제 표준화 기구인 IEEE-SA(국제전기전자 표준협회)와 계약을 맺고, 국내 첫 AI 윤리 평가 인증 기관으로 선정됐다고 23일 밝혔다. LG AI연구원은 국제 AI 윤리 인증인 'IEEE CertifAIEd' 국내 1호 협력 기관으로서 AI 윤리 국제 표준을 선도해 나간다는 계획이다. 알페시 샤 IEEE-SA 회장은 "IEEE는 표준화 준비부터 적합성 검증 및 인증에 이르기까지 유네스코, OECD 등과 협력해 국제사회에서 핵심적 역할을 수행하고 있다"며 "AI 윤리 문제에 대해 진지하면서도 책임감 있는 모습을 보여주고 있는 LG와 인증 프로그램을 함께하게 돼 기쁘게 생각한다"고 말했다. 배경훈 LG AI연구원장( 사진)은 "IEEE의 AI 윤리 인증 프로그램 한국 최초 공식 협력 기관이라는 책임감을 갖고 AI가 인류와 사회에 유익한 가치를 제공하고 인권을 존중하는 방향으로 발전할 수 있도록 AI의 책임성과 투명성 강화에 기여하고자 한다"고 밝혔다.       hoya0222@fnnews.com 김동호 기자

"인공지능(AI)이 인류 번영에 기여할 수 있도록 지속 가능한 발전과 안전의 균형 잡힌 접근이 필요하다." 5일 서울 송파구 롯데시네마에서 파이낸셜뉴스와 과학기술정보통신부가 공동 개최한 'AI월드 2024'에 참석한 주요 인사들은 AI 기술 발전이 우리 사회 전반에 걸쳐 혁신을 불러오고 있다며, AI 산업 육성과 안전 신뢰를 균형 있게 가져가야 한다고 입을 모았다. 유상민 과기정통부 장관은 이날 환영사를 통해 "정부는 AI 반도체 이니셔티브를 지난 4월 수립했으며 산업현장과 공공행정, 국민일상 전반의 AI 일상화에도 범부처가 총 7102억원의 재정을 투입하고 있다"면서 "과기부는 2025년도 연구개발(R&D)예산안 중 AI 분야에만 1조2000억원을 책정했다"고 강조했다. 유 장관은 "한국은 세계 최고 수준의 메모리반도체 경쟁력과 탄탄한 제조업 등 하드웨어 역량과 미국과 중국에 이어 전 세계에서 세번째로 초거대 AI 모델을 개발하는 저력을 보유하고 있다"면서 "독자적인 클라우드, AI 반도체, AI 모델 등 독자적인 AI 생태계도 갖추고 있으며 AI와 접목이 용이한 가전, 휴대폰, 자동차 등 제조업 분야가 강하다"고 덧붙였다. 이와 함께 "OECD국가 중 기업 AI 도입률 1위에 국민들이 AI에 대한 긍정적 인식이 매우 높다"고 강조했다. 유 장관은 "조만간 출범 예정인 국가 AI위원회가 국가 역량 결집의 구심점이 되도록 민관협력도 주도해 나갈 계획"이라며 "'AI월드 2024' 행사에서 한국이 도약하고 국민 삶이 윤택해질 수 있는 구체적 정책과 깊이 있는 논의가 이루어지기 기대한다"고 말했다. 이충용 대한전자공학회 회장은 축사를 통해 "이번 행사에서 AI 발전 이면에 있는 문제들도 함께 논의돼야 한다"고 당부했다. 특히 딥페이크 문제가 매우 심각해 AI 윤리 및 관련 법령 제정이 필수라고 강조했다. 그러면서도 "이와 동시에 AI 발전을 저해하지 않도록 신중한 접근이 필요하다"며 "AI 가속을 위한 산업의 성장에 따라 에너지와 환경에 대한 고민도 필수"라고 지적했다. 변동식 파이낸셜뉴스 사장은 개막사에서 "이제 AI는 단순히 도구에 그치지 않고 창의적 사고를 지원하고 복잡한 문제를 해결하며, 인간의 상상력과 협력할 수 있는 동반자로 자리 잡게 됐다"며 AI 발전과 우리 생활방식의 변화에 대해 설명했다. 변 사장은 "국내 최초로 멀티플렉스 영화관에서 글로벌 컨퍼런스를 개최하며 장소에 대한 고정관념도 깼다"면서 "압도적인 몰입감으로 AI월드를 경험하게 될 것"이라고 말했다. 특별취재팀 조윤주 팀장 김만기 김동호 조은효 박소연 구자윤 장민권 최종근 김준혁 권준호 노유정 임수빈 김예지 기자 김현지 서지윤 송지원 신지민 이동혁 이해람 최가영 최은솔 수습기자

[파이낸셜뉴스] 인공지능(AI) 기술을 활용해 신속하고 공정한 재판을 실현할 필요가 있다고 대법원 사법정책자문위원회 위원들이 다시 한번 중지를 모았다. 다만 사법부가 법적·윤리적 기준 제정이 필요하다고 제안했다. 14일 대법원에 따르면 자문위는 이날 오후 3차 회의를 열고 안건으로 올라온 ‘사법절차에서의 AI 활용과 그 법적·윤리적 기준’에 대해 이같이 논의한 뒤 대법원에 건의했다. 자문위는 사법정책과 관련된 각종 사법제도의 개선 방안에 관한 사항으로서 대법원장이 안건으로 올린 내용을 토의·심의하고 그 결과를 대법원장에게 건의하는 역할이다. 위원장을 포함해 7명이며, 3기는 법조계·언론계 출신으로 구성돼 있다. 자문위는 회의에서 딥러닝기반 AI 기술이 급속도로 발전하고, 특히 최근 등장한 거대언어모델(LLM)은 우리 사회의 다양한 영역에서 응용되고 있다고 평가했다. 그러면서 AI 기술은 다양한 영역을 포괄하는 범용기술이므로, 인공지능 기술을 통한 적정한 재판지원 활용 방안을 마련해 신속하고 공정한 재판을 실현할 필요가 있다는 결과를 냈다. 하지만 AI 기술 수준에선 한계가 완전히 해소되지 않았고, 재판 사무의 특성 등을 고려해 인공지능 활용에 대한 법적·윤리적 기준을 마련할 필요가 있다고 지적했다. 자문위는 “AI의 기술적 특성과 해외 사례를 참조해 우리 사법부의 AI 활용에 대한 법적·윤리적 기준을 마련하되, 그 기준에는 △기본권보장 및 평등 △신뢰성 △합법성 △책임성 △투명성 등과 같은 원칙을 포함하는 것이 바람직하다”고 설명했다. 이날 함께 안건으로 상정된 ‘합리적인 법원장 보임제도’는 충분한 토론을 위해 제4차 회의에서 추가 논의키로 했다. jjw@fnnews.com 정지우 기자

LG그룹이 유네스코와 함께 인공지능(AI) 윤리 플랫폼을 만든다. LG AI연구원은 지난 22일 AI 서울 정상회의가 열린 서울 성북구 한국과학기술연구원(KIST)에서 유네스코와 AI 윤리 글로벌 온라인 공개강좌 사업(MOOC) 공동 추진을 위한 협약을 맺었다고 23일 밝혔다. LG AI연구원과 유네스코는 2025년 말 공개를 목표로 연내 국제 전문가로 자문그룹을 꾸리고 AI 윤리 교육 코스 개발을 시작하기로 합의했다. hoya0222@fnnews.com 김동호 기자

[파이낸셜뉴스] LG그룹이 유네스코와 함께 인공지능(AI) 윤리 플랫폼을 만든다. LG AI연구원은 지난 22일 AI 서울 정상회의가 열린 서울 성북구 한국과학기술연구원(KIST)에서 유네스코(UNESCO)와 AI 윤리 글로벌 온라인 공개강좌 사업(MOOC) 공동 추진을 위한 협약을 맺었다고 23일 밝혔다. 협약식에는 김수현 아태지역사무소장, 이라클리 코델리 AI 윤리과장, 김은송 뉴델리사무소 인문사회과학부문 과장 등 유네스코 고위 관계자들과 배경훈 원장, 김유철 전략부문장 등 LG AI연구원 관계자들이 참석했다. LG AI연구원과 유네스코는 2025년 말 공개를 목표로 연내 국제 전문가로 자문 그룹을 꾸리고 AI 윤리 교육 코스 개발을 시작하기로 합의했다. AI의 윤리적 사용에 대한 첫 국제 표준인 'AI 윤리 권고'를 기반으로 LG와 유네스코의 협업이 본격화될 전망이다.    hoya0222@fnnews.com 김동호 기자

[파이낸셜뉴스] 김소영 부위원장이 "전세계적으로 AI 패권 경쟁이 치열해지는 가운데 우리 정부는 '초거대 AI 초일류 국가 도약'을 주요 국정목표로 설정하고 AI 경쟁력 강화를 추진하고 있다"고 28일 밝혔다. 김 부위원장은 이날 서울 중구 은행회관에서 '금융권 AI 협의회 발족식' 모두발언을 통해 "주요 국가들도 생성형 AI의 활성화 및 안전한 활용 방안에 대해 치열하게 고민하고 있다"며 이같이 말했다. 김 부위원장은 "미국의 경우 생성형 AI의 안전한 개발과 배포를 지원하기 위해 정부, 기업, 학계 등 다양한 집단이 논의하는 'AI 안전 컨소시엄'을 지난달 발족하는 등 생성형 AI의 혁신 생태계 마련을 적극 추진하고 있다"며 "EU의 경우 생성형 AI의 위험수준에 따라 차등화된 의무를 부여하고 위반시 제재토록 하는 AI 법안이 이번달 최종 승인돼 2025년부터 단계적 발효를 앞두고 있다"고 부연했다. 이에 금융위원회도 이번 출범하는 '금융권 AI 협의회'를 통해 현장에서 제기된 AI 활용에 있어 애로사항을 해결하겠다고 밝혔다. 앞서 금융위원회는 지난 2월부터 총 3회에 걸쳐 업권별 릴레이 간담회를 실시했다. 그 결과 생성형 AI를 활용하기 위해서는 클라우드 환경이 필수적이지만 금융회사에서 망분리 규제로 인해 클라우드를 이용하기 어렵다는 의견이 다수 제기됐다. 또한 생성형 AI 학습 등을 위해서는 방대한 양질의 데이터가 필요하지만 개별 회사가 이런 데이터를 확보하기 어려우므로 데이터 결합, 합성데이터 활용 확대 등에 대한 지원 요청도 있었다. 이와 함께 생성형 AI 활용시 발생할 수 있는 윤리 기준 등을 마련하기 위한 거버넌스가 부재하다는 의견도 제기됐다. 이런 의견들에 대해 김 부위원장은 "향후 '금융권 AI 협의회'를 통해 반드시 해결방안을 찾겠다"고 강조했다. 그는 "협의에서는 국내외 AI 기술과 정책동향을 함께 공유해 우리 금융회사들이 빠르게 변화하는 AI 기술에 신속히 대응할 수 있도록 하겠다"며 "AI 협의회가 금융권의 양질의 데이터 공동확보, AI 공동학습 등 협업을 지원할 수 있는 매개체가 되도록 하겠다"고 힘주어 말했다. 끝으로 김 부위원장은 "생성형 AI의 활용은 금융회사와 소비자에 미치는 영향력이 크고 다양할 수 있는 만큼 여러 전문가 지혜를 함께 모으는 것이 중요하다"며 "오늘 발족하는 협의회를 통해서 금융권에서 AI 활용이 활성화되고, AI를 안전하게 활용할 수 있도록 다양한 의견을 모아 우리 금융산업을 한 단계 더 도약시킬 수 있기를 기대한다"고 당부했다. seung@fnnews.com 이승연 기자