[파이낸셜뉴스] 카카오가 인공지능(AI) 기술의 윤리와 신뢰를 강화하고, 사회적 책임을 다하기 위한 활동을 보다 체계적으로 이행해간다. 카카오는 AI 기술 개발과 운영 과정에서 발생할 수 있는 리스크를 사전에 식별하고, 이를 관리하는 프로세스를 정의한 리스크 관리 체계인 ‘카카오 AI 세이프티 이니셔티브'(Kakao ASI)를 구축했다고 23일 밝혔다. 이 내용은 카카오의 개발자 컨퍼런스인 ‘if(kakaoAI)2024’의 첫날인 지난 22일 세션을 통해 공개됐다. Kakao ASI는 AI 기술 개발 및 운영 상의 위험 발생을 최소화하고, 안전하고 윤리적인 AI 시스템을 구축하기 위한 종합 지침이다. 특히 기술의 설계부터 개발, 테스트, 배포, 모니터링 및 업데이트 등 AI 시스템의 전 생애 주기에서 발생할 수 있는 리스크에 선제적인 대응이 가능한 것이 특징이다.  Kakao ASI는 △Kakao AI 윤리 원칙 △리스크 관리 사이클 △AI 리스크 거버넌스라는 3가지 핵심요소로 구성된다. ‘Kakao AI 윤리 원칙’은 지난 2023년 3월 발표한 ‘카카오 그룹의 책임 있는 AI를 위한 가이드라인’을 기반으로 사회 윤리, 포용성, 투명성, 프라이버시, 이용자 보호 등 원칙을 포함한다. ‘리스크 관리 사이클’은 리스크를 체계적으로 다루기 위한 접근법으로, 식별-평가-대응의 순환 단계로 구성된다. ‘AI 리스크 거버넌스’는 AI 시스템의 개발, 배포, 사용 등을 관리하고 감독하는 의사 결정 체계를 뜻한다. 조직 내 정책, 절차, 책임 구조 및 외부 규제와의 조화를 포함하며, 거버넌스 체계 내에서 관련 리스크들을 다각도로 검토하게 된다. Kakao ASI 거버넌스는 AI Safety, 전사 리스크 관리 전담 조직인ERM 위원회, 최고 의사결정 기구의 3단계로 구성된다. 지난 22일 컨퍼런스 세션에 연사자로 나선 카카오 김경훈 AI Safety 리더는 “AI 시스템 이용에 따른 리스크의 발생 주체를 AI와 인간으로 구분하고, 발생 주체 별 리스크의 특성을 반영해 평가 및 대응방안을 마련하였다는 점이 타사의 AI 리스크 관리 프레임워크와 차별화되는 점”이라고 말했다. 카카오는 Kakao ASI 구축 이후에도 AI 기술 개발과 운영 과정에서 발견되는 리스크를 신속하게 식별해 대응하고, 지속적으로 체계 고도화를 이어갈 계획이다.  김 리더는 "AI 기술의 영향력이 빠르게 확산되고 변화의 속도가 가속화되는 환경에 맞춰 안전한 AI 생태계 조성을 위한 협력을 이어가면서 Kakao ASI를 통해 윤리 기준을 선도해 갈 수 있도록 노력할 것"이라고 말했다.  yjjoe@fnnews.com 조윤주 기자

"인공지능(AI)이 인류 번영에 기여할 수 있도록 지속 가능한 발전과 안전의 균형 잡힌 접근이 필요하다." 5일 서울 송파구 롯데시네마에서 파이낸셜뉴스와 과학기술정보통신부가 공동 개최한 'AI월드 2024'에 참석한 주요 인사들은 AI 기술 발전이 우리 사회 전반에 걸쳐 혁신을 불러오고 있다며, AI 산업 육성과 안전 신뢰를 균형 있게 가져가야 한다고 입을 모았다. 유상민 과기정통부 장관은 이날 환영사를 통해 "정부는 AI 반도체 이니셔티브를 지난 4월 수립했으며 산업현장과 공공행정, 국민일상 전반의 AI 일상화에도 범부처가 총 7102억원의 재정을 투입하고 있다"면서 "과기부는 2025년도 연구개발(R&D)예산안 중 AI 분야에만 1조2000억원을 책정했다"고 강조했다. 유 장관은 "한국은 세계 최고 수준의 메모리반도체 경쟁력과 탄탄한 제조업 등 하드웨어 역량과 미국과 중국에 이어 전 세계에서 세번째로 초거대 AI 모델을 개발하는 저력을 보유하고 있다"면서 "독자적인 클라우드, AI 반도체, AI 모델 등 독자적인 AI 생태계도 갖추고 있으며 AI와 접목이 용이한 가전, 휴대폰, 자동차 등 제조업 분야가 강하다"고 덧붙였다. 이와 함께 "OECD국가 중 기업 AI 도입률 1위에 국민들이 AI에 대한 긍정적 인식이 매우 높다"고 강조했다. 유 장관은 "조만간 출범 예정인 국가 AI위원회가 국가 역량 결집의 구심점이 되도록 민관협력도 주도해 나갈 계획"이라며 "'AI월드 2024' 행사에서 한국이 도약하고 국민 삶이 윤택해질 수 있는 구체적 정책과 깊이 있는 논의가 이루어지기 기대한다"고 말했다. 이충용 대한전자공학회 회장은 축사를 통해 "이번 행사에서 AI 발전 이면에 있는 문제들도 함께 논의돼야 한다"고 당부했다. 특히 딥페이크 문제가 매우 심각해 AI 윤리 및 관련 법령 제정이 필수라고 강조했다. 그러면서도 "이와 동시에 AI 발전을 저해하지 않도록 신중한 접근이 필요하다"며 "AI 가속을 위한 산업의 성장에 따라 에너지와 환경에 대한 고민도 필수"라고 지적했다. 변동식 파이낸셜뉴스 사장은 개막사에서 "이제 AI는 단순히 도구에 그치지 않고 창의적 사고를 지원하고 복잡한 문제를 해결하며, 인간의 상상력과 협력할 수 있는 동반자로 자리 잡게 됐다"며 AI 발전과 우리 생활방식의 변화에 대해 설명했다. 변 사장은 "국내 최초로 멀티플렉스 영화관에서 글로벌 컨퍼런스를 개최하며 장소에 대한 고정관념도 깼다"면서 "압도적인 몰입감으로 AI월드를 경험하게 될 것"이라고 말했다. 특별취재팀 조윤주 팀장 김만기 김동호 조은효 박소연 구자윤 장민권 최종근 김준혁 권준호 노유정 임수빈 김예지 기자 김현지 서지윤 송지원 신지민 이동혁 이해람 최가영 최은솔 수습기자

[파이낸셜뉴스] 인공지능(AI) 기술을 활용해 신속하고 공정한 재판을 실현할 필요가 있다고 대법원 사법정책자문위원회 위원들이 다시 한번 중지를 모았다. 다만 사법부가 법적·윤리적 기준 제정이 필요하다고 제안했다. 14일 대법원에 따르면 자문위는 이날 오후 3차 회의를 열고 안건으로 올라온 ‘사법절차에서의 AI 활용과 그 법적·윤리적 기준’에 대해 이같이 논의한 뒤 대법원에 건의했다. 자문위는 사법정책과 관련된 각종 사법제도의 개선 방안에 관한 사항으로서 대법원장이 안건으로 올린 내용을 토의·심의하고 그 결과를 대법원장에게 건의하는 역할이다. 위원장을 포함해 7명이며, 3기는 법조계·언론계 출신으로 구성돼 있다. 자문위는 회의에서 딥러닝기반 AI 기술이 급속도로 발전하고, 특히 최근 등장한 거대언어모델(LLM)은 우리 사회의 다양한 영역에서 응용되고 있다고 평가했다. 그러면서 AI 기술은 다양한 영역을 포괄하는 범용기술이므로, 인공지능 기술을 통한 적정한 재판지원 활용 방안을 마련해 신속하고 공정한 재판을 실현할 필요가 있다는 결과를 냈다. 하지만 AI 기술 수준에선 한계가 완전히 해소되지 않았고, 재판 사무의 특성 등을 고려해 인공지능 활용에 대한 법적·윤리적 기준을 마련할 필요가 있다고 지적했다. 자문위는 “AI의 기술적 특성과 해외 사례를 참조해 우리 사법부의 AI 활용에 대한 법적·윤리적 기준을 마련하되, 그 기준에는 △기본권보장 및 평등 △신뢰성 △합법성 △책임성 △투명성 등과 같은 원칙을 포함하는 것이 바람직하다”고 설명했다. 이날 함께 안건으로 상정된 ‘합리적인 법원장 보임제도’는 충분한 토론을 위해 제4차 회의에서 추가 논의키로 했다. jjw@fnnews.com 정지우 기자

[파이낸셜뉴스]  카카오가 ‘2023 카카오 공동체 기술윤리 보고서’를 처음으로 발간했다고 28일 밝혔다. 지난해 7월 신설한 카카오 공동체 기술윤리 위원회의 올 한 해 다양한 행보를 담은 보고서다. 카카오는 지난 2022년 7월 카카오 공동체 전반에 걸쳐 기술윤리를 점검하고, 이를 사회와 함께 발전시켜 나가는 방안을 지속적으로 연구하기 위해 국내 기업 최초로 ‘카카오 공동체 기술윤리 위원회’를 출범한 바 있다. 카카오 이채영 기술부문장이 위원장을 맡고, 주요 공동체 CTO 등을 포함해 총 8명으로 구성됐다. 위원회 운영은 카카오 인권과 기술윤리팀에서 지원했다. 올 해 총 11번의 정기 회의를 개최했는데 그 주요 활동 결과 및 성과가 보고서에 담겼다. 카카오 공동체의 기술윤리 거버넌스 체계를 고도화했으며, 기술의 안정성•투명성 강화 측면에서 AI 개발 원칙 수립 및 AI 윤리규정 자가점검 도구 개발을 통해 책임 있는 서비스 개발의 토대를 마련하고자 했다. 카카오는 지난 3월 ‘카카오 공동체의 책임있는 AI를 위한 가이드라인'을 새롭게 제정한 바 있다. 가이드라인은 기존 알고리즘 윤리헌장의 중요 원칙을 계승하면서, AI 기술이 한층 더 안전성을 갖춰 다양한 서비스에 적용될 수 있도록 ▲윤리 기반 데이터 수집 및 학습 ▲사회적 편향 경계 ▲알고리즘 설명 가능성 확대 등을 추가했다. 가이드라인과 원칙의 실천을 위해 내부 조직과 실행 체계를 고도화했다. 위원회는 다양한 활동 성과를 바탕으로, 내년에도 인권경영에 기반을 둔 기술윤리 관점에서 서비스가 개발될 수 있도록 꾸준한 논의를 지속할 계획이다. 카카오 홍은택 대표이사는 보고서 발간사를 통해 “기술은 선하게 쓰일 때 건강한 혁신을 만들어 낼 수 있으며, 카카오는 기술의 건강성에 대해 앞서 고민해 왔다”며 “기술의 책임성과 투명성을 높이겠다는 카카오의 철학 및 실천 노력, 그리고 기술을 사회에 투명하게 알리고자 하는 카카오의 의지가 소상하게 전달되기를 바란다”고 말했다. yjjoe@fnnews.com 조윤주 기자

#. 지난달 중국의 한 업체가 '호화 요트파티'를 개최한다는 광고를 냈다. 선정적 복장을 하고 있는 접대부들이 요트파티에서 5시간 동안 접대를 한다는 내용이 포함됐다. 일대일 접대 서비스 가격은 1일에 430달러. 그러나 네티즌들이 광고에 공개된 접대부들이 인공지능(AI)으로 만든 가짜 이미지라는 것을 밝혀내자 파티는 취소됐고, 업체는 경찰의 수사를 받게 됐다.5일 관련업계에 따르면 대화형 AI서비스 '챗GPT' 등장을 기점으로 AI를 이용한 사기사건과 윤리 논란이 늘어날 것으로 전망된다. 사례에 나타난 가상인물의 경우 AI가 학습한 이미지가 인터넷상 실제 인물 사진이기 때문에 윤리적·법적 문제가 발생할 가능성이 높아서다. 해외에서 각종 선례가 나오며 국내에서도 범죄에 악용될 수도 있다는 지적이 나온다. 기존의 법체제로는 이를 제재할 수단도 마땅치 않다. 실제 인터넷 검색엔진에 'AI 실사' 등을 검색하면 각종 커뮤니티에 올라온 음란 이미지를 쉽게 찾아볼 수 있다. 댓글 역시 "실제 사진인지 구별되지 않는다"는 반응이 주를 이룬다. 이용자들은 음란 이미지를 생성하는 방법과 노하우를 공유 중이다. 이미지 생성 AI는 사용자가 대화창에 조건만 입력하면 그에 적절한 이미지를 만들어준다. 이미지 생성 AI는 사용자가 검색창에서 검색해 자신의 컴퓨터에 까는 것도 어렵지 않다. 음란물 제작 역시 같은 방식으로 이뤄진다. 업체가 서비스하는 생성 AI들은 음란 이미지를 막기 위해 금칙어를 정해두고 있지만, 사용자가 이를 피할 방법은 많다. 직접적인 단어 대신 약어나 은어 등을 입력하는 식이다. 또 인터넷에 공개된 오픈소스 AI의 경우 이런 금칙어의 제한을 받지 않는다. 누구나 마음만 먹으면 어떤 이미지도 만들어낼 수 있다는 뜻이다. AI가 만드는 이미지가 기존의 저작권이나 초상권 개념에 제한되지 않는 것도 문제다. 실제 이미지 생성 AI는 학습하는 데이터에 대한 저작권이나 초상권에 대한 사용료는 지급하고 있지 않다. 그림 생성 AI가 학습하는 이미지는 이미 인터넷상에 있는 수억개의 이미지들이다. 그중에는 일반인 이미지도 다수다. AI는 이 중 무작위로 사용자가 입력한 조건에 맞는 이미지를 합성·조합해 그림을 생성해낸다. 기술이 더 발전하면 생성 AI로 음란물 영상도 제작이 가능할 것으로 전망되는 등 각종 논란은 커질 것으로 보인다. 전문가들은 저작권, 인격침해 등의 문제에 선제대응이 필요하다고 지적한다. wongood@fnnews.com 주원규 기자

[파이낸셜뉴스] 한국전력기술은 2일 경북 김천 본사에서 청렴한 일터 정착을 위해 전 임직원들이 참여하는 '윤리데이' 행사를 실시했다. 이날 행사는 한국전력기술이 진행하는 '2020 윤리주간 프로그램'의 하나다. 한국전력기술은 지난달 26일부터 CEO 청렴메시지, 경영진 릴레이 서약, 온라인 청렴퀴즈, 엘리베이터 카드뉴스, 전직원 청렴서약, 청렴인식 캠페인 등 다양한 청렴·윤리 프로그램을 진행하고 있다. 이배수 한국전력기술 사장은 "국민들의 높아진 청렴인식 눈높이에 부응하는 한국전력기술만의 청렴문화를 정착해 나가겠다"고 말했다. 한국전력기술은 국민권익위원회 주관 부패방지시책평가에서 지난 3개년 연속 우수등급 이상의 평가를 받았다. skjung@fnnews.com 정상균 기자

[파이낸셜뉴스] 국내 과학기술인들이 시대적 요구와 국민 눈높이에 맞는 연구윤리 지침을 마련하기 위해 한자리에 모였다. 올해 우리나라 국가 연구개발 예산은 사상 처음 20조원을 돌파했으며, 내년도 예산은 18% 더 증가한 24.2조원으로 결정됐다. 우리나라 국가 연구개발 예산은 국내총생산 대비 비중으로 세계 최고 수준임에도 불구하고 이를 지원받는 과학기술계에서 최근 각종 연구부정 행위가 드러남에 따라 연구윤리 훼손 문제가 도마 위에 올랐다. 한국과학기술단체총연합회, 한국과학기술한림원, 한국공학한림원, 대한민국의학한림원은 23일 한국과학기술회관에서 '과학기술인 연구윤리강령 개정과 준수를 위한 토론회'를 공동 개최한다고 20일 밝혔다. 지난 해 언론보도를 통해 일부 연구자의 가짜 학술대회 참가, 해적 학술지 논문 게재, 연구비 부적절 집행, 미성년 자녀의 부당한 공저자 포함 등이 드러나면서 과학기술계의 신뢰 회복과 연구윤리 정립이 시급한 상황이다. 이와 관련해 과총과 3대 한림원은 지난 해 두 차례의 연구윤리 대토론회를 개최했으며, 이 자리에서 기존 과학기술인 연구윤리강령의 개정 필요성이 제기된 바 있다. 과학기술인 연구윤리강령은 지난 2007년 줄기세포 연구 부정 문제를 비롯해 잇따른 연구 부정행위가 발생함에 따라 자기반성과 연구윤리 의식에 대한 경각심 고취를 위해 제정됐다. 그러나 이 강령은 4차 산업혁명과 함께 대두된 자율주행차, 블록체인, 인공지능, 유전자가위 등의 신기술과 그에 따라 변화하는 사회 환경을 담아내지 못한다고 지적돼 왔다. 이에 과총은 올해 2월부터 과학기술인 연구윤리강령 개정을 위한 연구에 착수해 국내외 연구윤리 관련 법·제도·헌장·강령 등을 분석하고 10월부터 2달 동안 과학기술 분야 600여 단체의 의견 수렴 과정을 거쳐 개정안 초안을 완성했다. 이번 토론회는 개정안 도출 과정과 상세 내용을 공유하고 더 폭넓은 의견 수렴을 위해 마련됐다. 이날 토론회에서는 최지선 로앤사이언스 변호사가 '과학기술인 연구윤리 강령 개정 방향'을 주제로 발제를 맡는다. 이어지는 패널토론에는 엄창섭 대학연구윤리협의회 회장(고려대 의대 교수)을 좌장으로 고성석 한국공과대학장협의회 회장(전남대 공과대학장), 양종만 한국과학기술한림원 연구윤리위원회 위원장(이화여대 명예교수), 이준호 전국자연과학대학장협의회 회장(서울대 자연과학대학장), 최준호 한국과학기자협회 이사(중앙일보 과학·미래전문기자), 한선화 국가과학기술연구회 정책본부장, 황준영 한국연구재단 전략혁신본부장이 참여한다. 과총은 이번 토론회에서 제시되는 의견을 반영해 과학기술인 연구윤리강령 개정안을 완성할 예정이다. 과총은 "과학기술계는 시대적 요구와 국민의 눈높이 변화에 따라 스스로가 연구윤리 의식을 가다듬고 재정립해야 한다. 이번에 개정되는 과학기술인 연구윤리강령을 통해 연구현장에서 연구윤리 규정을 쉽게 이해하고 연구윤리 위반행위를 사전에 예방하도록 함으로써 과학기술계의 자정 능력이 향상되기를 기대한다."고 전했다. monarch@fnnews.com 김만기 기자

한국전력기술은 지난 2일 윤리의 날을 맞아 청렴윤리 문화 정착을 위한 윤리데이 행사를 실시했다고 5일 밝혔다. 한전기술은 윤리데이 행사로 적극적인 청렴윤리 실천을 위한 부패방지 청렴윤리 특강, 전직원 청렴·인권·갑질근절 서약, 경영진 청렴메시지 발송, 청백리연수 등 다양한 활동을 전개했다. 지난달 17~28일은 임직원을 대상으로 장재성 경찰인재개발원 교수를 초청해 청탁금지법과 임직원 윤리행동강령 등을 주제로 부패방지 청렴 특강을 실시했다. 전직원은 청렴·인권·갑질근절 실천 서약을 통해 청렴윤리의 생활화를 다짐했다. 이달 4일에는 경북 안동 한국국학진흥원에서 한전기술 윤리경영지킴이와 혁신선도그룹 30여명이 참가한 가운데 선현의 청렴정신을 되새기고 바람직한 공직자상을 정립하기 위한 청백리연수를 실시했다. 이배수 한전기술 사장은 "국민들이 바라는 청렴한 공직자의 모습은 친절, 공정, 배려의 자세를 바탕으로 적극적으로 행동하는 모습"이라며 "더욱 엄정한 윤리기준을 통해 국민에게 신뢰받는 한전기술이 되도록 노력하겠다"고 강조했다. 한전기술은 지난해 국민권익위원회 주관 공공기관 청렴도 평가 우수기관과 부패방지 시책평가 최우수기관에 선정된 바 있다. km@fnnews.com 김경민 기자

국가과학기술인력개발원은 연구자의 건강한 연구윤리 인식과 연구 신뢰도 제고를 위해 사이버 연구윤리 교육프로그램 개발·시행 계획을 1일 밝혔다. 국가과학기술인력개발원에 따르면 국가연구개발사업에 참여하는 연구책임자와 참여연구원으로 구분해 대상별 차별화된 교육 내용을 개발·제공하게 된다. 연구책임자 과정은 연구 현장에서 연구책임자 역할에 따른 다양한 연구 윤리 사례 기반의 기본과정과 연구 분야에 따른 전문 과정으로 구성된다. 참여연구원 과정은 연구수행 단계별 요구되는 연구윤리 기본지식을 제공, 대상별 체계적인 연구윤리 교육이 이뤄진다. 연구책임자 기본 교육과정은 연구책임자 대상 수요조사를 기반으로 개발과 시범운영을 시작하고 2015년에는 본격적으로 실시할 방침이다. 참여연구원 대상 교육과정은 내년부터 개발에 착수해 교육대상 및 과정을 단계적으로 확대된다. 국가과학기술인력개발원 류용섭 원장은 "사이버 연구윤리 교육과정 개발로, 건강한 연구윤리 의식 확산과 나아가 국제적 연구 신뢰도 향상 및 경쟁력 강화에 기여할 수 있을 것" 이라고 전했다. 한편, 국가과학기술인력개발원은 과학기술인력교육 전문기관으로 대학 및 출연(연) 연구자의 역량 강화를 위한 다양한 온·오프라인 교육과정을 제공하고 있다. bbrex@fnnews.com 김혜민 기자

공공연구기관 기술이전에 관한 지침이 제정, 시행된다. 이에 따라 기술이전시 우려되는 각종 도덕적 해이가 일부 감소할 것으로 전망된다. 지식경제부는 30일 공공연구기관이 보유한 기술의 공정하고 질서 있는 거래행위 형성 및 이전 촉진을 위해 관계부처 및 해당 공공연구기관의 의견수렴 절차를 거쳐 '공공연구기관의 기술이전에 관한 지침'을 31일부터 시행한다고 밝혔다. 이 지침은 기술이전윤리, 기술이전전담조직(TLO) 협의회·기술이전위원회 등 기술이전 추진체계, 기술 상품화 및 홍보 → 협상 및 계약체결 → 사후관리 등 단계별 기술이전 투명화·활성화에 필요한 사항을 담고 있다. 지침에 따르면 공공연구기관내 기술이전관련자는 기술이전과정에서 금품·향응 등 수수, 부당한 이익 도모를 위한 알선·청탁·지시 등을 해서는 안되고 공공연구기관장은 연 1회 윤리교육을 실시해야 한다. 현재 비공식적으로 운영중인 기술이전 전담조직 협의회 및 기관별 기술이전위원회의 자율적인 설치·운영의 근거를 도입했고, 기술의 추가 개량·보완 등 상품성 제고 노력 및 신문·방송 등 다양한 매체를 통한 기술홍보 추진, 기술개발 예고제 실시 근거 등 기술홍보를 강화토록 했다. 지침은 또 기술이전협상은 기술이전 전담조직이 기관장 지휘를 받아 추진하되 연구조직과의 명확한 역할 분담을 위해 연구자의 과다 개입을 지양토록 했으며 공공연구기관은 기술이전 후 기술도입자에 적극적인 기술지원 노력을 하도록 규정했다. 한편, 지경부는 공공연구기관의 기술이전 촉진을 위한 기술이전업무 매뉴얼 및 표준계약서 등을 정비, 올해 상반기 중 각급 기관에 보급할 예정이다. /sykim@fnnews.com 김시영기자