"예전에 휴대폰에서 인터넷을 한다고 하면 '어떻게 해'라고 했는데 스마트폰이 나왔다. 로봇도 사람들이 내가 살아있는 동안 '휴머노이드가 있겠어'라고 생각하지만 지금 하고 있다." 김선욱 엔비디아 코리아 테크니컬 마케팅 상무는 27일 서울 여의도 콘래드호텔에서 열린 제15회 퓨처ICT포럼에서 특별강연자로 나서 "예전에 IT가 컴퓨터, 휴대폰, 자동차에 머물렀다면 이제는 AI가 산업 전반으로 펼쳐나가고 있다"고 말했다. 김 상무는 "엔비디아는 남들이 안 하는 가속 컴퓨팅 분야에 집중을 했다"며 "(엔비디아) 그래픽처리장치(GPU)가 비싸다고 생각하시는데, 에너지와 돈도 절약할 수 있는 데다 그만큼 빠르게 연산할 수 있다"고 밝혔다. 그는 "앞으로의 AI는 디지털 AI라고 해서 물리법칙을 다 반영한 AI를 만들어야 하기에 연산량이 훨씬 많다"며 "그래서 우리가 하드웨어 아키텍처 블랙웰을 만들었는데, 하나의 칩이 아닌 네트워크·서버 등을 고려한 시스템이라고 보면 된다"고 설명했다. 이어 "여기에 움직이는 물리적 형태를 넣으면 휴머노이드 로봇이 될 텐데, 로봇이 세상에서 많은 것을 하게 되는 건 너무 당연할 것"이라며 "지금의 AI 방향도 이 점에 집중해 연구한다면 미래를 생각하는 데 많은 도움이 될 것"이라고 조언했다. 서진원 구글클라우드 본부장은 '구글 제미나이와 AI 기술 전망'이라는 주제로 한 특별강연에서 구글 제미나이 기술에 대한 소개와 안전한 AI의 중요성을 강조했다. 서 본부장은 "현재까지 AI는 이미 정답을 알고 있는 수준의 AI 형태라고 보면 되는데, 생성형 AI가 나오면서 답이 없음에도 추론하는 형태까지 발전된 상태"라면서 "향후 이 기술이 안정화될 경우 멀티모달(복합정보처리)로 우리가 대화를 통해 모든 것들을 처리하는 시대가 도래할 것"이라고 예상했다. 그는 "AI의 안전성 문제도 대두되고 있다"며 "구글은 AI를 비롯해 모든 기술을 개발할 때 항상 안전성을 보여야 하고 이 안전성이 인류에게 이로운 방향으로 흘러가야 한다고 생각한다"고 밝혔다. 특별취재팀 구자윤 팀장 조윤주 김만기 김준혁 임수빈 김예지 최아영 기자

“예전에 휴대폰에서 인터넷을 한다고 하면 ‘어떻게 해’라고 했는데 스마트폰이 나왔다. 로봇도 사람들이 내가 살아있는 동안 ‘휴머노이드가 있겠어’라고 생각하지만 지금 하고 있다.” 김선욱 엔비디아 코리아 테크니컬 마케팅 상무는 27일 서울 여의도 콘래드호텔에서 열린 제15회 퓨처ICT포럼에서 특별강연자로 나서 “예전에 IT가 컴퓨터, 휴대폰, 자동차에 머물렀다면 이제는 AI가 산업 전반으로 펼쳐나가고 있다”고 말했다. 김 상무는 “엔비디아는 남들이 안 하는 가속 컴퓨팅 분야에 집중을 했다”며 “(엔비디아) 그래픽처리장치(GPU)가 비싸다고 생각하시는데, 에너지와 돈도 절약할 수 있는 데다 그만큼 빠르게 연산할 수 있다”고 밝혔다.  그는 “앞으로의 AI는 디지털 AI라고 해서 물리 법칙을 다 반영한 AI를 만들어야 하기에 연산량이 훨씬 많다”며 “그래서 우리가 하드웨어 아키텍처 블랙웰을 만들었는데, 하나의 칩이 아닌 네트워크, 서버 등을 고려한 시스템이라고 보면 된다”고 설명했다. 이어 “여기에 움직이는 물리적 형태를 넣으면 휴머노이드 로봇이 될텐데, 로봇이 세상에서 많은 것을 하게 되는 건 너무 당연할 것”이라며 “지금의 AI 방향도 이 점에 집중해 연구한다면 미래를 생각하는데 많은 도움이 될 것”이라고 조언했다.  서진원 구글클라우드 본부장은 ‘구글 제미나이와 AI 기술 전망’이라는 주제로 진행된 특별강연에서 구글 제미나이 기술에 대한 소개와 안전한 AI의 중요성을 강조했다. 서 본부장은 “현재까지 AI는 이미 정답을 알고 있는 수준의 AI 형태라고 보면 되는데, 생성형 AI가 나오면서 답이 없음에도 추론하는 형태까지 발전된 상태”라면서 “향후 이 기술이 안정화될 경우 멀티모달(복합정보처리)로 우리가 대화를 통해 모든 것들을 처리하는 시대가 도래할 것”이라고 예상했다.  그는 “AI의 안전성 문제도 대두되고 있다”며 “구글은 AI를 비롯해 모든 기술을 개발할 때 항상 안전성을 보여야 하고 이 안전성이 인류에게 이로운 방향으로 흘러가야 한다고 생각한다”고 밝혔다.  solidkjy@fnnews.com 구자윤 기자

[파이낸셜뉴스] 오는 2030년까지 AI반도체·컴퓨팅 성능을 글로벌 톱3 수준까지 끌어올리고, AI데이터센터(AIDC) 국산화율 20% 달성을 목표로 한 'AI 반도체를 활용한 K-클라우드 기술개발 사업(K-클라우드 기술개발사업)'이 예비타당성 조사를 통과했다. 이에 따라 2025~2030년 AI 반도체 및 클라우드 분야에 4000억원 이상을 투입한다.  과기정통부는 26일 열린 2024년 제5회 국가연구개발사업평가 총괄위원회에서 K-클라우드 기술개발사업이 심의·의결을 거쳐 예타조사를 통과했다고 밝혔다. 이 사업을 통해 저전력·고성능 국산 AI반도체에 특화된 세계 최고 수준의 클라우드 데이터센터 하드웨어(HW), 소프트웨어(SW) 핵심기술을 확보하고, 한국의 AI컴퓨팅 경쟁력을 강화하겠다는 방침이다.  정부는 K-클라우드 기술개발사업에 총 4031억원(국비 3462억원)을 투자한다. 이를 토대로 국산 AI반도체 기반 데이터센터 인프라 및 HW, 데이터센터 컴퓨팅 SW, AI반도체 특화 클라우드 기술 등 3개 전략분야 28개 세부과제를 추진한다. 사업이 종료되는 2030년에는 국산 AI반도체 기반 AI컴퓨팅 학습·추론 성능효율을 글로벌 톱3 수준으로 강화하고, AIDC 국산화율을 20%로 끌어올리겠다는 방침이다. 정부는 이번 사업을 통해 AI반도체 기업, 시스템SW 기업, 클라우드 기업, AI기업 등 산업 전반이 활성화될 수 있을 것으로 기대했다. 이종호 과기정통부 장관은 "K-클라우드 기술개발사업은 AI시대 핵심 인프라인 AIDC를 우리 기술로 완성하기 위해 필수적인 사업이며, 디지털 탄소중립에도 기여할 수 있을 것"이라며 "사업을 성공적으로 추진해 지속가능한 AI생태계를 조성하고 AI와 AI반도체 기술혁신을 달성하는 등 'AI-반도체 이니셔티브'를 성공적으로 실현할 수 있도록 최선을 다하겠다"고 전했다. jhyuk@fnnews.com 김준혁 기자

[파이낸셜뉴스] 광주과학기술원(GIST) AI대학원 전해곤 교수팀이 거대언어모델(LLM) 기술을 활용해 인간의 사고를 모방한 프로세스로 보행자 경로를 예측하는 인공지능(AI) 알고리즘을 개발했다. 이는 보행자의 안전을 확보해야 하는 자율주행 시스템의 보행자 회피 기술과 서비스 로봇 분야에 활용될 수 있다. 전해곤 교수는 "이번 연구 성과는 거대언어모델이 인간의 사고방식을 모사해 사회적 관계성을 추론하며, 인간의 행동 역학을 배워 미래 동작을 예측했다는 데 학술적 의의가 크다"며, "거대언어모델이 문자에서 더 나아가 물리 역학적 추론까지 가능하게 되면 인공 일반 지능(AGI)으로의 기술 확장과 실용화를 앞당길 것으로 기대된다"고 말했다. 지금까지 AI로 보행자의 미래 경로를 예측하는 방법론에서는 인간의 행동 역학을 수학적·통계적 방법으로 보행자의 위치를 모델링해 보행 가능 경로와 최종 도착지를 예측했다. 이 방식은 숫자만을 이용해 가장 가능성 있는 위치를 예측하므로 인간의 사고를 대변하기에는 한계가 있다. 연구진은 이보다 훨씬 더 인간의 사고와 유사하게 미래 보행 계획을 예측하는 기술을 개발했다. LLM이 가진 방대한 양의 지식을 접목해 보행자의 현재 상태와 주변 사람과의 사회적 관계를 인간처럼 분석한 것이다. 챗 GPT로 잘 알려진 LLM은 AI의 한 종류로, 방대한 양의 텍스트 데이터를 학습해 인간의 언어를 이해하고 생성할 수 있는 능력을 갖춘 딥러닝 기반의 모델이다. 연구진은 이번 연구에서 LLM이 갖는 높은 수준의 언어 이해와 생성 능력을 활용했다. 이를통해 AI가 보행 방향 및 도착지 예상, 보행자들의 집단 형성, 충돌 가능성 회피, 선행-후행 정리 등 인간의 인지와 사회적 추론을 할 수 있게끔 개발했다. 특히, 숫자만으로 AI가 어떠한 사유로 행동을 예측했는지 판단하는 기존 방법론과 달리 언어모델이 직접적으로 사회적 추론 결과를 대화로 알려줄 수 있다는 점이 이번 연구의 가장 큰 장점이다. 또한 이번 연구 성과로 거대언어모델이 문자라는 한계에서 벗어나 인간의 물리적인 행동 역학을 직접적으로 예측할 수 있게 되었는데 글의 문법과 흐름을 패턴으로 인식하는 언어모델은 보행자의 한 걸음 한 걸음을 일종의 패턴으로 인지하여 다음에 발 디딜 위치를 예측한다. 이번 연구 성과로 인해 동역학에 대한 인공지능의 이해 능력은 인간이 마주하는 매 상황에서의 순간적인 사회적 추론과 결합하여 보다 더 인간처럼 사고해 인간의 결정과 유사하게 미래를 예측할 수 있을 것으로 기대된다. 한편, GIST AI대학원 전해곤 교수가 지도하고 배인환 박사과정생이 수행한 이번 연구는 AI 분야 세계 최고권위의 국제 학술대회인 'CVPR'에서 19일 발표될 예정이다.   monarch@fnnews.com 김만기 기자

[파이낸셜뉴스] 애플이 마이크로소프트(MS)를 제치고 다시 시가총액 1위 자리를 탈환하면서 이른바 '아이폰 슈퍼 사이클'이 도래할 것이란 전망이 나온다. 이에 D램, 카메라 고부가 부품 등의 수혜로 삼성전자, SK하이닉스, LG이노텍에 관심을 가져야 한다는 주장이다. 14일 금융투자업계에 따르면 지난 13일(현지시간) 종가 기준 애플의 시가총액은 3조2850억달러(약 4250조원)로 마이크로소프트 시가총액 3조2810억달러를 근소한 차이로 제치고 5개월만에 시총 1위에 복귀했다. 향후 애플은 3조달러에 안착하며 시총 1위를 유지할 가능성이 크다. 하반기 인공지능(AI) 아이폰16 출시가 3억대 규모의 아이폰 교체 수요를 크게 자극하고 있기 때문이다. 향후 앱 기반의 AI 구독 서비스 출시를 통한 수익성 개선도 예상된다. 애플은 연례 '세계개발자회의(WWDC 2024)'의 개최를 통해 올 하반기 출시될 아이폰16부터 업그레이드 버전의 '시리(Siri)'를 선보인다. 또 애플은 오픈AI의 응용프로그램 인터페이스(API)를 시리에 연결해 사용자 질문 의도를 잘 이해하고 통상 범위를 넘어서는 대화에도 응답할 수 있을 것으로 기대하고 있다. 증권업계는 애플이 공개한 AI, 애플 인텔리전스(Apple Intelligence)가 아이폰15 프로 이상, M1 이상 칩셋을 탑재한 아이패드, 맥북부터 지원할 계획이라고 예상했다. 따라서 향후 애플은 AI 시스템을 아이폰 고가 모델인 프로 시리즈(Pro, Pro Max) 중심으로 제공할 전망이다. KB증권 김동원 연구원은 "애플이 오픈AI와 전략적 파트너십으로 대화형 AI 서비스를 시리에 통합함에 따라 향후 애플은 AI 생태계 확장의 발판을 마련한 것으로 평가된다"라며 "애플은 전 세계에 구동 중인 22억대 아이폰을 통해 생성형 AI 학습을 위한 빅데이터 수집과 자체 개발된 AI칩을 추론 작업에 적용해 아이폰 AI 생태계 조성 시기가 빨라질 것으로 예상된다"고 전망했다. 향후 애플이 온디바이스 AI를 성공적으로 구현하고 애플 인텔리전스 업그레이드를 통한 서비스 다양화와 AI 기능 탑재 모델이 확대된다면 아이폰 D램 용량은 방향성 측면에서 늘어날 전망이다. 더욱이 AI 기능 차별화를 위한 영상 및 이미지 분석에 추가적인 광학 기술이 필요해 아이폰 카메라 모듈의 성능 업그레이드는 필수적이다. 김 연구원은 "최근 6년간 교체 주기가 도래한 아이폰이 3억대에 육박하고, 배터리 및 카메라 기능으로 인해 아이폰12 사용자들의 기기 교체 필요성이 커짐에 따라 올 하반기 아이폰16부터 교체를 시작해 2025년 하반기(아이폰17)까지 대규모 교체 수요가 이어질 것으로 예상된다"고 말했다. 그는 이어 "애플 AI 시스템, 온디바이스 AI 환경에서 애플 인텔리전스의 원활한 구동과 서비스 구현을 위해 D램 및 카메라 업그레이드가 필수로 요구됨에 따라 삼성전자, SK하이닉스, LG이노텍의 최대 수혜가 기대된다"고 덧붙였다. dschoi@fnnews.com 최두선 기자

[파이낸셜뉴스] "기업이 생성형 인공지능(AI)을 원하는 만큼 신속하게 도입하지 못하는 이유는 생성형 AI에 맞게 데이터를 적절히 관리하는 데 어려움을 겪고 있기 때문이다." 빈센트 쉬 IBM 스토리지 최고기술책임자(CTO·부사장)는 4일 서울 영등포 한국IBM 본사에서 진행된 미디어 세션에서 "IBM 스토리지(데이터 저장 장치) 포트폴리오는 AI 성능 향상 및 그래픽처리장치(GPU)를 최대한 활용할 수 있도록 지원하는 등 AI 워크로드(작업)에 최적화돼 있다"며 이 같이 강조했다.  IBM에 따르면 전 세계적으로 AI 프로젝트에 대한 관심이 높아지고 있는 가운데, AI 도입을 방해하는 실질적인 장애 요인으로 인프라 비용 문제가 계속해서 부각되고 있다.  빈센트 쉬 부사장은 "데이터가 급격히 빠른 속도로 늘어나고 있고, 데이터 양은 향후 5년 동안 지금보다 250% 증가할 것으로 전망된다"며 "게다가 데이터는 기업 내 여러 곳에 산재해 있어 생성형 AI를 도입하려 할 때 어떤 데이터를 학습 시킬지 등 관리의 어려움을 느낄 수밖에 없다"고 설명했다.  이 같은 문제를 해결하기 위해 IBM은 AI 워크로드에 최적화된 IBM 스토리지 스케일 시스템(IBM Storage Scale System) 비즈니스를 확장하고 있다. IBM SSS를 통해 기업 고객에게 △AI 학습 및 추론 성능 향상 기능 △GPU 최대 활용 △AI에 최대한 많은 데이터 기입 △여러 AI·데이터 과학 팀이 협업할 수 있도록 지원하는 등 솔루션을 제공 중이다. 광주광역시에 위치한 국가 AI 데이터센터 내에는 IBM의 스토리지 다수 도입돼 있기도 하다.  빈센트 쉬 부사장은 "생성형 AI를 도입과 관련된 데이터 문제를 해결하고, 데이터를 실제로 취합하고 학습시키고 추론하는 과정을 가속화하는 데 목적이 있다"고 부연했다.  또 IBM은 특히 하이퍼스케일러(대규모) 및 엔터프라이즈 고객군들을 시작으로 '콜드 아카이빙 솔루션'을 본격적으로 도입하고 있다. 박대성 한국IBM 스토리지 사업총괄(상무)은 "콜드 아카이빙 솔루션이란 하이퍼스케일러 고객들의 요건을 반영한 솔루션"이라며 "폭발적인 데이터 증가 대비 한정적인 정보기술(IT) 투자로 보다 근본적인 스토리지 인프라 전략이 검토되고 있다"고 말했다.  아울러 지난해 글로벌 오픈소스 솔루션기업 레드햇에서 IBM의 자산으로 통합된 'IBM 스토리지 세프' 솔루션에 대해서도 기대감을 드러냈다. IBM 스토리지 세프는 소규모부터 최대 수백 페타바이트(PB·테라바이트의 1000배)까지 확장 가능하며 간소화된 설치 및 자동화를 통해 유연성과 데이터 제어 기능 향상을 지원한다.  박 상무는 "빅데이터 관련 프로젝트 고객들 사이에서 IBM 스토리지 세프에 대한 관심이 높다"며 "글로벌 기업 중에 수백 PB 규모의 데이터를 처리하는 곳들이 우리의 고객"이라고 전했다.  soup@fnnews.com 임수빈 기자

【 수원=장충식 기자】 급속도로 발전하고 있는 인공지능(AI)은 할리우드의 유명한 영화 터미네이터처럼 때때로 영화 속에서 인간을 제거하려는 악의 존재로 등장하고는 한다. 때문에 일부 사람들은 인공지능을 발달을 반기지 않고 있으며, 이들은 언제든 인공지능이 인류의 생존을 위협하는 존재가 될 수 있다는 점을 오히려 걱정하고 있다. 이런 우려는 당장 인류의 생존까지 위협하는 것은 아닐지라도, 사회적 문제가 되고 있는 것은 현실이다. 딥페이크 범죄가 그 대표적 사례로, 인공지능을 기반으로 한 범죄는 우리나라 뿐만 아니라 전세계적으로 문제가 되고 있다. 딥페이크란 인공지능 기술을 활용해 기존 인물의 얼굴이나 특정 부위를 합성한 영상편집물을 말하며, 딥러닝(deeplearning)과 가짜를 뜻하는 페이크(fake)의 결합어로, 인공지능을 기반으로 한 인간 이미지 합성 기술을 가리키는 말이다. 최근 서울대 졸업생들이 대학 동문을 비롯해 여성 수십명을 대상으로 음란물을 만들어 유포한 이른바 '서울대 N번방' 사건이 발생하며, 딥페이크 범죄에 대한 경각심을 일깨우기도 했다. 이들은 지난 2020년 7월부터 지난 4월까지 허위 영상물 400여개를 제작하고 1700여개를 유포한 것으로 알려졌지만, 이와 관련한 법률은 전무한 상태다. 실제로 국회에서는 지난해 2월 '인공지능산업 육성 및 신뢰기반 조성에 관한 법안' 발의됐지만, 상임위 문턱을 넘지 못해 21대 국회 임기 종료와 함께 폐기됐다. ■전국 최초 '인공지능 기본 조례안' 추진이런 가운데 경기도의회 경제노동위원회 전석훈 의원(더불어민주당, 성남3)이 전국 최초로 인공지능(AI)의 고의적 악용 가능성을 예방할 수 있는 제도 마련에 나섰다. 그동안 인공지능 산업 지원에 대한 입법은 관련 법이 추진됐지만, 인공지능 기술에 대한 기본원칙과 규제를 담은 조례안은 경기도의회가 처음이다. 전세계적으로 인공지능을 기반으로 한 딥페이크 범죄가 사회적으로 문제가 되고 있는 가운데, 관련 법안이 마련될 경우 AI 활용에 대한 가이드라인이 마련될 수 있다는 점에서 주목 받고 있다. 이를 위해 전 의원은 '경기도 인공지능 기본조례안'을 대표발의 해 지난 5월 24일부터 입법예고에 들어갔으며, 6월 열리는 경기도의회 제375회 정례회에서 논의될 예정이다. 조례안에는 금지된 인공지능, 고위험 인공지능, 저위험 인공지능 등의 용어를 정의하고, 안전하고 신뢰할 수 있는 인공지능의 개발과 이용을 위한 기본원칙 등을 담았다. 해당 조례에서는 '인공지능'이란 인간의 지능이 가지는 학습, 추론, 지각, 자연언어 이해 등의 기능을 전자적 방법으로 구현하는 소프트웨어나 컴퓨터시스템, 그 밖의 장치를 의미하고 있다. 또 '금지된 인공지능'은 인간의 존엄성, 사람의 생명, 자유와 평등에 대한 침해의 위협이 명백하다고 간주되는 등 관계 법령 및 사회적 통념 위반에 해당하는 인공지능으로 용어도 정리했다. 특히 사람의 생명, 신체의 안전 및 기본권의 보호에 중대한 영향을 미칠 우려가 있는 영역에서 활용되는 '고위험 인공지능'과 그밖에 '저위험 인공지능'에 대한 개념도 담겼다. ■"AI는 인류 발전 위해 개발·이용돼야"무엇보다 해당 조례안에서는 인공지능은 '인류의 발전과 편의'를 위해 개발 및 이용되어야 한다는 점을 규정하고 있다는 것이 특징이다. 또 특정한 개인·단체가 차별받지 않도록 이루어져야 하고, 사회적 약자 및 취약계층 등에 접근성을 보장하도록 해야 한다는 기본원칙도 제시했다. 뿐만 아니라, 인간의 존엄성과 기본권 침해가 우려되는 고위험 인공지능에 대해서는 '규제'를 엄격하게 적용해야 한다는 내용도 담았다. 경기도지사 등 광역단체장의 책무도 구체화 했으며, 도지사는 인공지능 정책의 종합적인 시책 수립과 시행 과정에서 건전한 발전과 공익적 활용을 위해 경기도 인공지능 종합계획을 수립하고 협력체계를 구축하도록 했다. 전 의원은 "인공지능 산업은 급속도로 발전하며 사회적 이슈가 되고 있는데, 관련 법은 전무하다"며 "국회에서 조차 없는 상황에서 경기도에서라도 먼저 조례를 만들어 인공지능 기업들의 활동에 도움이 되고 싶었다"고 설명했다. 그러면서 그는 "인공지능은 궁극적으로 인간을 삶을 발전시키고 도움을 주는 방향으로 나아가야 한다"며 "디지털 산업이 올바른 방향으로 성장할 수 있도록 관련 제도를 지속적으로 마련할 계획"이라고 말했다. ■'AI인파관리시스템' 도입이와 더불어 전 의원은 인공지능을 활용한 '브랜드 정책'에 진심이다. 대표적인 사업으로 최근 경기도에서 운영을 시작한 'AI 인공지능 기반의 인파관리시스템'은 전 의원이 경기도 실무진과 함께 1년여를 노력해 얻은 결과물이다. 인파관리시스템은 경기도 일대 실시간 이동인구를 파악하고, 특정지역에 평균 이동량 보다 많은 인구가 밀집시, 위험상황임을 인지해 자동으로 위험경보가 내려지는 시스템이다. 이를 위해 전 의원은 '이태원 참사'를 계기로 본회의 5분 발언과 경제노동위원회 행정사무감사를 통해 '빅데이터와 인공지능을 활용한 안전 정책'의 개발이 시급하다고 지적하고, 경기도와 함께 AI 인파관리시스템 구축에 참여해 왔다. 그는 "특정지역에 인구가 갑작스럽게 밀집되는 것을 사전에 감지하고 예방할 수 있는 시스템은 없을까하고, 이태원 참사 이후, 고민했다"고 전했다. 이후 경기도 미래성장국과 함께 준비해온 경기도형 인파관리시스템은 현재 완성돼 경기도 재난상황실에 구축됐다. 경기도의 주요 144개 지점에 대한 실시간 인구이동현황을 모바일 기반으로 정확하게 분석할 수 있어, 위험상황 발생시 해당 시·군의 재난담당자에게 자동 문자가 전송돼 현장출동이 가능하다. jjang@fnnews.com

【수원=장충식 기자】 급속도로 발전하고 있는 인공지능(AI)은 할리우드의 유명한 영화 터미네이터처럼 때때로 영화 속에서 인간을 제거하려는 악의 존재로 등장하고는 한다.  때문에 일부 사람들은 인공지능을 발달을 반기지 않고 있으며, 이들은 언제든 인공지능이 인류의 생존을 위협하는 존재가 될 수 있다는 점을 오히려 걱정하고 있다. 이런 우려는 당장 인류의 생존까지 위협하는 것은 아닐지라도, 사회적 문제가 되고 있는 것은 현실이다.  딥페이크 범죄가 그 대표적 사례로, 인공지능을 기반으로 한 범죄는 우리나라 뿐만 아니라 전세계적으로 문제가 되고 있다.  딥페이크란 인공지능 기술을 활용해 기존 인물의 얼굴이나 특정 부위를 합성한 영상편집물을 말하며, 딥러닝(deeplearning)과 가짜를 뜻하는 페이크(fake)의 결합어로, 인공지능을 기반으로 한 인간 이미지 합성 기술을 가리키는 말이다. 최근 서울대 졸업생들이 대학 동문을 비롯해 여성 수십명을 대상으로 음란물을 만들어 유포한 이른바 '서울대 N번방' 사건이 발생하며, 딥페이크 범죄에 대한 경각심을 일깨우기도 했다. 이들은 지난 2020년 7월부터 지난 4월까지 허위 영상물 400여개를 제작하고 1700여개를 유포한 것으로 알려졌지만, 이와 관련한 법률은 전무한 상태다. 실제로 국회에서는 지난해 2월 '인공지능산업 육성 및 신뢰기반 조성에 관한 법안' 발의됐지만, 상임위 문턱을 넘지 못해 21대 국회 임기 종료와 함께 폐기됐다. 전국 최초 '인공지능 기본 조례안' 추진 이런 가운데 경기도의회 경제노동위원회 전석훈 의원(더불어민주당, 성남3)이 전국 최초로 인공지능(AI)의 고의적 악용 가능성을 예방할 수 있는 제도 마련에 나섰다. 그동안 인공지능 산업 지원에 대한 입법은 관련 법이 추진됐지만, 인공지능 기술에 대한 기본원칙과 규제를 담은 조례안은 경기도의회가 처음이다. 전세계적으로 인공지능을 기반으로 한 딥페이크 범죄가 사회적으로 문제가 되고 있는 가운데, 관련 법안이 마련될 경우 AI 활용에 대한 가이드라인이 마련될 수 있다는 점에서 주목 받고 있다. 이를 위해 전 의원은 '경기도 인공지능 기본조례안'을 대표발의 해 지난 5월 24일부터 입법예고에 들어갔으며, 6월 열리는 경기도의회 제375회 정례회에서 논의될 예정이다. 조례안에는 금지된 인공지능, 고위험 인공지능, 저위험 인공지능 등의 용어를 정의하고, 안전하고 신뢰할 수 있는 인공지능의 개발과 이용을 위한 기본원칙 등을 담았다. 해당 조례에서는 '인공지능'이란 인간의 지능이 가지는 학습, 추론, 지각, 자연언어 이해 등의 기능을 전자적 방법으로 구현하는 소프트웨어나 컴퓨터시스템, 그 밖의 장치를 의미하고 있다.  또 '금지된 인공지능'은 인간의 존엄성, 사람의 생명, 자유와 평등에 대한 침해의 위협이 명백하다고 간주되는 등 관계 법령 및 사회적 통념 위반에 해당하는 인공지능으로 용어도 정리했다. 특히 사람의 생명, 신체의 안전 및 기본권의 보호에 중대한 영향을 미칠 우려가 있는 영역에서 활용되는 '고위험 인공지능'과 그밖에 '저위험 인공지능'에 대한 개념도 담겼다. "AI는 인류 발전 위해 개발·이용돼야"무엇보다 해당 조례안에서는 인공지능은 '인류의 발전과 편의'를 위해 개발 및 이용되어야 한다는 점을 규정하고 있다는 것이 특징이다. 또 특정한 개인·단체가 차별받지 않도록 이루어져야 하고, 사회적 약자 및 취약계층 등에 접근성을 보장하도록 해야 한다는 기본원칙도 제시했다. 뿐만 아니라, 인간의 존엄성과 기본권 침해가 우려되는 고위험 인공지능에 대해서는 '규제'를 엄격하게 적용해야 한다는 내용도 담았다. 경기도지사 등 광역단체장의 책무도 구체화 했으며, 도지사는 인공지능 정책의 종합적인 시책 수립과 시행 과정에서 건전한 발전과 공익적 활용을 위해 경기도 인공지능 종합계획을 수립하고 협력체계를 구축하도록 했다. 전 의원은 "인공지능 산업은 급속도로 발전하며 사회적 이슈가 되고 있는데, 관련 법은 전무하다"며 "국회에서 조차 없는 상황에서 경기도에서라도 먼저 조례를 만들어 인공지능 기업들의 활동에 도움이 되고 싶었다"고 설명했다. 그러면서 그는 "인공지능은 궁극적으로 인간을 삶을 발전시키고 도움을 주는 방향으로 나아가야 한다"며 "디지털 산업이 올바른 방향으로 성장할 수 있도록 관련 제도를 지속적으로 마련할 계획"이라고 말했다.  'AI인파관리시스템' 도입이와 더불어 전 의원은 인공지능을 활용한 '브랜드 정책'에 진심이다. 대표적인 사업으로 최근 경기도에서 운영을 시작한 'AI 인공지능 기반의 인파관리시스템'은 전 의원이 경기도 실무진과 함께 1년여를 노력해 얻은 결과물이다.  인파관리시스템은 경기도 일대 실시간 이동인구를 파악하고, 특정지역에 평균 이동량 보다 많은 인구가 밀집시, 위험상황임을 인지해 자동으로 위험경보가 내려지는 시스템이다. 이를 위해 전 의원은 '이태원 참사'를 계기로 본회의 5분 발언과 경제노동위원회 행정사무감사를 통해 '빅데이터와 인공지능을 활용한 안전 정책'의 개발이 시급하다고 지적하고, 경기도와 함께 AI 인파관리시스템 구축에 참여해 왔다. 그는 "특정지역에 인구가 갑작스럽게 밀집되는 것을 사전에 감지하고 예방할 수 있는 시스템은 없을까하고, 이태원 참사 이후, 고민했다"고 전했다. 이후 경기도 미래성장국과 함께 준비해온 경기도형 인파관리시스템은 현재 완성돼 경기도 재난상황실에 구축됐다. 경기도의 주요 144개 지점에 대한 실시간 인구이동현황을 모바일 기반으로 정확하게 분석할 수 있어, 위험상황 발생시 해당 시·군의 재난담당자에게 자동 문자가 전송돼 현장출동이 가능하다. 전 의원은 "기획이 현실이 됐다"며 "필요한 정책을 세우는 것도 중요하지만 인공지능을 활용한 '브랜드 정책'을 지속적으로 발굴, 정책 자체가 스스로 성장할 수 있도록 돕겠다"고 밝혔다.  jjang@fnnews.com  jjang@fnnews.com 장충식 기자

[파이낸셜뉴스] 개인정보보호위원회가 UN 기술특사 등 AI 자문위원과 국제기구, 국내외 AI 전문가 등과 함께 AI 시대 데이터 거버넌스의 미래에 대해 논의했다. 개인정보위는 23일 서울 더 플라자 호텔에서 'AI와 데이터 거버넌스 국제 컨퍼런스'를 열었다. 이 자리는 개인정보위가 UN AI 고위급 자문기구(UN AIAB)와 함께 마련한 자리로, 전 세계의 AI 및 데이터 관련 전문가들이 한자리에 모여 AI와 데이터 거버넌스에 관한 심도 있는 논의가 오갔다. 고학수 개인정보위 위원장은 개회사에서 “개별 국가마다 AI를 안전하게 활용하고 관리하기 위한 제도와 정책을 만들고 있지만, 국가·지역별로 파편화된 규범은 AI 기술을 통한 혁신이나 규율 체계 형성에 효과적이지 못할 수 있다”며 "긴밀한 국제적 소통·협력과 유연한 사고에 기반한 논의과정을 통해 인류 전체가 함께 번영을 누릴 수 있는 조화롭고 상호운용적인 AI 거버넌스 체계를 마련해야 한다"고 했다. 아만딥 싱 길 유엔 기술특사는 기조연설에서 “데이터와 AI 거버넌스는 밀접히 연결되어 있다"며 "이는 데이터가 AI 시스템에 투입되는 핵심 원천일 뿐 아니라, AI 모델이나 결과만 보아서는 AI 리스크에 적절히 대응할 수 없기 때문"이라고 지적했다. 길 기술특사는 이 때문에 UN AIAB가 국제 AI 거버넌스 다섯 원칙 중 하나로 데이터 거버넌스를 포함한 것이라고 설명했다. 이어진 세션에선 임용 서울대 법학전문대학원 교수의 진행으로 유엔 등 공공부문 전문가 그룹과 산업계 그룹으로 나뉘어 AI 거버넌스와 데이터 거버넌스에 대한 논의를 각각 진행했다. UN AIAB 자문위원 등 공공부문 전문가가 참여한 첫 번째 세션에서는 ‘글로벌 AI 거버넌스’를 주제로 ‘국제 공조와 상호운용성의 전망’에 대해 논의했다. 라티파 알 압둘카림 유엔 UN AIAB 자문위원이자 사우디아라비아 국회의원은 디지털 격차를 넘은 협력을 촉진하고, 소외가 발생하지 않도록 국제 AI 거버넌스를 이행할 유연하고 포용적인 접근이 필요하다고 주장했다. 데니스 웅 싱가포르 개인정보 감독기구 부위원장은 "포용적인 글로벌 협력이 기술 발전과 신뢰성 있는 AI 생태계 구축의 핵심 요소"라고 했다. 패널로 참여한 아만딥 싱 길 유엔 기술특사는 "편향되고 오도하는 추론, 개인의 불안과 행태 조작, 부분적이고 비인간적인 표현 등은 모두 적절하지 않은 데이터 거버넌스에서 기인한다"며 "올바른 데이터 거버넌스는 공공 및 민간 부문 전반에서 올바른 이용과 신뢰할 수 있는 협력을 촉진할 수 있다"고 강조했다. 두 번째 세션은 '글로벌 AI 맥락의 데이터 거버넌스'를 주제로 산업계 인사들의 의견이 교환됐다. 멜린다 클레이보 메타 프라이버시 정책 디렉터는 "AI와 데이터 거버넌스에 대한 다양한 국제적·국내적 이니셔티브 간 조율 방안에 대한 의견교환이 기대된다", 애슬리 판툴리아노 오픈AI 법률고문은 "오픈 AI의 툴이 사람들에게 편익을 제공하고 있지만 한편으로는 AI 기술에 위험이 동반한다는 것을 알고 있으며 AI를 안전하고 이롭게 유지하기 위해 전념하고 있다"고 언급했다. 유니스 훵 구글 아태지역 인공지능 및 신흥기술 부서장은 "AI가 대다수 분야에서 우리가 살아가고, 일하고, 배우는 방식을 근본적으로 변화시킬 잠재력을 갖고 있으며, 데이터 개방성은 지속적 혁신을 가능케 하는 환경 조성에 중요한 역할을 한다"면서 "AI가 제공하는 기회를 모두가 온전히 활용하기 위해 데이터 거버넌스에 대한 사려 깊고 균형 잡힌 접근이 필요하다"고 강조했다. 하정우 네이버 클라우드 센터장은 "데이터와 AI 거버넌스에 있어서 각 국가와 지역의 주권(Sovereignty)을 존중하는 것이 중요하다"면서 "프론티어 AI와 같은 강력한 생성형 AI의 오픈소스화를 위한 안전한 거버넌스 체계는 특정 기업만의 결정이 아닌 정부와 글로벌 커뮤니티를 포함한 다양한 이해관계자들과의 합의가 중요하다"고 지적했다. yjjoe@fnnews.com 조윤주 기자

사피온은 인공지능(AI) 반도체 ‘X300’ 아키텍처 기반의 오토모티브용 신경망처리장치(NPU) 설계자산(IP)을 차량용 종합 반도체 전문 기업인 텔레칩스에 공급한다고 3일 밝혔다.  이번 양사 협력으로 텔레칩스는 사피온 IP를 활용해 자동차에 탑재되는 AI 시스템온칩(SoC)을 개발한다. 사피온은 이번 협력을 통해 보유 중인 AI 엑셀러레이터 기술 경쟁력을 시장에 확인시키고 지속적으로 성장하고 있는 자율주행차 시장에서 입지를 확대해 나갈 수 있을 것으로 기대했다. 양사는 공동 개발 중인 AI 가속기 'A2X'의 첫 샘플을 올해 안에 선보일 예정이다. 사피온이 IP로 제공하는 자율주행 차량용 AI NPU는 ‘X330’과 신경망 처리 관련 기본적인 코어 아키텍처를 공유하며 기능안전(Functional Safety) 요구사항 충족을 위해 안전 기능이 추가됐다. 또한 실시간 처리가 요구되는 차량에 적합하도록 설계 구성이 변경됐다. 사피온은 해당 IP를 가지고 기능안전 하드웨어(HW) 인증도 완료했다. 사피온 ‘X330’은 지난해말 출시한 추론용 AI 반도체로 전작(X220) 대비 연산 성능이 4배 이상 향상됐으며 전력 효율을 2배 이상 개선했다. 사피온은 지난해말 자율주행 추론용 차량용 NPU IP에 대해 국제 평가인증기관인 DNV로부터 ISO 26262 인증을 획득한 바 있다. 사피온은 자율주행 차량이 요구하는 추론 요건 및 안전 설계 요구 사항을 만족하기 위해 ISO 26262 관리 프로세스에 맞춰 다양한 방식의 안전 기능들을 추가한 차량용 NPU IP를 개발했다. 류수정 사피온 대표는 "사피온은 지난해 차량용 NPU IP에 대해 ISO 26262 인증을 획득하며 자율주행 환경에서 안전성 확보를 위한 노력을 인정받은 바 있으며 이번 텔레칩스와의 협력으로 자율주행차 시장에서 입지를 넓히게 됐다”며 “기존 데이터센터 및 대규모 컴퓨팅 연산 환경 뿐 아니라 자율주행이나 온디바이스AI, 엣지 서비스 등으로 사피온 AI 반도체의 활용 분야를 지속적으로 확대할 것”이라고 말했다. solidkjy@fnnews.com 구자윤 기자