경찰이 내년도에 딥페이크 성범죄와 인공지능(AI) 관련 예산을 대폭 늘린다. 이 돈은 단순 범죄 대응뿐만 아니라 딥페이크 등 허위조작 콘텐츠를 탐지할 수 있는 딥러닝 기술 개발과 범행 발생 전 차단, 피해자 지원에도 대거 투입된다. 19일 경찰청에 따르면 오는 2025년도 예산은 올해 대비 4.2%(5457억원) 증액된 13조5364억원 규모로 편성했다. 주요 사업비는 1.9%(494억원) 많은 2조667억원으로 책정했다. 경찰청은 우선 딥페이크·딥보이스 등 진화하는 허위콘텐츠 범죄에 대응하기 위해 딥러닝에 기반한 허위조작 콘텐츠 복합 탐지 기술 연구개발(R&D)에 모두 91억원을 투자한다. 투자금은 내년 27억원을 포함해 2027년까지 쓰인다. 마약범죄 추적 중 가상자산 믹싱(매매대금 세탁) 등에 대한 대응 차원에서 전문가 분석기술 지원에 9억5000만원, 가상자산 추적을 위한 간편조회 시스템 도입에 10억원을 각각 투자한다. 수사관에게 유사사건·수사쟁점 등을 제공하고 영장신청서 등 각종 수사서식의 초안을 만들어 주는 AI 수사도우미 구축에는 27억원을 배정했다. AI를 활용해 아동의 표정·움직임을 분석한 뒤 아동학대 의심장면을 요약·분석해 주는 영상분석 프로그램에는 14억6000만원을 쓸 계획이다. 지난해 7월 설립한 범정부 합동 '전기통신금융사기 통합신고대응센터' 플랫폼 고도화에는 지난해와 견줘 6억9000만원 증가한 55억4000만원을 투입해 2027년까지 구축을 완료한다는 방침이다. △투자리딩방이나 피싱 같은 조직화·지능화되는 악성사기 △온라인, 홀덤펍 등 도박(온라인, 홀덤펍 등) 등 민생침해범죄 제보자에겐 최대 1억원까지 보상금을 줄 수 있도록 '조직범죄 특별신고보상금'을 신설했다. 20억9000만원을 들여 운전자가 스스로 운전능력을 확인할 수 있는 자가진단시스템(VR 테스트)을 전국 운전면허시험장 등 19곳에 설치해 시범 운영한다. 경찰청은 동시에 사회적 약자 보호활동과 예방적 활동을 강화키로 했다. 스토킹·데이트폭력 등 피해자의 보복 피해를 막기 위해 '고위험 범죄피해자 민간경호서비스'를 기존 3개 시·도에서 전국으로 확대하는데 24억5000만원을 쓴다. beruf@fnnews.com 이진혁 기자

[파이낸셜뉴스]  최근 딥페이크 기술을 악용한 범죄 사례가 증가하며 전국이 들썩이고 있다. 경찰청에 따르면, AI를 이용한 허위 영상물 제작 관련 범죄는 2021년 156건에서 지난해 180건, 올해 상반기에는 297건으로 급증했다. 5일 관련업계에 따르면 정부 또한 딥페이크 악용에 대한 대응 강화 움직임을 보이고 있다. 여성가족부는 인공지능(AI) 기술을 이용해 딥페이크 영상물을 찾아 사업자에 자동으로 삭제를 요청하는 시스템을 내년 구축할 계획이다. 법무부는 딥페이크 음성·영상 위변조 분석장비 도입을 위한 예산을 증액하기로 했다. 특히 경찰은 딥페이크(허위영상물) 성범죄와 관련해 전담수사 인력을 확충하는 방안을 검토하겠다고 밝혔다. 그렇다면 경찰청을 비롯한 관공서가 채택하는 딥페이크 방지 솔루션 상용화에 성공한 기업은 어디일까. 해당 주인공은 AI디지털 휴먼 기업인 '딥브레인AI'다. 딥브레인AI의 딥페이크 탐지 솔루션은 이미지, 오디오, 동영상 등을 분석해 5~10분 내로 딥페이크 여부를 탐지한다. 딥브레인은 한국인 데이터 100만 개와 아시아계 인종 데이터 13만 개 등 총 520만 개 데이터를 학습시켰다. 무엇보다도 딥브레인AI는 국내에서 가장 많은 딥페이크 탐지 레퍼런스를 보유하고 있는 기업이다. 특히 올해 3월에는 경찰청과 협력해 딥페이크 범죄 단속을 돕는 딥페이크 탐지 솔루션을 선보였다. 해당 프로그램은 경찰청 등 수사기관에서 현재 활용되고 있다. 일반 딥페이크 탐지 모델이 서양인 위주 데이터로 구성된 점을 감안해 한국인 데이터 등을 포함하는 등 개선도 이뤄지고 있다. 딥브레인AI 관계자는 "피해 사진 유출 등을 우려해 경찰청에서 쓰는 프로그램은 좀 더 보안성이 강화된 버전"이라면서 "최근엔 관공서 등으로부터 프로그램 문의가 늘고 있다"고 답했다. 딥브레인은 경찰서뿐만 아니라 과학기술정보통신부가 추진하는 '딥페이크 변조 영상AI 데이터' 수행기업에 선정된 바 있으며 국내 여러 관공서와 협력하여 딥페이크 탐지 사업 및 연구를 활발히 진행하고 있다. 해당 기술력을 기반으로 윤석열 대통령과도 협업을 한 바 있다. 여기에 관공서 뿐 아니라 여러 기업과도 협력 중이다. 최근 딥페이크 음란물이 논란이 되자 딥브레인AI는 솔루션을 각급 학교와 관공서, B2B 기업 등에 1개월 무료로 지원하기로 했다. 모바일 영역으로의 사업 확장을 위해 모바일 솔루션 전문 기업인 인포뱅크와 AI 휴먼 영상 제작 업무협약을 체결해 영상 메시지 서비스 시장을 공략 중이다. 또한 SKT ‘AI 최경주 프로젝트’ 참여, KT와 호텔용 AI 컨시어지 서비스 개발, 프리드라이프와 AI 추모 서비스 출시 등 다양한 분야에서 AI 휴먼을 활용한 협업을 이어가고 있다. 최근에는 빅테크 기업 레노버와 공동 웨비나를 진행하고, 기술 협력 파트너십을 체결하는 등 글로벌 시장을 겨냥한 활발한 움직임도 보이고 있다. kakim@fnnews.com 김경아 기자

[파이낸셜뉴스] 폴라리스오피스는 5일 생성형 인공지능(AI)을 기반으로 한 모바일 피싱·스미싱 탐지 어플리케이션(앱) ‘폴라리스 시큐원(Polaris SecuOne)’을 출시했다고 밝혔다. 이 앱은 안드로이드 구글플레이 에서 무료로 다운로드할 수 있다. 회사 측은 “최근 '악성 앱' 및 '파밍' 등으로 인해 올해 1~7월 보이스 피싱 피해액은 3909억원으로 전년 동기 대비 약1500억원 늘어났다“며 “보안이 취약한 스마트폰 환경을 개선하고 사용자들의 편의성을 높이기 위한 서비스”라고 설명했다. 폴라리스 시큐원은 기존 폴라리스오피스의 서비스인 모바일 백신 브이가드에 인터넷주소(URL) 탐지 서비스를 더한 신규 솔루션이다. 생성형 AI 기술과 피싱·스미싱 URL 탐지 기술을 접목해 스마트폰 사용자에게 강력하고 안전한 서비스를 제공한다. 기존 URL 데이터베이스(DB) 검색을 통한 단순 진단이 아닌 AI가 URL을 실시간으로 분석하고, 판단 및 평가해 사용자에게 결과를 제공하는 형태다. 특히 사용자는 직접 URL에 접속하지 않아도 스크린샷을 통해 해당 사이트를 확인할 수 있다. 또 큐알(QR)코드 기반의 피싱 공격인 ‘큐싱’ 탐지를 위해 QR코드 추출 및 분석도 가능하다. 폴라리스오피스 관계자는 “생성형 AI가 발전하면서 기존 기술로는 탐지하기 어려웠던 신종 및 변종 사이트가 생겨나며 관련 시장이 커지고 있다”고 말했다. 이어 “개인사용자도 이용할 수 있을 뿐만 아니라 모바일 서비스를 제공하는 기업과 공공기관에서도 사용가능한 제품”이라며 “향후 당사 보안 솔루션을 강화하여 기존 문서 솔루션 제품들과 연계해 시너지를 높일 수 있도록 노력할 것”이라고 전했다. dschoi@fnnews.com 최두선 기자

[파이낸셜뉴스] 엠젠솔루션이 제17회 '폐기물∙자원순환산업전'을 통해 리튬 배터리 화재를 예방하고, 수초 내 진압 및 확산 차단이 가능한 소방시스템 신제품을 공개했다고 29일 밝혔다. 이번 전시회는 일산 킨텍스에서 지난 28일 개최돼 오는 30일까지 진행될 예정이다. 자회사 현대인프라코어와 공동 개발한 신규 ‘단독형 알파샷 시스템’은 24시간 365일 탐지 제어 기록을 통해 화재 발생 30초 이내 초기 대응이 가능하다. 이 제품은 국내 유일 재난안전인증을 받은 리튬 배터리 전용 소화약제를 자동으로 무인 분사한다. 회사는 전기차 충전소용 알파샷에도 이 약제를 접목하고 있다. 엠젠솔루션은 현재 인공지능(AI) 화재탐지 진압 솔루션 관련 다수의 업체들과 사업 협력을 추진 중이다. 자회사를 통해 AI 자율주행 소방로봇 및 전기차 화재 질식소화 시스템을 개발하고 있으며 원천기술 및 다수의 화재 관련 특허를 보유하고 있다. 회사 관계자는 “글로벌 화재 방지 시스템 규모는 2027년 약 174조원에 이를 것으로 전망되는 시장”이라며 “전기차 충전소 및 대규모 아파트 지하 주차장 등에서 설치 문의가 쇄도하고 있다”고 전했다. dschoi@fnnews.com 최두선 기자

관세청 관세인재개발원은 탐지견훈련센터의 훈련견 6마리를 민간에 분양한다고 26일 밝혔다. 분양 대상견 6마리는 3살(2021년생)부터 8살(2017년생)로, 탐지견 기본 훈련을 모두 이수하며 '반려견 적합' 판정을 받은 개체들이다. 분양 대상견은 모두 래브라도 리트리버 종 25㎏이상의 대형견으로, 온순하고 영리해 훈련 과정에서 사랑을 듬뿍 받아왔으며, 활동성이 뛰어나 함께 놀아주고 자주 산책을 하는 등의 적극적인 반려인에게 적합하다. 올해부터는 단독주택 거주자만 허용했던 기존의 양육 환경 기준을 완화해 훈련견이 안락하고 안전한 실내 생활할 수 있는 여건을 갖춘 빌라나 아파트 등 공동주택 거주자도 입양신청이 가능하다. 탐지견훈련센터는 분양견들이 입양 환경에 잘 적응할 수 있도록 꾸준히 기본예절 교육을 하고 있으며, 입양 당일에는 입양가정에 반려견 양육 소양 교육 및 입양견의 성격, 기본 훈련 등을 안내할 예정이다. 입양 이후에도 유선 및 방문 상담 등을 통해 순조로운 적응을 도울 계획이다. 입양신청은 이달 26일부터 9월 9일까지 2주 동안 메일 또는 우편으로 하면된다. kwj5797@fnnews.com 김원준 기자

[파이낸셜뉴스] 관세청 관세인재개발원은 탐지견훈련센터의 훈련견 6마리를 민간에 분양한다고 26일 밝혔다.  분양 대상견 6마리는 3살(2021년생)부터 8살(2017년생)로, 탐지견 기본 훈련을 모두 이수하며 '반려견 적합' 판정을 받은 개체들이다.  분양 대상견은 모두 래브라도 리트리버 종 25㎏이상의 대형견으로, 온순하고 영리해 훈련 과정에서 사랑을 듬뿍 받아왔으며, 활동성이 뛰어나 함께 놀아주고 자주 산책을 하는 등의 적극적인 반려인에게 적합하다.  그간 관세인재개발원은 은퇴한 탐지견 혹은 탐지견 양성훈련 과정에서 반려견 판정을 받은 개체들을 민간에 분양해 이들에게 새로운 삶의 기회를 지원해오고 있다.  올해부터는 단독주택 거주자만 허용했던 기존의 양육 환경 기준을 완화해 훈련견이 안락하고 안전한 실내 생활할 수 있는 여건을 갖춘 빌라나 아파트 등 공동주택 거주자도 입양신청이 가능하다.  탐지견훈련센터는 분양견들이 입양 환경에 잘 적응할 수 있도록 꾸준히 기본예절 교육을 하고 있으며, 입양 당일에는 입양가정에 반려견 양육 소양 교육 및 입양견의 성격, 기본 훈련 등을 안내할 예정이다.  입양 이후에도 유선 및 방문 상담 등을 통해 순조로운 적응을 도울 계획이다. 입양신청은 이달 26일부터 9월 9일까지 2주 동안 메일 또는 우편으로 하면된다.  최종 분양 여부는 서류심사, 거주환경 실사, 탐지견 증여 심의위원회 절차를 거쳐 결정되며, 인도는 10월 25일부터 시작될 예정이다. kwj5797@fnnews.com 김원준 기자

[파이낸셜뉴스]   핀테크 기업 헥토파이낸셜이 온라인 결제 시스템의 이상 징후에 신속하게 대응하는 AI 기반의 금융 모니터링 서비스를 선보인다고 21일 밝혔다.  헥토파이낸셜이 자체 개발해 자사의 PG서비스(전자결제)에 최근 도입한 머신러닝 기반 AI 이상 거래 탐지 시스템은 모든 거래 내용을 24시간 실시간 모니터링해 거래량 이상 증감, 오류 등 이상 거래 발생 시 즉시 알림을 보내 보다 안전한 금융 환경을 제공한다. 헥토파이낸셜은 이 같은 선도적 결제 서비스와 AI 를 활용한 고객 서비스를 국내 최대 글로벌 핀테크 산업 박람회 ‘코리아 핀테크 위크 2024’에서 계열사 ‘큐오피스’와 함께 선보인다. 양사는 20년 이상의 금융 시스템 운영 노하우에 AI 기술력을 결합해 고객사의 니즈에 부합하는 맞춤형 AI 서비스를 개발하고 제휴처를 확대 중이다. 이번 행사에서 헥토파이낸셜과 큐오피스는 ‘결제 프로세스 속 AI 매니징과의 만남’을 주제로 머신러닝 기반 AI 이상 거래 탐지 시스템 ‘AI MON(몬)’, 챗GPT4를 활용한 고객 심층 인터뷰(IDI, In-Depth Interview) 분석 서비스 ‘SmartQ(스마트큐)’ 등 AI 활용 서비스를 시연한다. 큐오피스는 제품 완성도 극대화를 위한 QA(품질관리, Quality Assurance), 원활한 운영을 돕는 모니터링 등을 자동화된 솔루션으로 이커머스, 핀테크, 헬스케어, 게임사 등에 제공하는 소프트웨어 테스트 전문 기업이다. ‘AI MON(몬)’은 거래 데이터를 학습한 AI 서버가 결제 트래픽을 분석해 이상 거래를 탐지하는 모니터링 서비스다. 모든 거래 내용을 24시간 실시간 모니터링해 거래량의 과다 증감, 거래 오류 및 성공률 변동, 동일 오류 연속 발생 등 이상 거래 발생 시 즉시 알림을 보내 결제 오류나 범죄에 신속하게 대응할 수 있도록 돕는다. ‘SmartQ(스마트큐)’는 심층 인터뷰 분석과 요약에 특화된 서비스다. 이 서비스는 심층 인터뷰(IDI)에 참석한 이용자의 피드백을 분석해 사전에 학습된 카테고리별로 내용을 요약 정리한다. 실제 업무 적용 결과 10명이 참가한 인터뷰 기준 데이터 분석 소요 시간이 16분의 1로 줄었다. 큐오피스는 국내 대형 게임사의 신규 게임 개발 프로젝트에 SmartQ를 실제로 적용하는 등 고객사의 시간과 비용 절감을 위해 SmartQ를 적극 활용 중이다. padet80@fnnews.com 박신영 기자

[파이낸셜뉴스]   국내 1호 빈대탐지견이 탄생했다. 빈대탐지견 이름은 세코로 앞으로 우리나라 출입 관문인 공항에서 빈대 유입 사전 차단에 나선다.  8일 업계에 따르면 세스코는 행정안전부, 국토교통부, 질병관리청, 인천국제공항공사 등과 빈대 해외 유입 차단 민관 합동 공동캠페인을 진행하기로 하고, 빈대탐지견 세코의 빈대 탐지 시연회를 열었다.   이번 공동캠페인은 프랑스 파리에서 개최한 국제대회를 계기로 빈대의 국내 유입 위험성이 높아지고 있는 만큼, 우리나라 출입 관문인 공항에서 빈대 유입을 사전 차단하고자 준비됐다. 세스코는 캠페인을 통해 새로운 빈대 차단 솔루션인 빈대탐지견 세코의 첫 활동을 개시하고 본격화할 계획이다.  이날 시연회에서는 빈대탐지견의 이해도를 높이기 위해 빈대탐지견 특징과 빈대 탐지 과정 등이 소개됐다. 세코가 신속하고 정확한 빈대 차단 솔루션이라는 것을 검증하는 자리를 가졌다.  세코는 95%의 빈대 탐지 정확성을 가지며 냄새만으로 빈대를 찾아낼 수 있다. 빈대 특유의 페로몬 냄새를 탐지하는데 사용하는 뇌의 영역이 사람의 40배이며, 냄새를 감지하는 능력이 사람 보다 만 배이상 크다. 사람의 육안 보다 훨씬 빠르게, 알부터 성충까지 모든 월령 단계의 빈대와 빈대 배설물까지 감지한다. 앞서 세스코는 국가적 빈대 이슈를 대비하고자 빈대탐지견을 육성했으며, 국내 1호 빈대탐지견으로 세코를 임명한 바 있다. 향후 세코는 세스코 서비스 컨설턴트로서 빈대 확산 예방을 위한 특수임무를 수행해 나갈 예정이다.  한편 이번 캠페인을 통해 세스코는 사회공헌 차원에서 9일부터 내달 8일까지 한 달간 인천국제공항 제2여객기터미널 1층 입국장 B게이트 인근에 빈대 탐지 및 방제 지원 부스를 무료로 운영한다. 해당 부스에는 효과적인 빈대 탐지를 위해 빈대 탐지견과 함께 10년 이상의 방제 경력을 보유한 10여명의 전문가를 빈대 방제전담팀으로 구성해 투입한다.  세스코 관계자는 “국내 1호 빈대탐지견 세코가 국민들의 건강 보호를 위한 활동을 첫 임무로 수행한다는 점이 큰 의미를 가진다고 생각한다”며 “캠페인 기간 세코와 함께 책임감 있게 빈대 유입을 차단하고 전국적인 빈대 확산을 예방하도록 최선의 노력을 기울일 것”이라고 전했다.  kjw@fnnews.com 강재웅 기자

[파이낸셜뉴스] 종합환경위생기업 세스코가 국내 최초로 빈대탐지견을 임명했다. 7일 세스코에 따르면 전날 서울 강동구 세스코 본사에서 국내 1호 빈대탐지견 '세코'의 임명식을 진행했다. 그간 세스코는 빈대 확산으로 인한 사회적 재난을 대비하고자, 보다 신속하고 정확한 빈대 탐지가 가능한 빈대탐지견을 육성해왔다. 최근 휴가철과 파리 개최 국제 스포츠 기간이 맞물리면서 해외여행객이 급증함에 따라 강화된 빈대 예방책이 필요할 것으로 판단, 빈대탐지견을 전격 투입하기로 했다. 세코는 빈대 특유의 페로몬 냄새를 탐지하는데 사용하는 뇌의 영역이 사람의 40배이며, 빈대만을 탐지할 수 있도록 정교한 교육 훈련을 받았다. 견종은 활발하고 호기심이 많은 비글이나 세코의 경우 집중력, 탐지 능력 등을 고려해 선발됐으며 전문 훈련을 거쳐 차분한 성격을 갖고 있다. 세코는 95% 이상의 빈대 탐지 정확성을 가졌으며, 신속하고 효율적으로 빈대 탐지가 가능하다. 사람의 육안 보다 훨씬 빠르게, 발견이 어려운 알부터 성충까지 모든 월령 단계의 빈대를 감지한다. 숙박업 기준 객실당 단 1~2분 안에 빈대를 찾아낸다. 또 오직 냄새만으로 탐지할 수 있어 숨어있는 빈대를 찾기 위해 공간을 훼손하거나, 가구 등을 이동 혹은 분해하지 않아도 된다. 세코는 향후 세스코 서비스 컨설턴트로서 10년 이상의 방제 경력을 보유한 세스코의 빈대 방제전담팀과 함께 빈대 확산 예방을 위한 특수임무를 수행할 예정이다. 세스코 관계자는 "세스코는 방역선도기업으로서 확실한 빈대 방제 솔루션을 지속적으로 연구해 왔으며, 신속하고 정확한 빈대 탐지가 가능한 빈대탐지견을 국내 최초 도입하게 됐다"며 "세스코의 방제 기술력과 전문성을 기반으로 국내 1호 빈대탐지견인 세코와 협력해 다시 한번 K-방역의 위상을 높일 것"이라고 말했다. welcome@fnnews.com 장유하 기자

[파이낸셜뉴스]신한은행은 인공지능(AI) 기술을 활용해 외환 거래 특성을 분석하고 보다 신속하고 정확하게 이상 외화송금을 탐지하는 ‘AI 기반 이상 외화송금 탐지 프로세스’를 시행했다고 12일 밝혔다. ‘이상 외화송금’이란 무역 거래를 가장한 해외송금, 소자본 신설업체의 단기간 내 거액 송금 등 비정상적인 외화송금 거래를 의미한다. ‘AI 기반 이상 외화송금 탐지 프로세스’는 AI가 △입출금 거래 △외화 환전거래 △누적 송금액 △외화송금·영수거래 등 다양한 정보를 분석해 외화송금 의심거래를 점검하는 프로세스다. 신한은행은 이를 통해 기존 점검 범위보다 더 넓은 범위를 모니터링 할 수 있게 됐고 ‘이상 외화송금’ 여부를 보다 신속하고 정확하게 판단해 불법적인 송금을 빠르고 효과적으로 차단할 수 있게 됐다. 신한은행은 지난해 12월 자체 AI 모델을 개발했고 지난 5월부터 시작한 ‘AI 기반 이상 외화송금 탐지 프로세스’ 시범 운영을 성공적으로 마쳤다. 신한은행 관계자는 “점점 복잡해지는 외환 이상 거래를 효율적으로 감시하기 위해 디지털 기술이 필수적으로 활용되고 있다”며 “앞으로도 AI 등 다양한 기술을 바탕으로 외환 분야의 내부통제를 강화해 안전한 외환거래 문화를 만들어나가겠다”고 말했다. gogosing@fnnews.com 박소현 기자