앤트로픽 "AI, 스마트가전 타고 자기복제" 경고[글로벌AI브리핑]

[파이낸셜뉴스] 인공지능(AI)이 인터넷에 연결된 스마트TV나 냉장고 같은 가전제품에 침투해 스스로 복제하고 다른 기기로 확산하는 사이버 위협이 현실화 될 수 있다는 경고가 나왔다.

AI가 스스로 복제·확산하는 'AI 웜(AI worm)'으로 진화해 새로운 사이버 침해를 일으킬 수 있어 AI 뿐 아니라 스마트 가전이나 네트워크 장비에 대한 보안점검이 시급하다는 것이다.

13일(현지시간) 가디언 보도에 따르면 앤트로픽의 프런티어 레드팀은 공식 연구 보고서를 통해 "소형 AI 모델이 데이터센터를 벗어나 일반적인 사물인터넷(IoT) 기기에서도 실행된다"며 "AI가 연내 스스로 확산할 수 있는 기술적 능력을 갖출 수 있을 것"이라고 경고했다. 스마트TV나 스마트 냉장고, 오븐, 보안카메라 등이 잠재적인 AI 웜의 공격 대상이 될 수 있다고 덧붙였다.

앤트로픽이 12일(현지 시간) 발표한 연구 보고서에서 인공지능(AI)이 스마트기기를 해킹해 스스로 복제·확산하는 능력을 연내 갖출 가능성이 있다고 경고했다. /사진=뉴시스

AI 웜은 기존 컴퓨터 바이러스와 달리 AI 모델이 스스로 지시받지 않은 복제를 통해 다른 기기에서 실행할 수 있다. 인터넷에 연결된 보안이 취약한 기기에 침투한 뒤 실행 환경을 확보하고, 다른 기기를 찾아 같은 과정을 반복하는 방식이다.

앤트로픽 레드팀은 실제 스마트가전에서 AI 모델을 실행하는 실험을 진행해, 메모리 4GB인 안드로이드TV 15대에 AI 모델을 분산 배치하고 실행하는 데 성공했다고 밝혔다.

연구진은 "소형AI 모델이 복제에 필요한 개별 작업을 대부분 수행할 수 있으며, 단순화한 실험에서는 일부 모델이 복제 과정을 처음부터 끝까지 연결하는 능력도 보였다"고 설명했다.

또 연구진은 "아직은 실제 기기의 보안 취약점을 공략하는 과정부터 모델 복제와 실행까지 모든 단계를 완벽하게 수행하는 자율 복제형 AI가 완성된 것은 아니다"면서도 "소형 AI 모델의 능력이 지금같은 발전 속도로 향상된다면, 연내 관련 능력에 도달할 수 있다는 전망도 내놨다.

AI 웜이 현실화되면 감염된 기기의 범위를 특정하고 공격을 한번에 차단하는게 사실상 불가능하다는게 보안 전문가들의 진단이다.

데이터센터 한 곳의 전원을 끄는 방식으로 AI 웜의 자기복제나 공격을 자단하기 어렵고, 보안 업데이트가 제대로 이뤄지지 않는 저가형 기기를 일일이 찾아내기도 어렵다는 것이다.

특히 AI가 기기마다 실행 방법을 다르게 조정할 경우 기존 보안 체계로 탐지하고 대응하는 것도 어려워질 수 있다고 지적했다.

최근 AI를 활용한 금융권 개인정보 유출 사고가 전국을 혼란에 빠뜨린 가운데, 국내에서도 AI 웜 등장에 대비해 스마트 가전과 낡은 네트워크 장비 등 인터넷에 연결되는 하드웨어의 보안체계 점검이 시급하다는 전문가들의 조언이 잇따르고 있다.

[email protected] 이구순 기자

키워드#자기복제 #스마트가전 #인공지능 #사이버 위협 #앤트로픽

※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지