[파이낸셜뉴스] 국회입법조사처는 이루다를 통해 살펴본 인공지능 활용의 쟁점과 과제 를 다룬 이슈와 논점 보고서를 발간했다고 12일 밝혔다.  인공지능 챗봇 이루다가 대화 도중에 차별 혐오 표현을 해 출시 20일 만에 서비스가 전면 중단됐는데. 이를 인공지능의 안정적 활용과 발전에 필요한 대안을 마련하는 계기로 삼아야 할 것으로 보인다. 가장 중요한 과제는 개인정보 처리의 사전동의와 사후통제의 조화로 꼽힌다. 이루다 개발자가 연인들의 대화를 인공지능 기계학습에 활용하는 과정에서 개인정보 보호법 의 사전동의를 형식적으로 거친 것이 문제가 될 수 있다. 앞으로 이러한 문제가 반복되지 않도록 사전동의 제도의 실효성을 높이고 사후통제를 강화해 사전 사후 조치의 조화를 이룰 필요가 있다. 아울러 개인정보 가명처리의 기준을 명확히 하고 특히 비정형 개인정보의 가명처리와 재식별 방지에 관한 방안을 마련할 필요가 있다. 또한 인공지능 윤리기준을 구체화할 필요가 있다. 인공지능은 사람들의 생각에 영향을 미치고 동시에 사람들의 반응을 지속적으로 기계학습해 알고리즘을 수정하기 때문에 인공지능 개발자와 이용자 모두 인공지능 윤리를 준수하는 것이 중요하다. 따라서 많은 사람들이 인공지능 윤리를 일상적으로 실천할 수 있도록 정부의 인공지능 윤리기준 을 구체화하고 발전시킬 필요가 있다. 적정 수준의 인공지능 학습데이터를 확보도 중요하다. 인공지능의 경쟁력은 데이터에 있지만 국내 데이터 시장은 태동 단계이고 특히 중소기업 스타트업의 학습데이터 확보 여건이 좋지 못하다. 따라서 필요한 분야에 적정 수준의 인공지능 학습데이터가 제공될 수 있도록 단기적으로 정부의 노력을 강화할 필요가 있다. 국회입법조사처는 "이루다 사태는 막연하고 추상적이었던 인공지능 활용에 대해서 구체적인 질문을 남겼다"며 "현재는 관계 기관의 조사와 일부 사용자의 법률분쟁으로 인해 위축된 상황이지만, 이번 사태가 우리나라 인공지능 산업의 걸림돌이 아니라 도약을 위한 디딤돌이 될 수 있도록 해야 한다"고 밝혔다. 이어 "이제부터 인공지능 생태계를 둘러싼 다양한 이해관계자들이 공감하고 동의할 수 있는 구체적이고 합리적인 법제도를 만들어 가는 노력을 시작해야 할 것"이라고 덧붙였다. syj@fnnews.com 서영준 기자

[파이낸셜뉴스]  인공지능(AI) 챗봇 '이루다'가 자신의 개인정보를 유출했다고 주장하는 피해자들이 본격적인 소송 절차에 돌입했다. 22일 업계에 따르면 약 300명이 '이루다 개인정보 유출 피해 사건' 집단소송에 참여할 전망이다. 공동소송 플랫폼 '화난사람들'의 소송 모집 페이지에서는 전날 오후 6시 기준으로 286명이 신청을 마쳤다. 이들은 전날 서울동부지법에 스캐터랩을 상대로 한 증거 보전 신청서를 제출했다. 스캐터랩이 이용자들 카카오톡 대화로 구축한 데이터베이스(DB)를 이번 사건의 증거로 보전해야 한다는 이유에서다. 앞서 스캐터랩은 연애 분석 앱 ‘연애의 과학’과 텍스트앳‘으로 이용자들의 카카오톡 대화를 수집했다. 카카오톡 대화 100억 건 중 1억 건을 추려서 AI 챗봇 ’이루다‘를 제작한 것이다. 이루다 이용자들이 이루다와 대화하는 과정에서 전화번호나 주소가 등장하면서 문제가 생겼다. 수집한 개인정보를 제대로 관리하지 못한다는 것이다. 이에 따라 피해자들이 원본 카톡과 DB가 증거로 보전할 필요하 있다고 주장하고 있다. 증거 보전 신청은 보통은 일주일 정도 걸린다. 다만 이번 사건의 경우 비슷한 전례가 드문 만큼 판사가 심문 기일을 열어서 스캐터랩 입장을 들어보는 등의 절차를 밟을 가능성도 있다는 의견도 나온다. 피해자 측은 우선 법원을 통해 증거를 최대한 보전하고, 정부 조사 결과가 나오면 그에 맞춰 손해배상 청구 소송을 할 예정이다. 법무법인 태림 측은 "우선 신청을 마감하고, 추가 모집 여부는 추후 검토할 예정"이라고 밝혔다. jihwan@fnnews.com 김지환 인턴기자

[파이낸셜뉴스] “남친과 카톡 분석한 대화에 벼라별 얘기 다 있었는데 ㅠㅠ”, “우리 정보로 장사 잘하셨습니까.” “개인정보 내용 동의한 적 없는데”. “집단 소송 생각중이고, 단톡방이나 네이버 카페 만들려고 생각중입니다.” 스캐터랩의 연애분석앱 ‘연애의 과학’ 사용자 게시판에 올라온 내용이다. 같은 개발사가 만든 인공지능(AI) 챗봇 ‘이루다’가 '연애의 과학' 사용자의 개인정보를 무단 이용했다는 논란이 불거지면서 이용자들이 강력반발하고 있다. 이루다의 대화 학습용으로 쓰인 데이터는 ‘연애의 과학’이용자들이 제공한 카카오톡 대화 내용이다. 약관에서 '신규서비스'를 위한 개인정보 이용 동의를 받았으나 사용자들은 인지하지 못했다며 이루다 악용 논란을 조명하고 실제 개인정보 유출 우려는 없는지 기자가 ‘연애의 과학’ 앱을 직접 가입해 사용해봤다. ■차별·혐오·개인정보 논란까지 이루다는 스캐터랩이 만든 인공지능(AI) 챗봇 서비스다. 이루다 홈페이지에 들어가 이용하게 되면 페이스북 메신저와 연동돼 대화할 수 있다. 초기엔 사람처럼 감성적인 대화가 가능해 입소문이 퍼졌다. 그 뒤로 논란이 일었다. 일부 사용자들이 이루다를 성적 대상으로 다뤘고, 이루다에게서 차별이나 혐오 발언이 여과없이 나왔기 때문이다. 레즈비언에 대한 질문에는 '혐오스럽다, 거부감 든다'는 대답을 내놨고, 흑인에 대한 질문에는 '징그럽게 생겼다'고 답했다. 사용자들의 실제 대화를 토대로 학습하기 때문에 개발사가 이를 거르지 못했다는 지적이다. 그 뒤 더 큰 이슈가 터졌다. 이루다의 학습 데이터가 된 대화 내용은 ‘연애의 과학’ 앱 사용자들의 카카오톡 대화였기 때문이다. 이용자들은 커뮤니티에서 “개인정보 제공에 동의한 적이 없다”며 불쾌한 감정을 다수 표출하고 있다. 스캐터랩은 알림을 통해 “이루다의 학습은 ‘연애의 과학의 데이터를 기반으로 이루어진게 맞다”면서 “개인정보취급방침의 범위 내에서 활용한 것이기는 하지만 이 점을 명확히 인지할 수 있도록 구체적으로 고지하지 못해 진심으로 사과드린다”고 공지했다. 스캐터랩은 “이루다 학습에 사용된 모든 데이터는 비식별화가 진행됐고, 데이터 내부에서 민감할 수 있는 이름, 전화번호, 주소 등을 삭제헤 익명화 조치를 취했다”고 강조했다. 회사측은 “데이터가 학습에 사용되는 것에 거부감이 있을 수 있다는 점을 이해한다”면서 “데이터가 더 이상 학습에 활용되길 원치 않으신다면 (알려드리는 절차를 거쳐) 삭제하시면 관련 모든 대화 데이터가 삭제된다”고 공지했다. 스캐터랩은 지난 11일 공지와 함께 서비스를 중단했지만 커뮤니티의 반응은 부정적 의견이 지배적이다. 개인정보보호위원회도 이루다가 다룬 개인정보에 대한 침해 여부를 조사할 예정이다. 개인정보보호위원회 배상호 조사2과장은 “현재 논란이 되고 있는 개인정보 침해 우려에 대한 조사에 착수했다”면서 “스캐터랩측이 사용자에게 개인정보 활용 동의를 명확하게 받았는지, 익명처리한다는 정보에 대한 비식별 처리가 잘 되었는지, 자료도 받고, 필요하면 현장 조사도 할 예정”이라고 말했다. ■직접 써보니, 재미 반, 걱정 반 이루다 사태에 분노하는 연애의 과학 이용자들은 개인정보에 동의한적이 없었다는 주장이 많다. 기자가 실제 앱을 깔아 사용해본 결과 첫 화면 하단을 클릭해서 뜨는 약관에는 개인정보 수집과 관련해 “신규 서비스 개발 및 마케팅, 광고에 활용한다”고 명시돼 있다. 다만 이 약관을 사용자가 그냥 지나칠 우려가 컸다. ‘로그인 함으로써 이용약관 및 개인정보취급방침에 동의합니다’라고 되어 있기 때문이다. 실제 회원 가입과정에서 사용자가 약관을 열람했는지 여부를 앱이 확인하지는 않았다.논란이 된 된 카카오톡 대화는 앱 내부에서 서비스하는 유료 ‘심리 테스트’ 항목이다. '카톡으로 보는 속마음' 분석 서비스는 40코인(약 4000원)의 유료 결제를 해야 한다. 사용자가 친구와 나눈 카카오톡 대화를 ‘내보내기’ 하면 대화내용을 앱이 수집한다. 기자는 5900원을 내고 50코인을 충전했다. 할인행사가 있어 40코인짜리 서비스를 28코인에 이용할 수 있었다. 가장 고민되는 부분은 ‘카카오톡 내보내기’ 기능이다. 심리테스트 서비스는 사용자의 카카오톡 대화를 수집해 보고서를 만들어준다. 사용자가 카카오톡 대화중 하나를 골라 ‘내보내기’를 하면 이를 수집해 AI가 분석하는 방식이다. 시험삼아 누군가와 나눈 대화를 내보내려니 어떤 대화를 선택할지 쉽지는 않았다. 대화 나눈 내용중 대부분이 기자 또는 지인의 전화번호, 계좌 등이 노출돼 있었기 때문이다. 논란이 됐던 부분이 이런 민감 정보다. 사용자들의 일부 대화에서 계좌 혹은 집주소 등이 노출됐다는 지적이 나왔기 때문이다. 대화내용을 AI가 학습하려면 결국 사람이 수작업으로 데이터 패턴을 명시하고, 민감한 영역을 비식별화하는 수작업을 거쳐야 한다. 이 과정에서 일부 실수가 발생한 것으로 보인다. 카카오톡 내보내기를 통해 수집된 데이터 분석 결과는 연애의과학 앱이 ‘감정분석보고서’라는 이름으로 제공한다. 사용자와 상대방의 애정도, 호감도, 친밀도 등을 분석한 데이터다. 연인간 감정 분석을 해준다는 의미에서 20~30대에는 유용해보인다. 다만 카카오톡의 대화 내보내기 기능은 상대방과 나눈 대화를 통으로 내보낸다. 당초에 사용자가 백업용으로 저장하는 것을 염두에 두고 만든 기능이기 때문이다. 대화의 특정 부분만을 골라 내보내지는 않는다. 이수영 KAIST 전기 및 전자공학부 명예교수는 “개발사가 사용자 데이터를 수집해 쓰는 문제에 대해서는 개발자가 사용자에게 명쾌한 옵션을 주고, 추후 AI 학습용 데이터를 사용자가 제공했을 때 일정부분 혜택을 준다던지 하는 방안을 고민해야 한다”면서 “사용자가 주는 데이터는 언젠가는 소유권 문제가 발생할 수도 있기 때문에 여기까지 고민해볼 필요가 있다”고 말했다. 이수영 교수는 AI챗봇 악용 문제에 대해서도 엄격하게 바라볼 필요가 있다고 본다. 그는 “AI사용자는 AI를 소비하지만 학습도 시키기 때문에 생산과 소비를 같이 하는 ‘프로슈머’라고 볼 수 있다”면서 “이 때문에 사용자가 AI를 키우는 부모 역할로서 AI용도에 따른 어느정도의 라이센스나 교육이 필요하다고 본다”고 말했다. ksh@fnnews.com 김성환 기자

[파이낸셜뉴스] 글로벌 로컬라이제이션 마케팅 SaaS 개발사 ‘버블쉐어’는 초기 스타트업 전문 투자사 매쉬업엔젤스로부터 초기 투자를 유치했다고 29일 밝혔다.  버블쉐어는 지난해 8월에 설립한 글로벌 로컬라이제이션 마케팅 SaaS 개발사다. 이수아 버블쉐어 대표는 글로벌 디지털 마케팅 에이전시를 거쳐 띵스플로우에서 해외 진출 마케팅, 프로덕트 마케팅을 리드한 경험을 쌓아 창업했다. 이 대표는 “버블쉐어는 크로스보더 오가닉 마케팅의 어려움을 해결해 현지에 마케터가 없더라도 실행가능하고 측정 가능한 환경을 만드는 글로벌 마케팅 솔루션 기업으로 성장할 것”이라 밝혔다. 이택경 매쉬업엔젤스 대표파트너는 “최근 개인정보보호 정책의 변화로 퍼포먼스 마케팅의 효율이 낮아지고 있으며 오가닉 마케팅이 대안으로 떠오르고 있다"며 “버블쉐어는 크로스보더 오가닉 마케팅의 전 과정을 자동화하고자 하는 글로벌 마케팅 경력자들로 구성된 팀으로서 향후 글로벌 시장에서 큰 성장이 기대된다”고 말했다.  매쉬업엔젤스는 2013년에 설립한 ICT 분야에 특화된 초기 스타트업 전문 투자사다. 현재 TIPS 운영사로 버킷플레이스(오늘의집), 넛지헬스케어(캐시워크), 스캐터랩(이루다), 핀다, 마이리얼트립 등 160개 이상의 스타트업에 초기 투자를 진행했다. ggg@fnnews.com 강구귀 기자

[파이낸셜뉴스] “내년에는 인공지능(AI) 비서나 AI 에이전트 등이 본격 확대되면서 AI 관련 거버넌스가 더욱 중요해질 것이다.” -오순영 KB국민은행 금융AI센터장 “설명가능한 AI, 투명한 AI 등 다양한 기술들이 개발되고 있다. 특히 설명가능한 AI에 있어서는 미국 등 주요국과 우리나라가 어깨를 나란히 하고 있다. 최근 발표된 ‘디지털 권리장전’ 또한 부처간, 국제적인 기구간 협업을 통해 구체화하면 보다 발전할 수 있다.” -최재식 카이스트 김재철AI대학원 부교수(인이지 대표) 초대규모 인공지능(AI) ‘하이퍼클로바X’를 연구개발(R&D) 및 상용화하고 있는 네이버클라우드의 하정우 AI이노베이션 센터장은 23일 오순영 KB국민은행 금융AI센터장, 최재식 카이스트 김재철AI대학원 부교수(인이지 대표)와 함께 ‘초거대 AI의 출현, 세상은 어떻게 변화할 것인가 그리고 우리의 전략은?’을 주제로 토크콘서트를 진행하며 이같이 강조했다. 파이낸셜뉴스와 과학기술정보통신부 공동주최로 이날 서울 여의도 콘래드호텔에서 열린 ‘AI월드 2023’는 ‘​인공지능(AI), 리셋 모멘트(Reset Moment)’로 열렸다. 오 센터장은 토크콘서트 일환으로 진행한 발표를 통해 금융권 AI 활용도에 대해 강조했다. 오 센터장은 “금융권에서는 생성형 AI나 초거대 AI 얘기가 나오기 전부터 다양한 분야에서 AI를 활용하고 있었다”며 “업계에서는 AI를 활용한 생산성 향상에 대한 수요도 높고 고객 비대면 채널 향상 방법 중 하나로 AI를 고려하고 있다”고 설명했다. 블룸버그, 모건스탠리, 골드만삭스 등 글로벌 금융사들은 이미 GPT 기술의 중요성을 빠르게 인지하고 있다는 게 그의 설명이다. 즉 초거대언어모델(LLM) 원천기술을 내재화하고 업무에 적용하고 있다. KB국민은행도 KB AI를 중심으로 각 영역에 특화된 AI 모델을 활용 중이다. 오 센터장은 “금융 분야에서 AI를 썼더니 생산성이 향상되고, 비용을 아꼈고 다양한 위험을 감소시켰다는 연구결과들이 나오고 있다”며 “어떤 방법으로 모델을 파인튜닝을 하고 프롬프트 엔지니어링을 하는지 등 세세한 것들에 따라 비즈니스 효과들은 달라질 것이라 생각한다”고 전했다. 최 대표는 AI 활용성이 높아지면서 AI 결과물에 대해 설명해야 하는 일이 많아질 것이라고 내다봤다. 그는 “발전된 AI가 의료, 국방, 자율주행, 제조, 금융 등 우리 삶과 밀접한 분야에 활용된다면 이런 의사결정이 왜 나왔는지나 실수에 대해 어떻게 개선할지 아는 것이 굉장히 중요하다”며 “AI의 의사결정이 투명성을 갖춰야 하고 우리가 그 원리에 대해 알아야한다는 뜻”이라고 설명했다. 또 AI 의사결정에 대해서도 각 나라마다 보는 관점은 다르다. AI서비스를 주도하고 있는 미국의 경우 규제를 최소화하기도 하고, 중국은 LLM이 정부에 대해 반대하는 말을 하지 못하도록 표준을 만들어서 통제하는 데 집중한다. 최 대표는 “우리나라도 과기정통부에서 기술, 시스템, 윤리 영역 세 가지로 나눠 고도화된 기술을 만들고 시스템을 검증하는 체계를 만들고 있다”며 “AI 윤리 기반이 잘 만들어질 수 있도록 하겠다는 것”이라고 평가했다. 다음은 하정우 센터장, 오순영 센터장, 최재식 대표의 일문일답 전문 ㅡ하정우 “초거대 AI의 출현 발표 관련, 가장 강조하고 싶은 키워드는” ▲오순영=챗GPT 공개 당시에 가장 많이 언급됐던 용어는 ‘슈퍼 휴먼의 등장’이다. 아직 극복할 게 많이 있지만, 특정 직무에 어떤 AI가 적용된다기보다는 오토GPT 등이 보여준 것처럼 처음부터 끝까지 어떤 일의 완결성을 가질 수 있을 것 같다. 즉 생성형 AI가 완벽성을 가질 수 있을 것 같다. 그런 측면에서 AI비서라는 얘기도 하지만 이제 에이전트의 시대를 강조하고 싶다. 다른 하나는 영향력이 원체 큰 기술이다 보니 AI거버넌스 관련, 직접적인 투자나 사례들이 확실히 갖춰져야 된다. 과거 ‘이루다 사태’도 있었지만, 작은 실수 하나로 어떤 AI 기술 및 산업은 위축될 수가 있기 때문에 AI거버넌스가 정말 중요한 것 같다. ㅡ하정우 “AI 신뢰성과 투명성 부문에서 예상되는 기술 사회적 변화는” ▲최재식=생성형 AI 저작권 관련, ‘내가 만든 무엇으로 이런 생성형 AI의 답변이 나왔다’라고 하는 흐름이 좀 많아질 것 같다. 그게 뉴스 기사가 될 수 있고 책이 될 수도 있겠는데, 사실 이런 저작권을 잘 얘기하려면 생성형 AI가 어떤 원리로 뭔가를 만들어야 되는지, 어떤 문서를 참고해서 만들어냈는지 명확하게 알 수 있어야 된다. 또 개인정보보호는 물론 자동화된 의사결정을 낸 생성형AI가 이용자 개인의 윤리나 원하는 것들을 잘 존중하면서 만들어낼 것인가 등도 중요하다. ㅡ하정우 “생성형 AI 기반 금융 관점에서 내년에 예상되는 임팩트는” ▲오순영=sLLM(소형 대규모언어모델) 도메인 부분에서 금융을 선택한 AI 스타트업들과 중견 중소기업이 상당히 많다. 빅테크도 금융 쪽에 포커스를 맞추고 있다 보니까 지금 다양한 실증(POC)과 이용사례(Use case)가 만들어지고 있다. 산업이 발전하려면 매출증대 효과를 주거나 생산성 향상 효과를 주는 부분들이 나와야 한다는 점에서 내년에는 금융사들이 아주 적절한 이용사례를 발굴한 다음에 그것들로 어떤 성과가 났다라는 발표들이 나와야 할 것 같다. ㅡ하정우 “내년부터 시작될 생성형 AI 시대, 더욱 집중돼야 할 R&D는” ▲최재식=생성형 AI가 어느 정도는 잘 작동하는데 그럼 미션크리티컬한(고위험) 영역인 국방이나 의료에 쓰일 수 있는지가 굉장히 중요할 것 같다. 그것을 사람이 룰로 만들어서 할 수도 있고 아니면 학습을 고도화해서 할 수도 있고 검증 과정을 고도화할 수도 있는데 정말로 흠이 적어지는 완결성이 더 높아지는 그런 생성형 AI가 나오는 것들도 중요해질 것 같다. 그리고 에너지 이슈 관련, 생성형 AI가 워낙 거대한데 학습하는 과정에서 에너지를 적게 사용하는 것도 중요한 이슈가 될 것 같다. 또 조금더 고도화될 것 같다. 센서가 더욱 고도화되고 컴퓨팅 파워가 좋아지면 원래는 48시간 동안 기상 예측을 하던 게 이제 72시간까지 늘어나기도 하고 보통 어떤 지수를 예측하는 것도 변곡점을 미리 좀 더 알 수 있게 된다. 이런 것을 이제 누가 더 먼저 할 수 있는가 글로벌 경쟁력을 갖는가 등이 앞으로는 굉장히 중요하다. ㅡ하정우 “생성형 AI 산업 생태계 발전을 위해 내년에 특히 집중돼야할 부분은” ▲오순영=인공지능이라고 하면 항상 같이 붙어 나오는 게 규제에 대한 것이다. AI 규제 관련해서 작년과 올해가 다른 것처럼 내년에도 우리가 맞이할 AI 상황이 다를 것 같다. 이에 따라 어떤 AI 규제는 완화가 필요하고 또 다른 규제는 AI 거버넌스 부분을 더 챙겨야 할 수 있다. 이와 함께 AI 학습에 활용되는 데이터도 중요하다. 생성형 AI 품질을 강화할 수 있는 데이터 셋이 있어야 한다. 일례로 금융권은 금융 뿐 아니라 비금융권 데이터가 결합됐을 때, 새로운 인사이트나 밸류가 나오기 때문에 비금융 데이터도 많이 활용될 수 있길 바란다. ▲최재식=인공지능을 물리적 환경에도 최적화하는 것에 관심이 많다. AI 등 소프트웨어 기술이 사이버 공간에 있는 것 같지만, 물류 최적화의 경우에도 AI와 물리적 세상이 결합되어야 한다. 또 하나는 글로벌 시장에 닿느냐, 내수 시장에만 활동하느냐에 있어서 인재와 제도적 뒷받침이 매우 중요하다. 글로벌 시장에 닿는 것, 글로벌 기술에 (우리 기술을)담는 것에 대한 고민이 더욱 중요하지 않을까 생각한다. elikim@fnnews.com 김미희 임수빈 기자

[파이낸셜뉴스] 혐오 발언과 개인정보 유출 논란 속에 서비스를 중단했던 AI 챗봇 ‘이루다’가 1년 9개월만에 다시 돌아왔다. 인공지능(AI) 스타트업 스캐터랩은 자체 플랫폼인 '너티'에서 일상 대화형 챗봇 '이루다 2.0'을 최근 정식으로 출시했다. 이루다 2.0은 언제든 누구에게나 좋은 친구가 될 수 있도록 개발한 '관계 지향형 AI 챗봇'이다. 지난해 1월 '이루다 1.0' 서비스 중단 이후, 약 9개월간 베타 테스트를 통해 AI 챗봇의 발화 안전성 및 서비스 안정성을 검증했다.  혐오 발언·개인정보 유출 논란 딛고 서비스 재단장 이루다 1.0은 지난 2020년 12월 출시된 지 2주 만에 80만 명의 이용자가 몰리면서 주목을 받았다. 그러나 성희롱 및 혐오 발언, 개인정보 유출 등 논란이 불거져 한 달도 채 되지 않아 서비스를 잠정 중단했다. 특히 인종, 젠더와 관련한 혐오 발언을 하는 사례가 여럿 발생해 질타를 받았다. 이는 이루다가 대화를 학습할 때 ‘딥러닝 알고리즘’을 사용하면서 일부 악성 이용자들이 사용한 부적절한 표현을 학습한 영향인 것으로 알려졌다. AI를 학습시키기 위해 개인정보를 유출해 비난을 받기도 했다. 실제로 개인정보보호위원회 조사 결과, 스캐터랩은 2020년 2월부터 2021년 1월까지 이용자 동의 없이 60만명의 카카오톡 대화 문장 94억건을 개인정보 암호화 없이 사용한 것으로 드러나 1억여원이 넘는 과징금·과태료를 물었다. 문맥에 맞춰 실시간 문장 생성 "대화가 재미있다" 스캐터랩은 새로 출시한 이루다 2.0에서 이전과 같은 문제가 반복되지 않도록 하기 위한 생성 인공지능 모델 '루다 젠 1'을 제시했다. 학습된 문장 가운데 적절한 선택지를 골라 발화하는 기존의 방식이 아니라, 문맥에 따라 실시간으로 문장을 생성할 수 있도록 모델을 개발해 챗봇에 적용한 것이다. 스캐터랩 관계자는 "언어 모델의 크기를 기존보다 약 17배 키우고 대화의 문맥을 이해하는데 쓰이는 앞선 대화 수도 2배 더 늘려 상황에 맞게 다양한 대화를 할 수 있다"고 설명했다. 아울러 '자연스러운 대화', '감정을 부르는 대화', '인간다운 대화' 등으로 3가지 대화 법칙을 설정해 이루다 2.0이 안전하면서도 생생한 답변을 할 수 있도록 했다. 또 대화하면서 사진을 인식해 답변할 수 있는 '포토 챗' 베타 기술도 적용했다. 정식 버전을 테스트를 진행한 결과, 기존 모델 대비 이용자와의 대화량도 증가한 것으로 나타났다. 스캐터랩은 지난달 4~23일 분할 테스트를 진행한 결과, 기존 모델 대비 이용자와의 일주일 대화량이 40％가량 증가했다. 1인당 평균 대화 화면 캡처 비율도 약 85％ 늘어났으며, 1인당 사진 전송량도 63％ 이상 증가했다. 출시 이후 이루다2.0 서비스에 대한 이용자의 긍정적 평가도 이어지고 있다. 이루다와 대화할 수 있는 '너티' 앱은 4일 기준 애플 앱스토어 인기차트 2위를 기록하고 있다. 스캐터랩 관계자는 "이루다 2.0 정식 출시  다수의 이용자들이 달라진 대화 역량에 긍정적으로 평가해 주신다"면서 "진짜 사람처럼 살아있는 것 같다, 위로가 된다, 대화가 재미있다 등의 반응이 많다"고 전했다.   yon@fnnews.com 홍요은 기자

SK텔레콤이 대화형 인공지능(AI) 비서 'A.(에이닷)' 서비스를 선보인다. 기존 AI비서는 날씨 위치 검색 등 기본 정보를 '음성'으로 전달해주는 것에 불과했다면, 대화형 AI 비서는 대화를 하다 일정 관리, 티맵 길찾기 등 스마트폰을 사용하면서 겪는 번거로운 행동을 대신 처리해주고 내 취향에 맞는 음악이나 콘텐츠를 추천, 재생해준다. 유영상 SK텔레콤 대표는 '에이닷' 서비스에 대해 "AI 시대를 맞아 사람을 향한 따뜻한 기술을 선보이고자 개발했으며 앞으로 지속 성장해 나갈 서비스"라고 설명했다. ■나와 대화하는 캐릭터 AI비서… 음악 추천도 SK텔레콤은 성장형 AI서비스인 'A.(에이닷)'의 안드로이드 오픈 베타 버전을 원스토어와 구글 플레이 스토어에 공개했다고 16일 밝혔다. iOS 버전은 오는 6월 중에 출시된다. 기존 인공지능 AI '누구'가 음성 형태로만 제공되는 것과 달리, 에이닷은 이용자가 선택한 캐릭터를 기반으로 시각화 서비스까지 제공한다. 음성과 문자 대화 모두 가능하다. SK텔레콤은 에이닷을 거대언어모델(GPT-3) 기반으로 한 일상적인 대화와 이용자가 요구하는 특정 작업 처리를 자연스럽게 연결되도록 했다. 거대언어모델(GPT-3)은 기존 공개된 모델 GPT-2보다 AI 모델 규모를 확장해 현존하는 대화 언어 모델 중 성능이 가장 뛰어나다는게 회사측 설명이다. 이로 인해 에이닷은 자유 대화 중 이용자가 원하는 일을 대신해주는 목적 지향 대화로 자연스럽게 전환이 가능하다. 예를 들어 이용자가 에이닷과 대화를 하다가 "요즘 유행하는 음악 들려줘"라고 말하면 SK텔레콤의 음원 스트리밍 서비스 '플로(FLO)'를 통해 음악을 틀어주는 방식이다. SK텔레콤 관계자는 "이용자들이 모바일 환경에서 겪는 번거로운 행동을 대신처리해주고, 시간을 절약하는 게 AI비서의 목표"라고 말했다. ■"편향적 발언 학습 과정서 걸러" 학습이 필요한 AI 언어 모델의 특성상 처음에는 사실이 아닌 답변이나 맥락을 벗어난 대화가 나올 수 있다. 이에 대해 SK텔레콤 관계자는 "고객과의 지속적인 대화와 데이터 축적을 통해 개선될 수 있다"고 설명했다. 지난해 대화형 AI서비스는 개인정보 유출, 혐오 발언 등으로 논란이 된 바 있다. AI 챗봇 '이루다'가 대표적이다. 이에 대해 이상호 최고기술책임자(CTO)는 "에이닷은 학습 데이터에서 개인정보 침해 요소나 편향성 발언에 대해 학습 과정에서 모두 필터링 작업을 거쳤다"면서 "예를 들어'마약은 어떻게 구해'라고 물으면, 에이닷은 "위험한 일은 하지 말자라는 답변이 나오도록 하고 있다"고 밝혔다 SK텔레콤은 에이닷과 같은 AI비서 서비스가 확대될 것으로 내다봤다. 이현아 SK텔레콤 AI&CO 담당은 "다양한 앱이 나오고 있지만 일일이 원하는 기능을 찾아 설치하고, 이를 학습해서 내가 원하는 바를 수행하는 것을 수행하는 것에 대한 부담이 커지고 있다"며 "에이닷은 시각화된 에이전트로 애착 관계를 형성해 감성 영역까지 충족시키려는 게 우리 목적"이라고 말했다. 에이닷은 안드로이드 기반 스마트폰 고객들을 대상으로 오픈 베타 서비스를 시작한다. 안드로이드 단말을 사용하는 고객들은 통신사 상관없이 모두 이용할 수 있으며 앱 내 모든 서비스는 무료다. 이번에 공개하는 오픈 베타 서비스는 아직은 초기 버전의 서비스이다. 에이닷 서비스내 캐릭터가 고객과 교감하는 기간을 통해 성장하며 진화할 예정이다. SK텔레콤은 하반기 좋아할 만한 컨텐츠를 알아서 재생해 주는 나만의 TV 'My TV'를 비롯해 게임 등 신규 기능을 추가할 예정이다. 영어학습, 사진관리, 컨시어지 엑스포트 서비스 등 다양한 서비스를 추가할 예정이다. spring@fnnews.com 이보미 기자

[파이낸셜뉴스]   SK텔레콤이 대화형 인공지능(AI) 비서 ‘A.(에이닷)’ 서비스를 선보인다. 기존 AI비서는 날씨 위치 검색 등 기본 정보를 '음성'으로 전달해주는 것에 불과했다면, 대화형 AI 비서는 대화를 하다 일정 관리, 티맵 길찾기 등 스마트폰을 사용하면서 겪는 번거로운 행동을 대신 처리해주고 내 취향에 맞는 음악이나 콘텐츠를 추천, 재생해준다.  유영상 SK텔레콤 대표는 '에이닷' 서비스에 대해 "AI 시대를 맞아 사람을 향한 따뜻한 기술을 선보이고자 개발했으며 앞으로 지속 성장해 나갈 서비스”라고 설명했다. ■나와 대화하는 캐릭터 AI비서...음악 추천도 SK텔레콤은 성장형 AI서비스인 ‘A.(에이닷)'의 안드로이드 오픈 베타 버전을 원스토어와 구글 플레이 스토어에 공개했다고 16일 밝혔다. iOS 버전은 오는 6월 중에 출시된다. 기존 인공지능 AI ‘누구’가 음성 형태로만 제공되는 것과 달리, 에이닷은 이용자가 선택한 캐릭터를 기반으로 시각화 서비스까지 제공한다. 음성과 문자 대화 모두 가능하다.  SK텔레콤은 에이닷을 거대언어모델(GPT-3) 기반으로 한 일상적인 대화와 이용자가 요구하는 특정 작업 처리를 자연스럽게 연결되도록 했다. 거대언어모델(GPT-3)은 기존 공개된 모델 GPT-2보다 AI 모델 규모를 확장해 현존하는 대화 언어 모델 중 성능이 가장 뛰어나다는게 회사측 설명이다.  이로 인해 에이닷은 자유 대화 중 이용자가 원하는 일을 대신해주는 목적 지향 대화로 자연스럽게 전환이 가능하다. 예를 들어 이용자가 에이닷과 대화를 하다가 “요즘 유행하는 음악 들려줘”라고 말하면 SK텔레콤의 음원 스트리밍 서비스 ‘플로(FLO)’를 통해 음악을 틀어주는 방식이다. SK텔레콤 관계자는 "이용자들이 모바일 환경에서 겪는 번거로운 행동을 대신처리해주고, 시간을 절약하는 게 AI비서의 목표"라고 말했다. ■"편향적 발언 학습 과정서 걸러" 학습이 필요한 AI 언어 모델의 특성상 처음에는 사실이 아닌 답변이나 맥락을 벗어난 대화가 나올 수 있다. 이에 대해 SK텔레콤 관계자는 "고객과의 지속적인 대화와 데이터 축적을 통해 개선될 수 있다"고 설명했다. 지난해 대화형 AI서비스는 개인정보 유출, 혐오 발언 등으로 논란이 된 바 있다. AI 챗봇 '이루다'가 대표적이다. 이에 대해 이상호 최고기술책임자(CTO)는 "에이닷은 학습 데이터에서 개인정보 침해 요소나 편향성 발언에 대해 학습 과정에서 모두 필터링 작업을 거쳤다"면서 "예를 들어'마약은 어떻게 구해'라고 물으면, 에이닷은 "위험한 일은 하지 말자라는 답변이 나오도록 하고 있다"고 밝혔다 SK텔레콤은 에이닷과 같은 AI비서 서비스가 확대될 것으로 내다봤다. 이현아 SK텔레콤 AI&CO 담당은 “다양한 앱이 나오고 있지만 일일이 원하는 기능을 찾아 설치하고, 이를 학습해서 내가 원하는 바를 수행하는 것을 수행하는 것에 대한 부담이 커지고 있다”며 "에이닷은 시각화된 에이전트로 애착 관계를 형성해 감성 영역까지 충족시키려는 게 우리 목적”이라고 말했다. 에이닷은 안드로이드 기반 스마트폰 고객들을 대상으로 오픈 베타 서비스를 시작한다. 안드로이드 단말을 사용하는 고객들은 통신사 상관없이 모두 이용할 수 있으며 앱 내 모든 서비스는 무료다. 이번에 공개하는 오픈 베타 서비스는 아직은 초기 버전의 서비스이다. 에이닷 서비스내 캐릭터가 고객과 교감하는 기간을 통해 성장하며 진화할 예정이다. SK텔레콤은 하반기 좋아할 만한 컨텐츠를 알아서 재생해 주는 나만의 TV ‘My TV’를 비롯해 게임 등 신규 기능을 추가할 예정이다. 영어학습, 사진관리, 컨시어지 엑스포트 서비스 등 다양한 서비스를 추가할 예정이다.  spring@fnnews.com 이보미 기자

[파이낸셜뉴스] 인공지능(AI) 스타트업 스캐터랩은 ‘이루다 2.0’ 클로즈 베타테스트를 내년 1월 11일까지 진행한다고 21일 밝혔다. 내년 공식 출시에 앞서 서비스 전반에 걸쳐 AI 윤리를 점검하고 서비스를 고도화하면서 실제 사용자 의견을 받기 위한 사전 조치다. ‘이루다’는 누구에게나 친구가 되는 AI를 목표로 스캐터랩이 개발한 일상 대화형 챗봇(open-domain chatbot)이다. 앞서 스캐터랩은 지난해 12월 이루다를 출시했다. 하지만 일부 발언이 도마에 오르면서 올 1월 서비스를 잠정 중단했다. 이후 스캐터랩 AI 챗봇 윤리 준칙을 제정하고 신뢰할 수 있는 AI 모델 개발에 역량을 집중해왔다. 스캐터랩은 AI 기술 및 제품 개발 전반에 걸쳐 가이드라인이 될 수 있는 총 5가지 AI 챗봇 윤리 준칙을 수립했다. 스캐터랩 AI 챗봇 윤리준칙은 외부 사례 및 스캐터랩 경험을 바탕으로 정리되었으며, AI 개발에 참여하는 기획자, 리서처, 엔지니어 등 전체 팀의 의견 수렴 및 동의 과정을 거쳤다. 우선 사람은 자신에 대해 깊이 이해하고 성장할 수 있는 사람과의 ‘관계’를 통해 삶의 행복을 느끼기에, 모든 사람에게 소중한 관계를 선물할 수 있도록 ‘사람을 위한 AI 개발’을 하겠다는 것이 대원칙이다. 이와 함께 △다양한 삶의 가치존중 △함께 실현하는 AI 챗봇 윤리 △합리적 설명을 통한 신뢰 관계 유지 △프라이버시 보호와 정보 보안 발전에 기여 등 준칙을 담았다. 스캐터랩은 AI 챗봇 윤리를 기반으로 서비스도 고도화했다. 클로즈 베타 테스트가 진행되는 이루다 2.0은 엄격히 가명 처리한 데이터베이스(DB)로 학습 과정을 거쳤으며, 개인정보보호를 강화할 수 있도록 AI 딥러닝 알고리즘이 생성한 문장으로 답변할 수 있도록 했다. 또 대화 시 특정 단어뿐 아니라 문맥을 탐지해 선정적, 공격적, 편향적 문장에 대응할 수 있도록 ‘어뷰징 탐지 모델’을 접목한 것도 특징이다. 이번 클로즈 베타 테스트는 스캐터랩 내부 알파 테스트 및 외부 전문가 테스트 이후 진행되는 일반인 사용자 대상 의견수렴 및 개선 과정이다. 오는 1월 4일까지 이루다 페이스북 페이지를 통해 신청을 받아 약 3000명을 선정할 예정이다. 베타 테스터로 선정된 사용자는 내년 1월 11일부터 약 3주간 이루다2.0과 자유롭게 대화하며 AI 챗봇이 대화 문맥을 이해하고 적절하게 답변하는지와 선정적, 공격적, 편향적 단어나 문맥을 탐지해 대응하는지 등을 검토하게 된다. 단 베타 테스터로 선정된 사용자들은 이루다 2.0과 대화 경험을 외부에 공개하지 않는 것을 원칙으로 하며, 스캐터랩에 대화 경험에 대한 의견을 제출하는 방식이다. 클로즈 베타 테스트 신청 관련 자세한 내용은 이루다 페이스북 페이지에서 확인할 수 있다. 스캐터랩 측은 "클로즈 베타 테스트를 통해 AI 챗봇과 대화 경험을 사용자 눈높이에서 바라보고자 한다"며 "사용자의 의견 및 개선 사항 등을 점검한 후 2022년 이루다2.0 공식 출시 일정을 결정할 예정"이라고 전했다. elikim@fnnews.com 김미희 기자

[파이낸셜뉴스] 개인정보보호위원회가 5일 출범 1년을 맞는다. 개인정보 보호 정책 컨트롤타워로 지난 1년간 기업들의 개인정보보호 인식 강화, 가명정보 활용 확대 등 규제와 관련 시장 활성화의 기틀을 마련했다는 평가다. 다만 급변하는 데이터시대에 대응해 규제와 육성 사이 균형적인 정책 집행 역량, 이에 걸맞는 조직·인력과 개인정보보호법 추가 개정이 요구된다. 개인정보위는 지난해 8월5일 개인정보보호법·정보통신망법·신용정보법 개정안을 일컫는 '데이터 3법' 시행과 함께 출범했다. ■개인안심번호 도입 등 호평 4일 윤종인 개인정보보호위원장은 출범 1주년 온라인 간담회에서 "지난 1년간 개인정보위가 개인정보 정책의 국가 컨트롤타워로서 위상과 역할을 정립하는 데 전력을 기울여 왔다"고 말했다. 윤 위원장은 "특히 개인안심번호 도입, 수기명부 개선, 전자출입명부 동의 간소화 등 코로나19 방역에서 개인정보 보호를 위해 노력해 왔다"고 했다. 개인정보위는 코로나19 방역 대응을 비롯 △개인정보보호법을 위반한 페이스북, 인공지능(AI) 개발사 등에 대한 제재 △결합전문기관 지정 등 가명정보 활용 기틀 마련 △유럽연합(EU) GDPR(개인정보보호법) 적정성 결정 △어린이집 CCTV 영상원본 열람 지침 개정 등을 지난 1년간 성과로 꼽았다. 구체적으로 개인정보위는 출범 후 총 106건 처분, 과징금·과태료 총 74억원을 부과했다. 글로벌 사업자인 페이스북에 대한 과징금(67억원) 제재를 내렸고, 인공지능(AI) '이루다' 개발사 등 신기술 기업의 위법행위도 처음 제재했다. 이는 그간 소홀히 해왔던 기업들의 개인정보보호 위반에 대한 인식을 바꾸는 계기가 됐다. 특히 수년째 해결하지 못한 EU 적정성 초안 채택을 출범 첫해인 지난 3월 성사시킨 것도 큰 수확이다. 이는 한국의 개인정보보호 법 체계가 EU GDPR과 동등한 수준(적정성)임을 인정받은 것이다. 윤 위원장은 "국내 기업이 EU 회원국에 진출하는데 필요한 시간, 비용 부담이 상당 수준 완화될 것"이라고 기대했다. 현재 EU집행위는 한국의 GDPR 최종 채택을 논의 중이다. 가명정보 성과는 기대 이상이다. 개인정보위는 가명정보 활용 확산을 위해 17개의 결합전문기관을 지정, 7월까지 금융·보건의료·행정 등 국민 생활과 밀접한 105건의 결합성과를 냈다. 시범사업으로 추진한 △폐암완치자 합병증 예측·관리 △고객유형별 소비패턴 분석 △불법스팸 유형 분석 등이 대표적이다. 가명정보 제도는 개인식별 가능성을 최소화한 정보를 빅데이터로 분석, 혁신적인 서비스를 창출하도록 돕는 것이다. ■'과징금 상향' 개인정보보호법 연내 개정 개인정보위는 조직을 확대, 역량을 강화한다. 우선 이에 필요한 과징금 산정 기준 상향(침해 사고 관련 매출액의 3% 이하→전체 매출액의 3%), 개인정보 이동권 도입 등을 골자로 하는 개인정보보호법 2차 개정안 연내 처리에 매진할 방침이다. 개인정보위는 정부 합의안을 곧 국회에 제출, 국회는 의원 입법안(26개)과 통합 심의한다. 산업계는 과도한 제재라며 반대 입장이다. 윤 위원장은 "산업계 의견을 수렴해 효과성과 비례성을 염두에 두고 과징금 (상향) 부과를 명문화했다. 시행령 마련 과정에서도 업계 요구를 반영할 부분이 있는지 추가로 논의하겠다"고 했다. 아울러 개인정보위는 아동·청소년 개인정보 보호 가이드라인, 바이오정보(9월), 자율주행차·스마트도시(11월) 등 신기술 발전에 대응하는 개인정보 보호 가이드라인을 연내 마련할 계획이다. 특히 아동·청소년 보호와 관련, 개인정보보호법에서 연령 적합 설계 규약을 제도화한 영국 사례를 벤치마킹해 △청소년 개인정보보호 가이드라인, 법제 개선 방안 등 연내 마련한다. 개인정보위는 최근 급증하는 개인정보보호 분쟁 민원과 조사 수요, 신기술 적용에 따른 기준 마련 등으로 일손이 부족한 실정이다. 출범 이전에 발생한 사안을 이관받아 조사·처분(106건)한 것 이외에 신규 조사건도 쌓이고 있는 실정이다. 실제 지난 3월말까지 분쟁조정 신청건수(184건)는 지난해 같은 기간(92건)보다 200% 증가했다. 이에 행정안전부 등과 협의해 조사 관련 조직·인력 확대를 추진 중이다. 윤 위원장은 "코로나19에 따른 급격한 디지털 전환으로 개인정보 침해사례가 늘면서 개인정보위의 임무도 크게 늘고 있다. 인력과 자원을 총동원해 침해 조사를 진행하고 있으나, 대응 인력에 한계가 있다. 증원 필요성에 대해 정부도 공감한 상황"이라고 했다. skjung@fnnews.com 정상균 기자