세계 최고의 인공지능(AI) 기업 오픈AI 이사회가 '챗GPT의 아버지'로 불리는 샘 올트먼 CEO를 전격 해고한 이유는 무엇일까. 많은 사람들이 1985년 애플 이사회가 창업자 스티브 잡스를 몰아냈을 때와 비슷한 충격을 얘기한다. 그러나 그때 애플 사태가 단순한 판매전략에 대한 이견 때문이었다면, 지금은 회사의 창업이념과 관련돼 있다는 점이 다르다.오픈AI에 130억달러를 투자해 지분 49%를 보유한 최대주주 마이크로소프트(MS)와 직원들까지 끼어들어 문제의 본질을 흐렸다. 올트먼의 오픈AI 복귀와 MS 이적은 지엽말단적 사안이다. 사공 많은 배가 산으로 가는 형국이다. 이사회를 장악하지 못한 MS가 쿠데타를 통해 오픈AI의 지식재산과 기술인력을 빼낸 뒤 AI 산업을 평정하는 과정으로 보는 시각도 존재한다. 이 사건의 본질은 AI윤리에 관한 것이다. 오픈AI 이사진은 비영리기업으로 출발한 회사의 정신을 어긴 올트먼의 월권과 수익 위주 경영을 문제 삼았다. 해임 이유를 "사명(mission)을 지킬 유일한 길이었다"고 명시했다. 오픈AI의 확장 및 상용화를 밀어붙인 올트먼의 경영지침에 대한 반기였다. MS의 투자를 받고, 챗GPT를 공개하고, 유료화한 뒤 이익추구에 나선 게 해임의 배경이다. 인간과 비슷한 수준의 범용인공지능(AGI) 개발 착수가 해임 결정을 촉발했다는 분석도 있다. "이들은 올트먼이 잠재적으로 유해한 AGI 시스템 구축을 위해 너무 빨리 움직인다고 걱정했고, 그를 멈춰 세웠다"고 뉴욕타임스는 분석했다. AI가 AGI에 이르면 인간의 개입 없이도 스스로 기능을 개선해 결국 인류를 파괴할 능력을 갖출 것이라는 우려가 컸다. 알트먼은 "AGI의 긍정적인 측면이 너무 크기 때문에 사회가 그 발전을 영원히 멈추는 것이 가능하지도 바람직하지도 않다"고 일축해왔다. '이들은' 누구인가. 이번 해임을 주도한 오픈AI 이사 4명 중 3명이 '효율적 이타주의(effective altruism)' 운동과 관련이 있다. 일리야 수츠케버 수석과학자와 기술사업가 타샤 맥컬리, 조지타운 보안 및 신흥 기술 센터의 헬렌 토너가 그들이다. 이들이 속한 효율적 이타주의 그룹은 AI에 의한 인류 파멸을 경계해왔다. 앞으로 이 사건이 어떻게 막을 내릴지 예측하긴 어렵지만 이들이 경종을 울렸다는 평가엔 이의가 없다. 효율적 이타주의는 가장 효율적으로 타인과 인류를 도울 수 있는 방법을 이성과 증거를 기반으로 추구하는 실천윤리학 운동이다. 제창자 피터 싱어 프린스턴대 석좌교수는 2013년 3월 '효율적 이타주의의 이유와 방법'이라는 테드(TED) 강연을 통해 마음을 움직였다. 실리콘밸리의 많은 거물 창업자들이 동조했다. 우리가 챗GPT의 환상에 빠져 환호할 동안 이 같은 주장이 줄기차게 제기돼 온 사실을 간과해선 안 된다. 1984년에 개봉한 할리우드 영화 터미네이터 속 '스카이넷'처럼 AI가 인류를 지배할 수 있다는 인식의 공유를 뜻한다. AI윤리란 AI 시스템이 프로그래머의 의도에 복종하고, 인간을 해치지 않으면서, 권력을 추구하지 않도록 막는 새로운 연구분야를 말한다. '착한 AI'를 만들기 위해서는 지금보다 더 신중한 속도조절과 기술이 필요하다. 한 가지 분명히 하고자 한다. AI는 인간이 안심하도록 안전하게 관리돼야 할 윤리학의 대상이다. 인간 생태계의 존속을 결정짓기 때문이다. 지속가능한 AI를 만들려면 시간이 많이 걸리고, 비용도 더 많이 들겠지만 확실한 검증과 모니터링을 거쳐야 마땅하다. 챗GPT를 사용해 본 사람이라면 그 영특함에 놀라면서도, 한편으론 그 영악함에 고개를 가로젓기 마련이다. AI의 무한질주를 방치해선 안 된다. 효율적 이타주의 정신에 동의하든, 않든 통제 불가능한 AI는 인류의 유일무이한 공포의 대상이라는 사실을 잊지 말아야 한다. 인간을 노예로 만들거나 멸망의 길로 이끌 적은 침팬지가 아니다. joo@fnnews.com 노주석 논설고문
2023-11-22 18:35:45[파이낸셜뉴스] 가상자산 업계의 억만장자 샘 뱅크맨-프리드(Sam Bankman-Fried) FTX 최고경영자(CEO)가 "세상을 바꾸기 위한 가장 효과적인 방법 중 하나로 바이든 캠프를 후원했다"고 지난해 미국 대선 당시 바이든 후보를 후원했던 배경을 설명했다. 뱅크맨-프리드 CEO는 조 바이든 캠프 개인 후원자 중 최고액 기준 2위 후원자로 이름을 올려 가상자산 업계는 물론 미국 정가에서도 주목받은 인물이다. 샘 뱅크맨-프리드는 가상자산 파생상품 거래소 FTX와 자체 블록체인 시스템 솔라나 기반의 탈중앙거래소(DEX) 세럼, 알라메다 리서치 등을 운용하는 가상자산 업계 대표 인물이다. 현재 약 100억달러(약 11조원)의 재산을 보유한 것으로 추정된다. "이익 극대화 후 기부가 사업 목표" 샘 뱅크맨-프리드 CEO는 최근 실리콘밸리 관련 뉴스 전문 미디어 레코드(recode)와 인터뷰에서 "회사 경영에서 가장 중요하게 생각하는 것은 이익을 극대화해 궁극적으로 최대한 많이 기부하는 것"이라며 "효율적 이타주의 측면에서 기부를 누가 하든 상관이 없으며 단지 부가 어디로 가서 무엇을 성취했는지가 더 중요하다"고 말했다. 뱅크맨-프리드 CEO는 "공장에서 사육되는 동물이나 말라리아로 고통받는 사람들을 위해 기부하는 것과 대통령 선거에 후원하는 것을 비교해 어떤 것이 세상에 더 많은 영향을 줄 지 생각했다"며 대통령 후보를 후원하는 것이 사회적 효과가 높다는 판단 배경을 설명했다. FTX는 지난 달 거래소 수수료 수익의 1%를 자선단체에 기부하겠다고 발표하기도 했다. '효율적 이타주의(effective altruism)'는 세계적으로 급부상하고 있는 사회운동 중 하나다. 감정적 움직임이 아니라 이성적인 판단에 따라 타인을 도와야 한다는 것이다. 예를 들어 아프리카의 고통받는 어린이 사진을 보고 감정에 이끌린 의사가 아프리카에 가서 의료봉사를 하는 것보다, 현재 있는 곳에서 의사 일을 하며 돈을 벌어 그 돈의 일부를 아프리카에 기부하는 것이 더 효율적이고 실질적으로 많은 아이들을 도울 수 있다는 행동주의 사회운동이다. 효율적 이타주의 운동가들은 '부자가 되는 것의 가치'에 중점을 둔다. 더 나은 직업을 갖기보다, 더 많은 부를 축적하고 이를 기부하거나 사회 발전에 사용하겠다는 것이다. "바이든 대통령 만난 적 없어" 뱅크맨-프리드 CEO는 조 바이든 미국 대통령이 선거운동을 할 당시 개인으로서는 두번째로 많은 금액을 후원했다. 그가 바이든 대통령에게 후원한 금액은 520만달러로 우리 돈으로 약 59억원이다. 기업가가 대통령 후보에게 후원한다는 것은 장래에 대통령이 됐을 때 사업적 이득을 얻기 위한 것일 가능성이 많다. 그러나 뱅크맨-프리드 CEO는 지금껏 바이든 대통령을 만나본 적이 없다며 당시 후원이 직접적인 사업 이득과는 거리가 멀다고 선을 그었다. 그러나 뱅크맨-프리드 CEO는 "내가 그에게 유용한 사람이 되기 위해 우리가 서로 모르는 사이라는 것에 대해 깊이 생각하지 않았으면 한다"며, 정부가 가상자산 정책에 관한 전문가를 찾는다면 자신도 고려 대상에 넣어달라는 의사도 우회적으로 내비쳤다. 한편 FTX는 최근 FTX가 미국 프로농구(NBA) 팀 마이애미 히트(MIAMI HEAT)의 경기장 공식 후원사가 되겠다며 플로리다주 마이애미-데이드 카운티와 협의를 진행 중이다. 현재 마이애미 히트의 경기장 공식 후원사는 아메리칸 에어라인인데, FTX의 계약이 성사되면 FTX는 미국 내 메이저 프로 스포츠 경기장을 후원하는 첫 번째 가상자산 기업이 된다. ronia@fnnews.com 이설영 기자
2021-03-23 18:43:28선의와 열정이 늘 긍정적 결과를 가져올까. '그렇다'고 답하고 싶지만 사실 그렇지 않은 사례가 수두룩하다. 영국 옥스퍼드대 철학과 교수이자 비영리 단체 '기빙왓위캔(Giving What We Can)'의 공동설립자인 저자는 '무분별한 선행은 오히려 무익할 때가 많다'고 말한다. '선의로 세상을 아름답게 바꿀 수 있다'는 신념을 가진 이들에게는 충분히 충격적인 한 마디다. 저자는 여기서 한 발짝 더 나아가 어떠한 효과도 얻지 못하는 것은 오히려 낫다고 꼬집는다. 오히려 해를 끼치는 경우도 적지 않기 때문이다. 선진국 사람들은 열악한 환경의 현지 공장에서 벌어지는 노동착취에 분노하고 '공정한 대우'를 외치지만, 그것이 그곳 노동자들에게 행운일지는 알 수 없다. 하루종일 일해 1~3달러를 버는 열악함은 그 자리에서 떠밀리는 순간 공장일보다 더 고된 일에 직면하는 불행으로 떨어지기도 한다. 이 책에서 사례로 든 아프리카 물부족 국가에 식수 펌프를 보급하려 했던 '플레이펌프스인터내셔널'의 일화는 우리에게 많은 것을 시사한다. 혁신적인 아이디어로 시작됐던 사업은 선의와 열정만 앞세운 사업 운영으로 각종 폐해가 드러나며 결국 없던 일이 됐다. 전세계를 대상으로 다양한 사업을 전개하는 월드비전, 옥스팜, 유니세프 등 거대 자선단체도 효율성이 떨어지긴 마찬가지다. 보건사업에 비해 비용은 더 많이 들고 효율은 더 떨어진다는 전문가들의 진단에도 재해 구호에 전력을 기울이고 있기 때문이다. 저자는 개인 차원의 선행도 효과가 없다고 단언한다. 공정무역 제품 구매도, 노동착취 제품 불매도, 온실가스 감축 노력도 소용 없다는 수치가 넘쳐난다고 냉정하게 지적한다. 그렇다면 세상을 바꾸는 것은 무엇일까. 저자는 열정이 아닌 냉정이라고 말한다. 일상적으로 실천하는 이타적 행위가 실제로 세상에 득이 되는지 실이 되는지 냉정하게 따져봐야하는 이유기도 하다. 착한 일을 하고자 할 때, 마냥 열정만으로 그 일에 뛰어드는 것이 아니라 그 일에 과연 내가 도움이 될 수 있는지, 직접적인 도움이 아니라 간접적 지원이 더 긍정적인 결과를 가져오지는 않는지를 따져보라는 것이다. 저자는 흔히 말하는 '이타주의'는 희생을 뜻하는 것이 아니라고 강조한다. '타인의 삶을 개선시킨다'는 단순한 의미로 보고, 주어진 자원으로 최대한의 효과를 얻을 수 있는 효율적 방법을 찾으라고 말이다. 이 책은 우리의 선행이 선의에만 의존하면 오히려 해악을 끼칠 수 있고, 감정에 좌우되지 않는 냉정한 판단만이 비로소 세상을 변화시킬 수 있음을 일깨운다. 조윤주 기자
2017-03-01 16:59:34