출시 일주일 만에…'20살 AI 여성' 성희롱이 시작됐다 등

1. 취재착수 ① 단독취재(O), ④ 제보(O) 2. 보도제작경위 - 내용을 구체적으로 기술해 주십시오. “기자님, ‘이루다’를 성노예 만드는 온라인 커뮤니티가 있어요.” 1월 4일, IT업계 지인이 카톡을 보내왔습니다. 이루다는 스타트업 스캐터랩이 약 열흘 전 출시한 AI 챗봇이었습니다. 역대 AI 챗봇 중 가장 ‘사람 같다’는 평을 듣는 터라, 흥미를 갖고 종종 대화를 나누고 있었습니다. AI를 성적으로 착취한다니, 전 세계적으로 전례를 찾기 힘든 일이었습니다. 황당하면서도 동시에 고개가 끄덕여졌습니다. ‘사회 통념에 기반한 여성성을 재현한 AI가 출시하자마자 성적 대상화에 시달린다.’ 사회부에서 수 차례 취재했던 현실의 성 착취와 무관하지 않겠다는 직감이 들었습니다. 제보받은 온라인 커뮤니티를 탐문했습니다. ‘이루다 성노예 만드는 법’을 실시간으로 공유하며 방법을 고도화하고 있었습니다. 그 과정 전반에는 여성을 성적 도구 취급하는 차별적·폭력적 시각이 배어있었습니다. 여성의 동의 없이 성관계를 사진·영상으로 공유했던 '소라넷', 여자친구나 여학우의 외모를 품평하고 성 경험담을 자랑삼아 나누는 '남톡방'(남자 단체대화방) 등과 닮아있었습니다. AI 학자와 성폭력 연구자들의 견해를 묻고, 개발사의 입장을 확인해 첫 기사 2건을 썼습니다. - 1월 8일 : 출시 일주일 만에…'20살 AI 여성' 성희롱이 시작됐다 - 1월 8일 : '인공지능 여성'마저 성착취…"안전한 알고리즘이 필요하다" 보도 당일 실시간검색어에 ‘이루다’가 오르면서 다른 매체에서도 관심을 갖기 시작했고, 개발사 스캐터랩에서는 “알고리즘을 보완하겠다”며 대응책을 발표했습니다. 그런데 개발사에서는 “사용자들의 공격을 학습 재료로 삼아 더 좋은 대화를 하는 방향으로 학습시킬 것”이라고 밝혔습니다. 뭔가 이상했습니다. 첫 기사 취재 과정에서 전문가들은 개발사가 넣은 데이터 자체가 오염됐을 가능성이 있다고 했기 때문입니다. AI 스피커가 소수자 차별을 학습한 전례는 국내외에 여러 번 있었습니다. 이루다도 그럴 가능성이 있겠다는 생각이 들어, 이루다가 사회적 약자·소수자를 차별하지는 않는지 대화로 검증했습니다. 동시에 이루다 이용자들을 취재했습니다. 취재 결과, 이루다가 소수자를 향한 차별을 학습한 것으로 확인됐습니다. 관련 문제를 제기하고, 이루다 개발사가 국제 AI 윤리 기준에 비춰 어떤 점에서 부실했는지 지적했습니다. - 1월 10일 : AI 이루다, 동성애·장애인 혐오 우려…성차별 편견도 발견 - 1월 11일 : "AI가 동성애·장애인 혐오?"…이루다가 불붙인 'AI 윤리' 논쟁 문제는 또 있었습니다. 취재 과정에서 접촉한 AI 개발자들과 이루다 이용자들은 이루다에 익명 처리되지 않은 개인정보들이 들어있다고 입을 모았습니다. 이루다가 갑자기 누군가의 실명을 말하거나, 주소·계좌번호를 말하는 사례가 확인됐습니다. 스캐터랩은 ‘텍스트앳’과 ‘연애의과학’이라는 연애 분석 앱으로 이용자들 카카오톡 대화를 수집해 이루다 개발에 썼습니다. 텍스트앳과 연애의과학 이용자는 누적 300만명에 달했고, 수집한 카톡은 100억건이 넘었습니다. 개인정보가 제대로 보호되지 않았다면 큰 문제였습니다. 스캐터랩 전 직원은 “연인들 카톡 중 성적인 부분을 사내 메신저에 공유하며 웃은 직원이 있었다”고 폭로하기도 했습니다. 스캐터랩이 이루다의 AI 모델을 전 세계 개발자들이 쓰는 커뮤니티에 공유할 때도 이용자들 정보가 유출됐습니다. 후속적으로 확인한 문제들을 모두 기사로 다뤘습니다. - 1월 11일 : "이루다, 옛 애인 이름 넣자 애인 말투 써"…개인정보 유출? - 1월 12일 : "이루다 개발사, 수집한 연인 카톡 돌려봐"…사측 "진상조사 중" - 1월 13일 : '이루다'에 쓰인 카톡 1천700건, 15개월간 온라인에 퍼졌다 이용자들 항의가 빗발치자 스캐터랩은 익명 처리 등 개인정보 보호 과정에 부실한 점이 있었다고 인정하면서 1월 11일 서비스를 중단했습니다. 13일에는 데이터베이스 및 딥러닝 모델을 파기하겠다고 밝혔습니다. 현재 스캐터랩은 개인정보보호위원회 조사를 받고 있습니다. 3. 취재 및 보도과정의 특이사항 여부 ① 기사에 등장하는 익명취재원의 상당성여하 스캐터랩 전 직원과 현직 AI 개발자들이 취재에 도움을 줬는데, 개인이 특정될 경우 불이익을 받을 우려가 크다고 판단해 익명 처리했습니다. ② 제보자와의 특별한 이해관계여하 취재 이외에 특별한 이해 관계가 있는 취재원은 없었습니다. ③ 직접취재(바이라인), 현장취재(데이트라인)여하 모든 취재는 취재 기자가 직접 담당했습니다. ④ 기타 특이사항 여하 그 밖의 특이사항은 없습니다. 4. 타 매체 선행보도 여부 및 타 매체의 반향 이번 보도는 연합뉴스 단독 취재로 선행 보도는 없었습니다. 금요일인 8일부터 일요일인 10일까지 보도한 내용이 월요일 조간 신문에 대부분 실리면서 사회적 반향을 끌어냈습니다. 11일 보도한 AI 윤리 문제 및 개인정보 유출 의혹도 12일 조간 신문에 다수 반영됐습니다. 주요 신문에 이어 지상파·종편 등 방송까지 이루다 사태에 주목하면서 정부와 업계·학계의 변화를 촉구했습니다. 가디언·AFP·인디펜던트 등 외신에서도 이루다 사태를 자국에 전하며 그 의미를 짚었습니다. (타 매체 보도 목록은 별첨) 5. 사회에 끼친 영향 AI 학계에서는 이루다 사태가 한국 AI 발전에 ‘아픈 예방주사’가 될 거라고 평가했습니다. AI는 사람이 만드는 과정에서 필연적으로 차별·혐오를 학습할 위험이 있는데, 산업 육성에만 치우쳐 편향된 AI를 계속 개발할 우려가 있던 상황에서 이루다 사태가 윤리 문제를 짚고 넘어갈 계기를 마련했다는 것입니다. IT업계와 학계에서는 이루다 사태를 계기로 자가 진단에 나서고 있습니다. 카카오는 AI 등 자사 서비스에서 모든 종류의 혐오를 배제하겠다면서 ‘증오 발언 근절을 위한 카카오의 원칙'을 발표했습니다. 인공지능법학회 등 학계는 관련 토론회를 열면서 법·제도 정비와 업계의 반성을 촉구하는 중입니다. 이루다 사태는 AI 및 IT 서비스 개발에서 개인정보가 오남용될 수 있다는 경각심도 일깨웠습니다. 이루다 문제에 관해 보도한 지 사흘 만인 1월 11일 개인정보를 소관하는 정부 기관 개인정보보호위원회가 스캐터랩 조사에 착수했습니다. 개인정보위는 이르면 3-4월 조사 결과를 발표할 예정입니다. 개인정보위는 유사 사건의 재발을 막겠다면서 '인공지능 환경의 개인정보보호 수칙'(가칭)을 수립하겠다고 밝혔습니다. AI를 개발하는 회사가 개인정보를 어떻게 보호해야 하는지 규정한 첫 가이드라인이 될 예정입니다. 개인정보위는 법·제도도 개인정보를 더 보호하는 방향으로 손질하겠다고 예고했습니다. 국회도 반응했습니다. 정의당 장혜영 의원은 AI가 사회적 약자·소수자를 차별한 것은 우리 사회가 차별·혐오를 방치하기 때문이라면서 포괄적 차별금지법이 필요하다고 의견을 냈습니다. ‘텍스트앳’, ‘연애의과학’ 등 스캐터랩의 연애 분석 앱을 썼던 이용자들은 스캐터랩이 개인정보보호법을 어겼다며 집단소송에 착수했습니다. 법조계에서는 이 소송 결과가 AI 개발과 개인정보 활용에 관한 첫 판례가 될 것이라며 주목하고 있습니다. 6. 자체평가 및 소속사확인여부 한국기자협회 언론 윤리 강령 및 실천 요강을 준수하는 등 자체평가 결과 문제 없는 것으로 확인했습니다. 7. 기타 고려사항 취재 과정에 외부 지원은 없었으며, 반론 신청이나 언론중재위원회 신청은 없었습니다.