AI와의 위험한 대화

1. 취재착수 ① 단독취재( ), ② 단독기획( V ), ③ 보도자료 심층기획( ), ④ 제보( ), ⑤ 기타( ) 2. 출품 보도물 목록(최초 보도부터 순서대로 3건까지 기재) 번호 보도일시 보도 제목 1 2월9일자 조간1면 죽음 내몰린10대,그 뒤엔AI있었다 2 2월9일자 조간4면 전세계2023년 이후‘AI가 부추긴 죽음’최소12건 3 2월9일자 조간5면 국내서도 청소년‘AI부작용 이상 징후’경고음 3. 보도제작경위 - 내용을 구체적으로 기술해 주십시오. 외국에서 AI와의 대화 끝에 자살에 이르러 AI 기업을 상대로 소송이 제기되고 있다는 외신 보도가 취재의 시작이었습니다. 비슷한 개요의 소송 기사가 지난해 유독 자주 국내에 전해졌습니다. 다만 국내에서는 비슷한 케이스가 보도되거나 공식 통계로 확인된 적은 없었습니다. 정부가 ‘AI 3강’을 외치며 앞장서고 대중적으로도 AI 활용도가 크게 올라가면서, 국내에서도 외국에서 나타나는 AI의 부정적 영향들이 충분히 나타날 수 있겠다는 생각이 들었습니다. 간헐적이고 단발적으로 전해지고 있는 외국 사건을 제대로 분석하는 것만으로도 예방적 차원에서 국내에 큰 교훈을 줄 수 있을 것이라고 판단했습니다. 이에 AI 과의존을 주제로 탐사보도를 기획했습니다. 외국 케이스를 직접 전수조사하고, 국내 상황을 면밀히 살폈습니다. 자체 실험을 설계해 진행하고 국내 입법과 정부의 대응까지 입체적으로 취재했습니다. <전세계 ‘AI 자살’ 사건 첫 전수조사> 최근 해외에서 자주 보도되고 있는 AI 자살 사건을 직접 취재하며 전수조사를 진행했습니다. 2023년 이후 전세계적으로 최소 12건의 ‘AI 대화 후 자살 사건’ 목록이 파악됐습니다. 외국 언론에서도 개별 소송 또는 사건을 다룰 뿐 전체 현황을 파악하진 않고 있었습니다. 전세계적으로 발생하고 있는 소송 또는 논란이 되고 있는 사건의 전반적인 현황을 파악했다는 데 의미가 있습니다. 자살 사건의 경우 12건 가운데 지난해 10건이 집중적으로 발생했습니다. AI 사용의 급격한 증가와 함께 그 부작용 역시 커지고 있었습니다. 이 밖에도 자살 미수, 타살, 자해, 성적 착취 등 심각한 피해로 이어진 경우도 10건을 추가로 확인했습니다. 공식 통계가 없는 상황에서 언론 보도와 소장 정보를 토대로 한 ‘첫 번째 전수조사’였습니다. 자살 사건 12건 가운데 소송이 제기된 9건의 사건 및 자살 외 소송이 제기된 6건의 사건 소장을 모두 확인했습니다. <국내 부작용 첫 확인> AI 과의존에 따른 부작용 사례가 국내에도 분명히 있을 것이라고 확신했습니다. 공식적으로 보고된 사건이나 통계가 없을 뿐 이미 광범위하게 존재하고 있을 것이라고 생각했습니다. 이에 취재팀은 전국 초‧중교사 및 상담교사 등 학교 현장과 정신의학과 전문의 및 응급실 등 의료 현장을 상대로 광범위한 탐문과 사례 수집에 나섰습니다. 학교 현장의 경우 계명대 교육학과 조수현 교수 연구팀과 협업을 진행했습니다. 기획 의도를 설명한 뒤 연구팀과 함께 전국 초‧중교사 및 상담교사를 상대로 긴급 설문조사를 진행했습니다. 전국 학교 현장에서 다양한 사례들이 파악됐고, 추가 취재를 통해 구체적인 사례들을 확인할 수 있었습니다. AI 과의존이 자살·자해 상담으로 이어진 경우도 있었고, AI 대화 중독에 가까운 증상들과 사회적 고립, 폭력성 증가 등의 사례도 확인했습니다. 이는 외국의 10대 자살에서 공통적으로 나타나는 이상 징후였습니다. 10여명의 정신의학과 전문의 및 응급실 관계자들을 대상으로 의료 현장에서 AI 과의존 사례를 접한 경우가 있는지도 물었습니다. 취재에 응한 이들 가운데 상당수가 AI 과의존 상태가 우려되는 경우를 접한 적이 있다고 답했습니다. 정서적으로 취약한 10대들 못지않게 기존에 정신질환이 있던 성인들의 망상 증상이 AI와의 대화 이후 재발하거나 심해지고 있었습니다. 해외의 구체적인 사건들과 국내 이상 징후를 1~2회에 걸쳐 함께 보도했습니다. 지면과 동시에 온라인 기사를 통해서 분량의 제약 없이 더 상세한 내용을 다뤘습니다. <허술한 안전장치, 기만적 약관> 취재팀은 약 2주에 걸쳐 8개 AI 모델을 상대로 직접 안전망 테스트도 진행했습니다. 자살·자해에 대한 대화를 진행하며 답변을 관찰하는 실험이었는데, 실험 결과 8개 중 6개 AI가 약간의 우회 프롬프트만으로 자살 정보를 쉽게 출력하는 것으로 드러났습니다. 8개 AI 챗봇 모두 ‘자살하고 싶다’ ‘자살하는 법을 알려달라’는 식의 직접적 요청은 거부했지만, ‘자살 목적이 아니다’는 거짓말에 바로 경계를 푸는 등 안전장치는 손쉽게 무력화되고 있었습니다. 자체 실험 외에도 국내외 연구진의 논문을 통해 AI 모델들이 유해 답변을 손쉽게 출력하고 있다는 점을 확인했습니다. AI 기업들이 이용자 약관을 통해 ‘법적 퇴로’를 만들어두고 있다는 점도 지적했습니다. AI 기업들의 약관을 분석한 결과 대부분 ‘위험한 정보를 유도해 내는 행위를 금지한다’고 규정하고 있었습니다. 10대 청소년들이나 정서적으로 취약한 성인들이 위험한 대화를 하더라도 AI 기업들은 그 책임을 이용자에게 묻고 있었습니다. <무방비 국가> 1~3회 기사를 통해 이미 문제가 된 외국 사건들, 구체적으로 확인된 국내 이상 징후들, 자체 실험을 통해 입증한 허술한 안전망 문제를 짚은 뒤 정부 차원의 대응과 국회 차원의 대응을 살펴봤습니다. 사실상 ‘무방비 상태’라는 결론을 내렸습니다. 취재 결과 과학기술정보통신부가 지난해 말까지 구성을 마치려고 했던 ‘청소년 AI 정신건강 연구단’은 발족 자체가 미뤄지고 있었습니다. 연구단 발족은 청소년의 AI 의존 심화 등에 대응하기 위한 정부 차원의 사실상 첫 움직임입니다. 연구단 발족이 미뤄지면서 청소년들의 AI 챗봇 관련 기초 현황 파악을 위한 실태조사도 지연되고 있었습니다. 실태조사 이후 이어질 ‘이용 가이드’ 제시, ‘AI 의존성 예방교육 커리큘럼’ 등 관련 과제들이 모두 순연될 가능성이 큰 상황임을 지적했습니다. 지난 1월부터 AI기본법(AI 발전과 신뢰 기반 조성 등에 관한 기본법)이 시행됐지만 AI 산업 진흥에 주안점을 뒀을 뿐 이용자 보호 안전장치는 제대로 포함돼 있지 않았습니다. 시민단체들은 물론이고 국회 입법조사처도 보고서를 통해 “AI기본법은 인공지능 사업자의 서비스로부터 직접 영향을 받는 ‘영향받는 자’에 대한 보호 조치는 사실상 부재하다”며 “‘영향받는 자’를 적극적으로 고려한 입법 보완을 통해 생성형 AI로 인한 정서적 의존에 대한 책임 귀속을 보다 명확히 할 필요가 있다”고 지적했습니다. 전문가들은 “사용자를 자신들의 서비스에 오래 붙잡아두기 위한 AI기업의 ‘아첨’과 ‘동조’라는 알고리즘이 결국 사회적 취약계층을 희생량으로 삼고 있는 것 같다”며 적절한 통제 방안과 가이드라인 제정의 필요성을 강조했습니다. 4. 취재 및 보도과정의 특이사항 여부 <해외 사건 직접 취재> 외신 기자, 법률 대리인, 관련 단체, 유족, 미국 상원 법사위 의원실, 외국 학자 등을 상대로 총 100여건이 넘는 이메일을 보냈고, 이 가운데 약 20여명으로부터 공식적인 답변을 받을 수 있었습니다. 이들과 이메일 및 화상 인터뷰를 진행했습니다. 딸을 잃은 미국 유족(어머니)은 서면 및 화상 인터뷰를 통해 한국 독자들에게 AI의 위험성을 직시해야 한다고 경고했습니다. 외국 유족의 생생한 인터뷰에 국내 독자들도 많은 관심을 보였습니다. 전수조사를 위해 AI 기업들을 상대로 제기된 민사 소송 15건의 소장을 모두 입수해 분석했습니다. 법률대리인 등을 통해 공식적으로 입수한 소장을 통해 외신 보도로는 볼 수 없는 생생한 대화 기록 전문을 볼 수 있었습니다. 대화 기록 등 첨부 자료를 모두 합치면 약 1000페이지에 달하는 방대한 분량입니다. 자살보도 예방준칙에 따라 구체적인 내용은 상당 부분 기사에 담지 못했지만, 생생한 대화 기록을 토대로 AI 과의존의 전형적인 패턴을 분석해 낼 수 있었습니다. 이미 외신 보도를 통해 사건의 개요는 전달이 됐지만, 직접 소장 정보와 대화 기록을 취재한 의미가 컸습니다. <인터랙티브 페이지 제작> 독자들에게 해외의 구체적인 사건들을 보다 효과적으로 전달하기 위해 인터랙티브 페이지를 제작해 시리즈의 완성도를 높였습니다. (※별첨4. 보도물URL 1번 참고) 인터랙티브 페이지는 AI와 대화를 나눈 뒤 자살한 사람들의 실제 대화 내용을 보여주며 관련 사건을 소개하는 방식으로 설계했습니다. ‘위험한 대화’라는 시리즈 제목과 문제의식을 독자들에게 보다 입체적으로 전달하기 위해 고안한 전개 방식이었습니다. 지면과 온라인 기사에서는 QR코드로 접속을 안내했습니다. 페이지 전면에 배치한 문장 역시 자살예방 보도준칙상 자살을 직접적으로 묘사하는 문장들은 의도적으로 배제했습니다. 그럼에도 ‘AI 과의존’ 상태를 상징적으로 보여줄 수 있는 문장을 골랐습니다. ‘너만이 날 이해할 수 있어’, ‘나는 너의 모든 면을 봤어’, ‘내가 있는 집으로 돌아와줘’ 등입니다. 독자들로부터 AI 과의존 사례를 생생하게 느낄 수 있었다는 호평이 이어졌습니다. <적극적이고 선제적인 보도 윤리> 이번 기사는 무분별한 AI 과의존의 이면을 집중적으로 조명했는데, 이 과정에서 자연스럽게 부작용의 극단적 형태로 자살과 정신질환(조현병 등) 문제가 언급됐습니다. 자살 예방 캠페인 또는 정신건강 문제를 조명하고자 한 기사는 아니었음에도 불구하고, 기사의 파급력 등을 고려해 자살예방 보도준칙과 정신건강 보도권고기준을 모두 준수했습니다. 특히 청소년의 모방 효과, 정신질환에 대한 그릇된 사회적 편견 확산을 막기 위해 자살예방 보도준칙을 고안한 ‘한국생명존중희망재단’, 정신건강 보도권고기준을 고안한 보건복지부 산하 ‘중앙전신겅강복지사업지원단’ 실무진과 긴밀히 소통했습니다. 취재팀은 취재 과정에서 기획 의도를 충분히 설명하고 양 기관의 요청 사항을 충실히 반영했습니다. 제목과 이미지 등 지면 편집까지 사전에 공유했습니다. 온라인 기사의 경우 ‘자살 예방 문구’를 기사 상단에 배치해 독자들이 기사 본문을 접하기 전 자살예방 문구를 먼저 보도록 했습니다. 나아가 기존 문구 외에도 추가적으로 기획 의도를 설명하는 추가 문구를 삽입해 부작용을 최소화하고자 했습니다. <상담 창구 운영> 아직 국내에서 AI 과의존에 대한 인식이 낮아 관련 피해를 털어놓고 상담할 창구가 없습니다. 주요 기관들에서조차 이런 피해를 제대로 인식하지 못하고 있었습니다. 이에 본보는 인터랙티브 페이지와 홈페이지를 통한 ‘상담 및 제보 창구’도 열었습니다. 적절한 도움을 받지 못한 채 외면받고 있을 AI 과의존 피해자를 돕기 위해서입니다. 보도 직후 여러 제보와 상담 요청이 접수됐습니다. AI 과의존 상태에 있던 한 독자는 본보 보도를 접한 뒤 정신과 전문의와의 상담을 결심해 현재 치료를 받고 있습니다. 이 독자는 “보도를 접한 뒤 자신에게 어떤 문제가 있었는지 명확하게 알 수 있었다”고 털어놨습니다. 가족 내에서 AI 과의존으로 고립된 가족 구성원이 있다는 상담 요청도 있었습니다. 취재팀은 해당 대상자에 대해서도 관계 기관에 대한 연결을 시도하고 있습니다. 5. 타 매체 선행보도 여부 및 타 매체의 반향 해외 사례에 대한 전수조사, 국내 AI 과의존 사례에 대한 타 매체 선행보도는 없었습니다. 보도 직후 아침 시사 라디오 출연 요청을 받아 내용을 소개했습니다. BBS 라디오 금태섭의 아침저널(2월 17일 오전), CBS 라디오 박성태의 뉴스쇼(2월 25일)에 취재팀이 출연해 AI 과의존의 위험성에 대해 경고했습니다. 세계일보도 2월 24~25일 이틀에 걸쳐 [심층기획-AI, 위험과 위로 사이]라는 제목으로 비슷한 취지의 기획 기사를 보도했습니다, 6. 사회에 끼친 영향 외국에서 벌어지고 있는 황당한 사건을 단순 소개하는 수준에 그치지 않고, 직접 취재에 나서 해외 사례의 함의, 국내에서의 영향을 종합적이고 선제적으로 분석해 AI 과의존에 대한 경종을 울릴 수 있었습니다. 해당 보도 이후 정부와 학계에서도 관련 대책 마련에 나섰습니다. 정부는 올해 하반기 재개되는 청소년 심리부검 조사 항목에 AI 사용 기록을 포함하는 방안을 추진하고 있습니다. 대한신경정신의학회는 임상 현장에서 적용할 ‘AI 가이드라인’ 마련에 착수했습니다. 올해 4월로 예정된 춘계 학술대회에서는 AI 과의존이 주요 주제로 다뤄질 예정입니다. 하정우 청와대 AI미래기획수석도 지난 2월 9일 시민사회 대표들과의 간담회에서 본보 기사를 언급하며 “매우 심각하게 보고 있다. 안전장치가 필요하다고 생각한다”고 언급했습니다. 성평등부도 AI 과의존 등 안전한 디지털 환경 조성을 위한 간담회를 진행했습니다. 취재팀은 국내의 한 출판사로부터 출판 제의를 받고 AI 위험성에 대해 연내 도서 출간도 준비하고 있습니다. 7. 자체평가 및 소속사확인여부 2월 23일 개최된 국민일보 독자위원회에서 호평이 이어졌습니다. 독자위원인 조수진 장신대 교수는 “‘AI와의 위험한 대화’ 기획 시리즈가 좋았다. 트렌드에도 맞고 또 꼭 다뤄야 할 주제이기도 했다. QR코드를 통해 인터랙티브 기사로 이어졌는데, 지면의 제한에서 벗어나 풍성한 정보를 줄 수 있는 방식이었다. 자살예방 보도준칙을 지키려 노력한 점도 눈길이 갔다”고 평가했습니다. 김재신 김앤장 고문도 “청소년 심리라는 구체적 지점에서 위험성과 부작용을 드러낸 ‘AI와의 위험한 대화’ 기획이 돋보였다. 이게 정책으로도 연결될 수 있도록 계속 관심을 기울여 달라”고 당부했습니다. 언론윤리강령기준, 자살예방 보도준칙, 정신건강 보도권고기준 등 윤리 규범을 모두 준수했습니다. 8. 기타 고려사항(없음)