볼티모어 고등학교 교장이 AI 조작 음성으로 인종차별적 발언 한 것으로 오해받아 살해 협박 받아

 

볼티모어 외곽의 파익스빌 고등학교 교장 에릭 아이스워트가 모욕적인 발언을 했다는 오디오 클립이 온라인에서 급속히 퍼지며, 그에 대한 살해 협박이 이어졌습니다. 이 클립은 인종차별적이고 반유대주의적인 내용을 담고 있었고, 많은 사람들이 이를 진짜로 믿게 되었습니다. 그러나 나중에 밝혀진 바에 따르면, 이 오디오는 인공지능(AI)으로 조작된 가짜라는 사실이 드러났습니다.

 

 

 

사건은 1월에 시작되었습니다. 오디오 클립에서 아이스워트 교장은 “매일 여기서 이런 멍청이들을 상대해야 한다는 게 정말 이해가 안 돼”라는 발언으로 시작하여 “고마움을 모르는 흑인 아이들”과 지역 사회의 유대인들에 대한 비난을 이어갔습니다. 이 내용은 특히 흑인과 유대인 인구가 많은 파익스빌에서 큰 반향을 일으켰습니다. 클립은 빠르게 확산되었고, 몇 시간 만에 200만 조회수를 넘기며 파익스빌 전체 인구의 약 60배에 해당하는 수치를 기록했습니다.

 

이 클립을 처음 본 볼티모어의 흑인 남성 알피 말론은 이를 진짜로 믿었습니다. 그는 “사람들이 우리에 대해 실제로 그렇게 느낄 거라고 생각하게 되죠”라며 자신의 인종차별적 경험을 떠올렸습니다. 말론은 다른 소셜 미디어에서 아이스워트 교장의 실제 녹음을 들어보았고, 음성이 같다고 생각하여 클립을 다시 공유했습니다. 그러나 이 오디오가 AI로 조작된 가짜라는 사실은 이후에 밝혀졌습니다.

 

 

 

BBC 라디오 4의 프로그램을 위해 메릴랜드에서 이 사건의 영향을 조사한 결과, 지역 사회가 AI의 타겟이 되었을 때 얼마나 위험한지를 보여주는 사례로 남게 되었습니다. 볼티모어 배너의 교육 기자 크리스틴 그리피스는 이 클립을 접했을 때, 단순히 교사의 모욕적인 발언이 드러난 사건으로 생각했습니다. 그러나 그녀는 저널리즘의 원칙에 따라 교장에게 자신의 입장을 물어보았고, 아이스워트 교장은 발언을 강하게 부인했습니다. 그는 “우리는 이것이 가짜라고 생각합니다… 우리가 보기에 이것은 AI입니다”라고 말했습니다. 그 당시 그리피스는 AI에 대한 이야기를 들어본 적이 없었습니다.

 

 

 

반응형

하지만 이 설명이 기사로 나오자, 독자들은 이를 의심하기보다는 변명으로 받아들였습니다. 이 시점에서 지역 경찰이 사건을 조사하기 시작했고, 파익스빌 고등학교 직원들은 자신들이 많은 관심을 받고 있어 불안하다고 경찰에 신고했습니다. 아이스워트 교장의 평판은 심각하게 훼손되었고, 그는 소셜 미디어에서 증오와 협박의 대상으로 전락했습니다. 이러한 상황에서 그는 유급 행정 휴가에 들어갔습니다.

4월에 볼티모어 경찰청장 로버트 맥컬러프는 “녹음이 진짜가 아니었다는 확실한 증거”를 확보했다고 발표했습니다. 경찰은 이 오디오를 조작한 31세의 체육부장 다존 다리엔을 기소했습니다. 다리엔은 아이스워트 교장이 그를 조사하고 있었고, 업무 성과 문제와 계약 갱신 가능성에 대한 우려가 있었다고 합니다. 경찰은 다리엔이 학교에서 절도한 240만 원과 관련된 혐의로 그를 체포했으며, AI 도구에 접근한 흔적을 발견했습니다. 그는 2024년 12월에 재판을 받을 예정입니다.

 

 

 

이 사건은 오디오 클립이 단순히 음성으로만 이루어져 있었기 때문에 AI 조작을 드러내는 시각적 단서가 없었습니다. 또한, 내부자만 알 수 있는 용어와 교직원의 이름이 포함되어 있어 더욱 혼란을 가했습니다. 하지만 사람들은 이 클립의 내용이 사실처럼 느껴졌습니다. 말론은 “볼티모어에서 흑인으로 살면서 겪은 인종차별적 경험들이 떠올랐다”고 전하며, 그가 교장이 흑인 학생들을 게으르다고 묘사하는 것을 들었을 때 자신이 겪었던 비난과 차별을 떠올렸습니다.

몇 달이 지난 후에도 가짜 오디오 클립의 여파는 여전히 파익스빌에 남아 있었습니다. 아이스워트 교장은 다른 학교로 전근 갔고, 지역 사회의 일부는 이제 오디오가 가짜라는 사실을 받아들이고 있지만 이미 큰 피해가 발생했습니다. 한 주민은 “이 동네는 유대인이 많은데, 그런 발언을 하는 것은 충격적이었다”고 말하며 여전히 화가 난다고 밝혔습니다.

 

 

 

이 사건은 가짜 정보와 음모론의 위험성을 여실히 보여줍니다. 모든 주요 소셜 미디어 회사들은 AI로 생성된 게시물에 대해 라벨을 붙이거나 삭제하고 확산을 제한하는 정책을 가지고 있다고 하지만, 가짜임을 입증할 수 있을 때만 그런 조치가 이루어집니다. 이 과정에서 이미 수백만 명에게 도달했을 가능성이 큽니다. 말론은 여전히 이 오디오가 AI로 조작된 가짜라는 사실을 모르는 친구와 이야기했다고 하며, 많은 사람들이 진실을 모르고 있다고 걱정했습니다. 그는 아이스워트 교장이 잘못된 비난을 받은 것이 안타깝다고 말하며, 이 사건이 실제 인종차별 경험의 신뢰성을 훼손시켰다고 우려했습니다. 앞으로 이런 클립을 다시 공유하기 전에 두 번 생각할 것이라고 덧붙였습니다.