마크 저커버그가 이끄는 메타 플랫폼(NASDAQ:META)는 중국, 이란, 러시아, 이스라엘을 포함한 다양한 국가들로부터의 은밀한 영향력 캠페인과 연결된 수많은 페이스북 계정들을 삭제했다. 이들 캠페인에서는 허위 정보를 퍼뜨리기 위해 인공지능 도구를 사용한 것으로 알려졌다.
사건의 경과 (What Happened): 메타는 자사 플랫폼에서 사용자를 조작할 목적으로 위협 행위자가 AI를 사용하여 가짜 이미지, 동영상, 텍스트를 만드는 것과 씨름해 왔다. 그럼에도 불구하고, 수요일에 발표된 메타의 분기별 위협 보고서를 인용하여 블룸버그는 이러한 네트워크를 방지하는 이 회사의 능력에는 큰 영향을 미치지 않았다고 보도했다.
메타의 보고서는 가상의 친시크교 운동에 대한 AI 생성 포스터 이미지를 공유한 중국의 기만적인 네트워크를 포함하여 여러 가지 허위 정보 캠페인을 강조했다. 이스라엘 기반 한 네트워크는 언론 기관 및 공인 페이지들에 이스라엘 군대를 찬양하는 AI 생성 댓글을 게시하는 것으로 확인되었다.
이 회사는 이러한 네트워크들이 실제 커뮤니티 사이에서 관심을 끌기 전에 많은 네트워크들을 제거했다.
메타의 위협 중단 정책 책임자인 데이비드 아그라노비치(David Agranovich)는 현재 생성 AI의 사용이 특별히 정교하지는 않지만 이러한 적대적 네트워크들은 기술이 발전함에 따라 전술을 계속 발전시킬 것이라고 언급했다.
그는 화요일 기자회견에서 “그러나 우리는 이러한 네트워크들이 본질적으로 적대적이라는 것을 알고 있다”며 “그들은 기술이 변화함에 따라 전술을 계속 발전시킬 것”이라고 덧붙였다.
중요도와 의미 (Why It Matters): 페이스북, 바이트댄스가 소유한 틱톡(TikTok), 이전에 트위터였던 일론 머스크의 X와 같은 소셜 미디어 거대 기업들은 가짜 및 오해의 소지가 있는 AI 생성 콘텐츠의 확산으로 어려움을 겪고 있다.
올해에만 조 바이든 미국 대통령의 것으로 알려진 변조된 오디오 클립과 이스라엘-하마스 갈등을 묘사하는 조작된 이미지가 소셜 미디어를 통해 널리 유포되었다.
이러한 발전에 따라 기업들은 더 많은 노력을 기울이기 시작했다. 지난달 메타는 AI 생성 콘텐츠에 대한 라벨을 확장하여 페이스북, 인스타그램, 스레드 전반에 걸쳐 사진과 오디오를 포함했다. 이달 초 틱톡은 딥페이크 및 허위 정보에 대한 우려가 있는 가운데 AI 생성 콘텐츠에 자동으로 라벨을 지정하겠다는 계획도 발표했다.
메타의 글로벌 담당 사장인 닉 클레그(Nick Clegg)는 특히 회사가 2024년 선거 주기를 준비하면서 AI 생성 콘텐츠를 식별하고 분류하는 것의 중요성을 강조해 왔다.
이미지 제공 – 셔터스톡
면책 조항 이 콘텐츠의 일부는 Benzinga Neuro의 도움을 받아 제작되었으며 Benzinga 편집인이 검토하고 발행하였습니다.
