AI로 인한 잘못된 정보에 대응하기 위해 오픈AI의 챗GPT는 2024년 미국 대통령 선거 전 한 달 동안 25만 건의 후보자 딥페이크 이미지 요청을 거부했다.
무슨 일이 일어났을까? 지난주, 오픈AI는 자사의 AI 아트 생성기인 달리(DALL-E)를 사용해 후보자의 딥페이크 이미지를 생성해 달라는 요청 25만 건을 챗GPT가 거절했다고 밝혔다.
또한 챗GPT는 전미 주 국무장관협회가 운영하는 미국 투표 정보 사이트인 ‘CanIVote.org’로 사용자를 안내해 투표에 관한 문의에 답변하도록 프로그래밍되었다. 챗GPT는 11월 5일까지 한 달 동안 약 100만 건의 응답을 통해 사용자를 투표 사이트로 안내했다.
선거 당일에는 선거 결과에 대한 질문에 대해 챗GPT가 AP통신과 같이 신뢰할 수 있는 뉴스 기관으로 사용자를 연결하여 답변하도록 설정되었다.
오픈AI는 블로그 게시물에서 “선거 당일과 다음 날 약 2백만 건의 챗GPT 응답에 이 메시지가 포함되었다”고 밝혔다.
중요한 이유는? 이번 발표는 AI가 딥페이크와 온라인 확산을 위한 음모론을 생성하여 선거 운동을 방해할 수 있다는 우려가 높아진 이후 이루어졌다.
지난 1월, 뉴햄프셔 유권자들은 조 바이든 대통령의 딥페이크 목소리가 주 예비선거에 투표하지 말 것을 촉구하는 로보콜을 받기도 했다.
올해 초, 디지털 혐오 대응 센터는 선거 관련 허위 정보에 오픈AI와 마이크로소프트의 AI 이미지 생성 도구가 오용되고 있다는 우려를 제기했다.
8월 말, 오픈AI는 2024년 선거 기간 동안 이란이 챗GPT를 이용해 여론을 조작하려는 은밀한 작전을 적발하고 해체했다.
그리고 10월에는 발표된 54페이지 분량의 보고서에 따르면 오픈AI가 선거 개입을 위해 자사 모델을 오용하려던 20개 이상 글로벌 작전과 사기성 네트워크를 차단했다.
더 읽기: 오픈AI와 퍼플렉시티 이후, 아마존이 AI 스타트업 앤트로픽에 대규모 투자 고려 중
면책 조항: 이 기사는 부분적으로 AI 도구의 도움을 받아 제작되었으며 Benzinga 편집자가 검토한 후 게시했습니다.
사진 출처: Shutterstock
다른 트레이더들보다 30분 일찍 독점 시장 움직임 뉴스를 받아보세요.
Benzinga Pro의 독점 뉴스 기사를 이용하면 수백만 명의 다른 트레이더보다 먼저 실행 가능한 거래 뉴스를 얻을 수 있습니다. 여기를 클릭하여 14일 무료 체험을 시작하세요.
