위키피디아는 인공지능(AI) 요약 기능이 플랫폼의 신뢰성을 해칠 수 있다는 편집자 커뮤니티의 압도적인 반발에 부딪혀 AI가 생성한 요약본 실험을 중단한 것으로 알려졌다.
무슨 일 있었나: 404미디어에 따르면 위키미디어 재단은 다양한 독서 수준을 가진 사용자가 콘텐츠에 더 쉽게 접근할 수 있도록 하기 위해 위키백과 문서에 AI 생성형 요약을 테스트할 계획이었다.
코히어(Cohere)의 AI 모델을 사용한 이 기능은 기사를 간소화하고 페이지 상단에 요약을 표시하기 위한 것이었다.
그러나 이러한 테스트는 신뢰할 수 있는 커뮤니티 중심 리소스로서의 플랫폼의 명성을 잠재적으로 훼손할 수 있다고 비판한 위키백과 편집자들의 상당한 반발을 불러일으켰다.
한 편집자는 “구글이 AI 요약을 출시했다고 해서 우리도 이를 따라할 필요는 없다”며 우려를 표명하고 “이는 독자와 상당히 신뢰할 수 있고 진지한 출처로서의 평판에 즉각적이고 돌이킬 수 없는 해를 끼칠 것”이라고 덧붙였다.
이러한 비판에 대해 위키미디어 재단은 실험 중단을 발표했지만, 편집 감독이 중심이 된다는 전제 하에 향후 개발 과정에서 AI 기능이 포함될 수 있다고 지적했다.
위키백과 프로젝트 관리자는 이렇게 전했다. “편집자의 개입 없이 요약 기능을 위키에 도입할 계획은 없다. 이 아이디어뿐만 아니라 향후 AI, 요약 또는 각색된 콘텐츠와 관련된 모든 아이디어에 대해 어떤 상황에서도 편집자 검토 워크플로가 필요하다.”
왜 중요한가: 올해 초, 애플(NASDAQ:AAPL)은 아이폰에서 부정확한 결과를 생성하는 AI 뉴스 요약 기능으로 인해 비난을 받은 바 있다. 비판이 이어지자 애플은 “개선 작업을 진행 중이며 향후 소프트웨어 업데이트를 통해 제공하겠다”며 해당 기능을 일시 중단했다.
지난해 알파벳(NASDAQ:GOOG)의 구글도 검색 생성형 AI(SGE)로 알려진 ‘AI 오버뷰’를 출시한 후 반발을 샀다.
한 사용자가 피자에서 치즈가 미끄러지는 것을 방지하는 방법을 문의한 것이 대표적인 사례였다. 구글의 AI는 풍자를 인식하지 못한 채 레딧 댓글에서 가져온 제안을 바탕으로 소스에 접착제를 섞어 사용하라고 추천했다.
면책 조항: 이 콘텐츠는 부분적으로 AI 도구의 도움을 받아 생성되었으며, Benzinga 편집자가 검토하고 게시했습니다.
사진 출처: pixinoo / Shutterstock.com