금요일(27일) 도널드 트럼프 대통령은 국방부가 기밀 군사 환경에서 인공지능을 배치하기 위한 오픈AI의 안전 조건에 동의했다고 보도된 후 연방 기관들에게 앤트로픽의 기술을 단계적으로 폐지하도록 지시했다.
국방부, 군사 AI 안전 장치에 대해 오픈AI와 합의
악시오스(Axios)는 협상에 정통한 소식통을 인용해 국방부가 기밀 환경에서 오픈AI 모델 사용을 위한 안전 장치 제안에 원칙적으로 동의했다고 보도했으나, 아직 계약은 최종 확정되지 않았다.
보도에 따르면 오픈AI의 프레임워크는 대량 감시 또는 자율 무기에 AI 사용을 금지한다. 이 프레임워크는 모델이 무기 플랫폼과 같은 에지 시스템에 직접 내장되기보다는 안전한 클라우드 환경에 국한될 것을 요구한다.
또한 오픈AI는 지속적인 모니터링 기능과 보안 승인을 받은 연구원을 통해 배포를 감독하고 위험에 대해 조언할 것을 요구한다.
샘 올트먼 CEO는 직원들에게 회사의 접근 방식은 실제 사용 사례를 통해 학습하면서 안전장치를 강화하는 데 중점을 둔다고 밝힌 것으로 전해졌다.
국방부와 오픈AI는 벤징가의 논평 요청에 즉각 응답하지 않았다.
트럼프, 앤트로픽 기술 단계적 폐기 지시
이번 움직임은 트럼프 대통령이 합법적 군사적 적용에 대한 용납할 수 없는 제한을 이유로 연방 기관들에 앤트로픽 기술 사용 중단을 지시한 지 몇 시간 만에 나왔다.
이 명령에는 현재 앤트로픽 제품을 사용하는 기관들을 위한 6개월의 전환 기간이 포함된다.
피트 헤그세스 국방장관은 합법적인 방어 목적을 위해 군이 AI 시스템에 “완전하고 제한 없는 접근”을 가져야 한다고 말했으며, 앤트로픽을 국가 안보에 대한 공급망 위험으로 지정할 계획을 발표했다.
스카이브릿지 캐피탈의 설립자 앤서니 스카라무치는 이번 사건을 정부가 민간 기업을 “괴롭히는” 행위라고 표현했다.
투자자 로스 거버는 자사 직원들에게 앤트로픽의 클로드 모델을 “가능한 한 많이” 사용하도록 지시했다고 밝혔다.
엘리자베스 워런 상원의원(민주당, 매사추세츠) 역시 X에 글을 올리며 미국 국민은 국방부 관계자들이 무엇을 계획하고 있는지 “알 권리가 있다”고 말하고, 헤그세스 장관에게 이 결정에 대해 증언할 것을 촉구했다.
이미지: 셔터스톡
면책 조항: 본 콘텐츠는 부분적으로 AI 도구의 도움을 받아 작성되었으며 Benzinga 편집진의 검토를 거쳐 게시되었습니다.
Benzinga Pro의 독점 뉴스 및 도구로 수익률을 높이세요.
독점 속보 및 스캐너와 같은 Benzinga Pro의 강력한 도구 세트로 다른 트레이더보다 우위를 점하세요. 여기를 클릭하여 14일 무료 체험을 시작하세요.