월요일(29일) 개빈 뉴섬 캘리포니아 주지사(민주당)는 오픈AI, 알파벳(NASDAQ:GOOG)(NASDAQ:GOOGL) 구글, 메타 플랫폼스(NASDAQMETA), 엔비디아(NASDAQNVDA) 등 인공지능 거대 기업들이 최첨단 모델이 잠재적 재앙적 위험을 초래하지 않도록 방지할 계획을 공개하도록 요구하는 획기적인 법안에 서명했다.
캘리포니아, AI 규제 선도
뉴섬 주지사는 새 법안 SB 53을 공공 안전을 보호하면서 AI 혁신이 번창하도록 보장하는 중요한 단계라고 설명했다.
Today, I’m signing legislation to install common-sense guardrails ensuring the safety and further development of cutting-edge AI systems.
California is proving that it’s possible to both protect people and ensure our state’s growing industries continue to shape the future.
— Governor Gavin Newsom (@CAgovernor) September 29, 2025
Gavin Newsom signed SB 53!! https://t.co/I8dDce3sDj pic.twitter.com/XHqg1aHEGg
— Celia Ford (@cogcelia) September 29, 2025
뉴섬 주지사는 보도 자료에서 “캘리포니아는 성장하는 AI 산업이 계속 번창할 수 있도록 보장하면서 우리 커뮤니티를 보호하기 위한 규제를 수립할 수 있음을 입증했다”고 말했다.
성명서는 “AI는 혁신의 새로운 개척지이며, 캘리포니아는 이를 받아들일 뿐만 아니라 전국 최초의 개척적인 AI 안전 법안을 제정함으로써 국가적 리더로서 확고한 입지를 다지고 있다”고 밝혔다.
뉴섬 주지사 사무실은 이 법안이 미국 전역에 모범이 될 수 있다고 평가했다. 로이터 통신은 “의회가 국가 표준을 제정할 경우, 캘리포니아 주 의원들은 ‘SB 53이 설정한 높은 기준’을 유지하면서 주 규정을 조정할 것으로 예상된다”고 전했다.
법안의 주요 내용
SB 53은 연간 매출 5억 달러(약 6,700억 원)를 초과하는 인공지능 기업에 적용된다. 해당 기업들은 기술이 인간의 통제를 벗어나거나 생물무기 개발에 악용될 수 있는 방안을 상세히 기술한 공개 위험성 평가를 실시해야 한다. 위반 시 최대 100만 달러의 벌금이 부과된다.
이 법안은 뉴섬 주지사가 AI 모델에 1억 달러 이상을 투자하는 기업에 대한 연간 제3자 감사를 요구했던 이전 법안을 거부한 후 제정되었다. 해당 제안은 잠재적인 규정 준수 부담으로 인해 업계의 강력한 반발에 직면했다.
업계, 조각난 규정 반대
앤트로픽 공동 창립자 잭 클락은 “앤트로픽은 이 법안 지원을 자랑스럽게 생각한다”며 이번 조치를 환영했다.
We applaud @CAgovernor for signing @Scott_Wiener‘s SB 53, establishing transparency requirements for frontier AI companies that will help us all have better data about these systems and the companies building them. Anthropic is proud to have supported this bill.
— Jack Clark (@jackclarkSF) September 29, 2025
스캇 위너 상원의원(민주당, 캘리포니아)은 이 법안을 지지하며 소셜미디어 엑스(X)에 “AI 혁신의 책임 있는 확장을 위한 흥미로운 진전”이라고 밝혔다.
BREAKING: Governor @GavinNewsom just signed our groundbreaking AI bill, SB 53, to promote AI innovation (creating a public cloud called CalCompute), require transparency around AI lab safety practices & protect whistleblowers at AI labs who report risk of catastrophic harm. 🧵
— Senator Scott Wiener (@Scott_Wiener) September 29, 2025
그러나 앤드리슨 호로비츠의 정부 업무 책임자인 콜린 맥쿤은 SB 53이 “스타트업이 감당할 수 없는 50개의 서로 다른 규정 체계를 만들어낼 위험이 있다”고 경고했다.
We’re fighting for a national AI strategy that gives Little Tech a fair shot and keeps the U.S. in the lead.
CA’s AI bill (SB 53) includes some thoughtful provisions that account for the distinct needs of startups. But it misses an important mark by regulating how the technology…
— Collin McCune (@Collin_McCune) September 29, 2025
글로벌 맥락: 전 세계적으로 AI 규제가 구체화되고 있다
캘리포니아 법안은 해외 유사 움직임을 따른다. EU의 AI 법안 역시 위험 평가부터 편향 통제에 이르기까지 고위험 시스템에 엄격한 요건을 부과한다.
한편 중국은 AI 거버넌스 조정을 위한 글로벌 기구 설립을 촉구하며 국제 규제의 분열된 현황을 부각시켰다.
사진 제공: Shutterstock.com의 Sheila Fitzgerald
면책 조항: 이 콘텐츠는 부분적으로 AI 도구의 도움을 받아 생성되었으며, Benzinga 편집자가 검토하고 게시했습니다.
Benzinga Pro의 독점 뉴스 및 도구로 수익률을 높이세요.
독점 속보 및 스캐너와 같은 Benzinga Pro의 강력한 도구 세트로 다른 트레이더보다 우위를 점하세요. 여기를 클릭하여 14일 무료 체험을 시작하세요.
