뉴욕, AI 대재앙 막는다! 세계 최초 ‘RAISE 법’ 통과

뉴욕주 의회가 6월 13일, AI가 초래할 수 있는 대형 재난을 막기 위한 ‘RAISE 법(Responsible Artificial Intelligence Safety and Education Act)’을 통과시켰습니다. 이 법안은 OpenAI, Google, Anthropic 등 세계 최대 AI 기업들이 개발한 최첨단 AI 모델이 100명 이상의 사망·부상이나 10억 달러 이상의 피해를 유발하는 재난을 막는 데 목적이 있습니다.

RAISE 법은 미국 최초로 AI 연구소에 법적 투명성 기준을 의무화하는 내용을 담고 있습니다. 법안이 뉴욕 주지사 서명을 거쳐 시행되면, 대형 AI 기업들은 자사의 첨단 AI 모델에 대한 안전·보안 보고서를 공개해야 하며, AI의 위험 행동이나 악의적 행위자에 의한 AI 모델 탈취 등 중대한 사고가 발생할 경우 반드시 보고해야 합니다. 이를 위반하면 뉴욕주 법무장관이 최대 3천만 달러의 민사 벌금을 부과할 수 있습니다.

이 법은 OpenAI, Google, Meta, DeepSeek, Alibaba 등 대규모 컴퓨팅 자원(1억 달러 이상)으로 AI 모델을 훈련하고 뉴욕 주민에게 서비스를 제공하는 글로벌 기업에만 적용됩니다. 스타트업이나 학계 연구에는 영향을 주지 않도록 설계됐으며, AI 개발 혁신을 저해하지 않는다는 점이 강조됐습니다.

RAISE 법은 캘리포니아에서 논란 끝에 거부된 AI 안전법(SB 1047)과 유사하지만, ‘킬 스위치’ 의무화나 후속 개발사에 대한 책임 부과 등은 포함하지 않아 업계의 혁신을 위축시키지 않도록 했습니다. 그럼에도 실리콘밸리와 일부 벤처캐피탈 업계에서는 규제가 지나치게 광범위하다는 비판도 나오고 있습니다.

법안이 시행되면, AI 안전운동의 오랜 숙원이었던 투명성 확보와 책임 강화가 실현되며, 미국 내 AI 안전 규제의 새 기준이 될 전망입니다. 뉴욕주가 미국 내 세 번째로 큰 경제 규모를 가진 만큼, 글로벌 AI 기업들도 뉴욕 시장을 포기하기는 쉽지 않을 것으로 보입니다.

---

간단 요약

뉴욕주가 첨단 AI가 초래할 수 있는 대형 재난을 막기 위해 세계 최초로 AI 투명성 의무화 법안을 통과시켰습니다. 대형 AI 기업들은 안전 보고와 사고 보고가 의무화되며, 위반 시 최대 3천만 달러의 벌금을 부과받게 됩니다. 혁신 저해 우려는 최소화했고, AI 안전 규제의 새 기준이 될 전망입니다.

---