【世界初】カリフォルニアで施行された最先端AI安全開示法「SB53」とは何か？

2026年1月1日、カリフォルニア州のギャビン・ニューサム知事が昨年9月に署名した最先端AI安全開示法「SB53」が施行された。主に生成AIなどの開発者に対して安全性計画の策定と公開などを求める本法は、AIモデルを包括的に規制する法律としては全米初で、今後も他州や連邦レベルの動向に多大な影響を与えるものと見られている。カリフォルニア州で「SB53」が施行された理由は何か、今後の展望などを含めて概況をお伝えする。

2026年1月1日に施行された最先端AI安全開示法「SB53」

最先端AI安全開示法（Transparency in Frontier Artificial Intelligence Act、以下「AI安全開示法」または「SB53」とする）は、今年2026年1月1日よりカリフォルニア州で施行された、大規模AI開発者に対する規則や罰則規定などを含んだ包括的パッケージ法だ。AI開発そのものに関する規制ではなく、大規模AI開発者がAI開発を行う際に「透明性」（transparency）や「責任」（accountability）などの厳守すべき安全フレームワークを定めた罰則付き公的ガイドラインのようなものと言っていいだろう。

具体的には、大規模AI開発者（直近年間売上高5億ドル以上）が新たなAIモデルを開発する際に「想定される壊滅的（catastrophic）リスクについての評価」「壊滅的リスクが生じた場合の結果」「第三者による評価」などの情報を公開することを求めている。また、AIモデルに対する持続的なリスクモニタリングも求めていて、「報告すべき事象」（findings）が生じた際に報告することなども求めている。「報告すべき事象」の中でも、特に「生命に対する危機または重大な危害」（threats to life or major harm）が生じた際に速やかな報告を求めている。

また、「安全上のリスク」（safety risks）や「危険な活動・行為」（dangerous practies）などの「通報者」（Whistleblower）保護の仕組みも用意されていて、従業員などの関係者による内部通報が社内からの報復を受けることなく行える仕組みになっている。

以上の違反行為に対しては、違反行為一件につき最大100万ドル（約1億6000万円）が科せられる。

「SB53」が施行された背景

「SB53」は、サンフランシスコ選出の民主党所属州議会議員スコット・ウィーナー氏により上程され、法律化された。州議会議員として住宅不足問題やLGBTQ+などのマイノリティ問題に取り組んできたウィーナー議員は、AIブーム発生前よりAIの台頭とそれによるリスクに対する問題意識を持ち、「SB53」の前法案の「SB1047」を起草している。アメリカ初の「AI安全開示法」となるはずだった「SB1047」は2024年に上程されて議会で承認されたものの、ニューサム州知事が内容不十分を理由に拒否権を発動して否決された。

「SB53」が施行された背景についてだが、その最大の原動力となったのが「AIによる壊滅的リスクの驚異の高まり」だ。具体的には「大規模な危害」（large scale harm）とされるサイバー攻撃、バイオウェポン、AIの暴走、AIを使ったハッキングや詐欺などの犯罪などの驚異だ。

アメリカのハイテク系メディアのインタビューでウィーナー議員は、「AIは誕生時点から安全な存在ではありません。（中略）一部のAIモデルは人間社会に深刻な危機をもたらす可能性があります。また、AIを使って悪事をたくらむ人間も存在しています。そうしたたくらみを持った人間を思いとどまらせる必要があるのです」と、「SB53」起草の基本コンセプトについて語っている。

ウィーナー議員の主張のニュアンスからは、AIそのものが暴走などにより人類に深刻な危害を加えるといったリスクよりも、高度に知的なAIを「悪意を持った人間」が悪用し、大規模破壊兵器の開発やサイバーアタック、AI詐欺などの犯罪に使うことのリスクを恐れているように感じられる。ウィーナー議員は、AIよりも人間を「より大きなリスク」として見ているようだ。

他州や連邦レベルでの影響も

アメリカ初の「AI安全開示法」となった「SB53」だが、他州や連邦レベルでの影響はどうであろうか。多くの関係者が口を揃えるのが、カリフォルニア州法として施行された「SB53」は、実質的に他州にも大きな影響を及ぼす「AI安全開示法」のデファクトスタンダード（事実上の標準）になる可能性が高いというものだ。

すでにニューヨーク州で「SB53」に類似した「AI安全開示法」である「RAISE法案」が上程され、審議が進んでいる。同法案で使われている用語の定義なども「SB53」に準拠しており、「最先端AI」（frontier AI）「壊滅的リスク」などの「SB53」が定めた用語がそのまま使われている。ニューヨーク州以外でも、AI開発者などのAI関連企業が集まるワシントン州、テキサス州、イリノイ州なども今後追随する可能性がある。

連邦レベルでも同様の影響が及ぶ可能性がある。現在、「SB53」のような包括的「AI安全開示法」は州レベルでは定められていない。連邦政府の選択肢としては、「州ごとに任せる」または「連邦法を制定し、国家全体で管理する」があるが、トランプ共和党政権はどちらを選択するであろうか。

トランプ大統領は2025年12月11日に発出した大統領令で、「SB53」を「イノベーションを阻害し、AI開発におけるアメリカの競争優位性を危機にさらす厄介な法律」であると非難しており、アメリカ全体を対象とした単一の「ナショナルフレームワーク」の策定を求めている。しかし、連邦法制化に反対する声も根強く、一筋縄ではいかないという声も聞かれる。アメリカ国家レベルの「AI安全開示法」制定の行方については、今後も注目すべきだろう。

日本への影響は？

ところで、「SB53」の日本への影響についてはどうであろうか。アメリカと同様、現時点の日本においては国家レベルの包括的「AI安全開示法」が定められていない。2025年5月に「人工知能関連技術の研究開発及び活用の推進に関する法律」（AI法）が成立し、6月から施行されたものの、その主旨はAIの研究開発・活用に関する基本理念や政府における人工知能基本計画（AI基本計画）の策定、国による基本的施策の実施とそのための人工知能戦略本部（AI戦略本部）の設置などを定めるものであり、国や政府を対象にした基本法に過ぎないとされている。

日本においてもAIモデルの開発は各所で行われており、それによる「壊滅的リスク」発生の可能性はアメリカと同様にあると考えるのが当然だ。リスクがある以上、それに対するセーフガードとしてのAI安全開示法の整備が求められることも必然とすべきだろう。

また、事実上の世界標準となりつつあるメジャーなAIモデルのほとんどがアメリカ製であり、しかも大半が「SB53」が制定されたカリフォルニア州に拠点を置く企業が開発したものである。そうしたカリフォルニアのAI開発者のほとんどが日本でもサービスを提供しており、間接的に「SB53」の影響を受けざるを得ないことは確実だろう。

「SB53」は世界初のAI安全開示法であり、今後日本を含む他国へ波及することは間違いないと思われる。AIモデルの利用拡大に合わせて、遅かれ早かれ日本版AI安全開示法が定められることになるのは当然の流れだろう。現時点における日本のAI開発者においては、「いずれやって来る新ルール」に早い段階から慣れ親しみ、十分に備え始めるべきであることは間違いなさそうだ。

参考文献

https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202520260SB53
https:// techcrunch.com/2025/09/23/scott-wiener-on-his-fight-to-make-big-tech-disclose-ais-dangers/
https://www.nysenate.gov/legislation/bills/2025/A6453/amendment/A
https://www.governing.com/magazine/why-the-federal-government-is-going-after-californias-ai-laws
https://www.businesslawyers.jp/articles/1475