OpenAI・Google・Anthropicが目指す「政府に頼らないAI安全基準」、なぜ自主規制という形を選んだのか。SAFA構想の中身を探る

まず初めに

自分たちの安全基準を、自分たちで決めて、自分たちで審査する。そう聞くと「それは審査と呼べるのか」というツッコミが浮かんでも仕方がない。もっとも、OpenAI・Google・Anthropicの言い分もわからなくはない――待っていても出てこない統一ルールを待ち続けるより、自分たちで基準を作ってしまった方が早い、ということなのだろう。ただし、生徒会長候補が3人とも自分で選挙管理委員会を兼任するような座組みである以上、「本当に厳しい基準になるのか」という疑問がついて回るのも当然の話だ。オープンソースの開発者たちがこの輪に入れてもらえるのかどうかも、まだはっきりしていない。※個人の感想です

何が起きているのか

複数の海外メディアの報道によると、OpenAI・Google・Anthropicの3社は、最先端の大規模AIモデル(フロンティアAI)を対象にした安全基準づくりを担う、独立した業界団体の設立に向けて協議を進めています。団体の仮称は「Standards Authority for Frontier AI」、略して「SAFA」です。

報道によれば、SAFAが担う役割として、(1)モデルを公開する前に行う第三者機関のテストへの支援、(2)AI開発企業が安全性・セキュリティ上の事故をどのように報告すべきかというルールの策定、(3)各社が任意で表明する安全・セキュリティ上の取り組み(コミットメント)の内容の明確化、(4)モデルや開発企業を審査する独立監査人の資格要件の整備、の4点が挙げられています。単なる理念的な倫理指針ではなく、具体的なテストや監査の仕組みを伴う点が特徴とされています。

正式な発足時期は、2026年内、または2027年の早い時期が目指されているとされ、特定の1社に偏らないよう、独立したCEOのもとで運営される見通しです。運営に携わる候補として、元ホワイトハウスAI政策顧問のSriram Krishnan氏、元米商務省高官のArati Prabhakar氏らの名前が、複数の報道で挙げられています。今回確認した出典の範囲では、3社からの公式な発表文はまだ確認できておらず、関係者の話として報じられている段階です。

なぜ重要なのか

今回の構想が注目されるのは、AI業界を横断する統一的な安全基準づくりを、企業側が主体となって進めようとしている点です。報道によれば、OpenAI・Google・Anthropicは当初、官民連携の枠組みでの実現を検討していたとされますが、その調整が難航したことを受け、3社が中心となる自主規制の形を目指すことになったとされています。AI規制に関する統一的な法制度が各国でまだ整っていない中、業界側が自主的にルールづくりの主導権を握ろうとする動きとして受け止められています。

一方で、この枠組みには懸念の声も出ています。報道では、SAFAの主要メンバーが大手AI企業3社に限られており、オープンソースでAIモデルを開発する開発者や、比較的小規模な企業が、基準づくりの議論からどの程度関与できるのかがはっきりしていないと指摘されています。安全基準を作る側と、その基準で評価される側が同じ顔ぶれになりかねないという、自主規制につきものの構造的な課題も指摘されています。

私たちへの影響

今回確認した出典の範囲では、SAFAはまだ協議段階であり、一般の利用者が日常的に使うAIサービスの仕様がすぐに変わるものではありません。ただし、この団体が実際に発足し、モデル公開前のテストや事故報告のルールが業界標準として広まれば、私たちが普段使っているAIサービスの安全性検証プロセスが、中長期的には透明化・厳格化される可能性があります。逆に、自主規制としての実効性が乏しいまま形だけの組織にとどまった場合、利用者から見た実質的な変化は乏しいままになる可能性もあります。

初心者が知っておくべきこと

AIガバナンスえーあいがばなんすとは、AIを開発・提供する組織が、安全性や信頼性を確保するために設ける、社内外のルール・体制・運用の仕組み全般を指す言葉です。今回のSAFA構想は、1社単独の社内ルールではなく、複数の企業が合意した業界横断のガバナンスの仕組みを作ろうとする試みにあたります。政府による法規制と、企業による自主規制は、どちらもAIの安全性を確保する手段ですが、法規制には強制力がある一方で制定に時間がかかりやすく、自主規制はすばやく動ける一方で実効性が企業側の姿勢に左右されやすい、という違いがあります。

IT Postの見方――「審判も選手も同じ3社」で信頼は得られるのか

IT Postでは、統一ルールが整わない中で、業界大手が自主的に安全基準を作ろうとすること自体は前向きな動きだと考えます。ただし、基準を作る側とその基準で評価される側が同じ3社に集中している以上、利用者・社会の側から見た信頼性は、「どれだけ厳しい基準を作ったか」だけでなく、「外部の目でその基準がきちんと運用されているかを、第三者がどこまで検証できる設計になっているか」で判断されるべきだと、IT Postでは考えます。オープンソース開発者や中小のAI企業がこの枠組みからどう扱われるのかも、業界全体の安全性向上につながるかどうかを左右する重要な論点だと、IT Postでは考えます。※個人の感想です

今後どうなりそうか

SAFAの正式な発足時期や、参加企業の範囲、運営体制の詳細については、今回確認した出典の範囲ではまだ確定していません。IT Postでは、正式発足の発表や、具体的な基準の内容が明らかになり次第、あらためて取り上げます。