Metaは、米国現地時間2月3日、オープンソースとして開発している「フロンティアAI」技術において、そのフレームワーク(考え方の枠組み)を表明しました。要は「少しでも生活を脅かすリスクが生じたら即刻開発・提供を停止します」的な話です。政治的な背景が見え隠れしているような…ですが、大事なMetaの姿勢の話ですので一応和訳してご紹介しておきます。

Metaの発表内容

まずはMetaからの発表内容を和訳してご紹介します。基本的にはMetaの姿勢に関する発表ですので、ざっくり理解で問題無いと思います。記事内でMetaの言う“Frontier AI”に関しては、“最先端のAI”という風にも和訳して捉えることができますが、“フロンティアAI”というMeta独自開発の固有名詞として捉えて和訳します。

フロンティアAIへの私たちの取り組み

まとめ

本日、私たちは、昨年のグローバルAIソウルサミットで表明した約束に沿って、モデルリリースの決定におけるリスクの考慮を概説したフロンティアAIに対する考えを共有します。
私たちの考える姿勢は、最も深刻なリスクを防ぎながら、経済を前進させるようなイノベーションと競争を促進するなど、フロンティアAIのシステムが社会にもたらすメリットを最大化するように設計されています。

オープンソースアプローチ

オープンソースAIは、前例のない技術進歩の扉を開く可能性を秘めています。オープンソースAIは、強力で高価な技術に無料でアクセスできる機会を人々に提供することで、競争の場を平等にし、個人、社会、経済に利益をもたらすツールを生み出す競争とイノベーションを可能にします。AIのオープンソース化は決してオプション機能のひとつではありません。技術革新、経済成長、国家安全保障のリーダーとしてのアメリカの地位を固めるために不可欠です。この熾烈な競争が繰り広げられる世界情勢において、堅牢なAIエコシステムを開発する競争は激化しており、急速なイノベーションと優れたソリューションを推進しています。イノベーションを促進するリスク評価へのバランスの取れたアプローチを推進することで、米国はAI開発の競争力を維持し、AIの変革的なメリットを将来にわたって確保することができます。
　

考え方の枠組み

当社のフロンティアAIに対する考え方は、サイバーセキュリティの脅威と化学兵器および生物兵器のリスクの分野における最も重要なリスクに焦点を当てています。これらの分野を優先することで、イノベーションを促進しながら国家安全保障を守ることができます。当社の考え方では、フロンティアAIのシステムを開発する際にリスクを予測して軽減するために私たちが従ういくつかのプロセスを概説しています。たとえば：

予防すべき壊滅的な結果の特定：当社の考え方は、サイバー、化学、生物のリスクに関連する潜在的な壊滅的な結果を特定し、その防止に努めています。この考え方は、これらの壊滅的な結果が技術の進歩によってもたらされるかどうかを評価し、もたらされる場合は、そのリスクを軽減する方法を特定することに重点を置いています。
脅威モデリング演習：利用元となる様々な主体がフロンティアAIを悪用して壊滅的な結果を生み出そうとする方法を予測するために、必要に応じて外部の専門家と協力しながら脅威モデリング演習を実施しています。これらの演習は、成果重視のアプローチの基礎となります。
リスクしきい値の確立：当社のモデルが脅威のシナリオをどの程度容易にするかに基づいて、リスクしきい値を定義します。当社では、リスクを許容レベル内に維持するためのプロセスを導入しており、これには緩和策の適用も含まれます。

当社のオープンソースアプローチは、より広範なコミュニティによるモデルの機能に関する独立した評価から学ぶことができるため、リスクをより適切に予測して軽減するのにも役立ちます。このプロセスにより、モデルの有効性と信頼性が向上し、現場でのリスク評価が向上します。当社の考え方では、壊滅的なリスクを評価するだけでなく、開発中の技術の利点も考慮に入れています。
　

今後の展望

この考え方の焦点は重大なリスクを軽減することですが、私たちがこれらのテクノロジーを開発している主な理由は、それが社会に大きな利益をもたらす可能性があるからであることを忘れてはなりません。

高度なAIシステムの責任ある開発に対する当社の現在のアプローチを共有することで、意思決定プロセスに関する洞察を提供し、リスクとメリットの両面でAI評価を改善する方法についての議論と研究を促進できることを願っています。AIテクノロジーの進歩に伴い、当社は引き続きアプローチを進化させ、改良していきます。

引用）about.fb.comより和訳

Metaは“今後の米国の発展のため”にオープンソース化をしており、それが社会に絶対的に役立つと信じているとのことです。とはいえ、少しでもリスクが生じるようであれば開発を停止します、とのこと。うーん、この姿勢や発表のしかたが米国大統領の同意を得るためのもので、擦り寄っているような印象を受けますが…皆様はどう思われますか？

Metaの「フロンティアAI」への取り組み

Search for articles

Archives