さすがにあのまま放置はできなかったようで、AnthropicのCEOである、Dario Amodei氏が公式コメントを発表してたよ。
これをPlamo翻訳で翻訳してみたら以下の通りになったよ。
アンソロピックCEOダリオ・アモデイによる投稿
ここ数日間、特に中国発のオープンウェイトモデルをめぐって活発な議論が交わされている。報道によると、米国政府関係者の中には、米国企業による中国製オープンウェイトモデルの使用を禁止する可能性を検討している者もいるという。これに対し、多くのテクノロジー企業がオープンウェイトモデルを支持する共同声明に署名しており、中にはアンソロピックが自社のビジネス保護を目的としてオープンウェイトモデルの禁止を画策していると非難する声も上がっている。私の過去の著作を読んだことがある方ならご存知の通り、私はこのような禁止措置を有効な対策とは考えていないが、誤解の余地がないように明確に述べておく。アンソロピックはこれまで、オープンウェイトモデルの禁止を提唱したことは一度もない。
危険な能力を持たないオープンウェイトモデルは、社会全体にとっての公共財と言える。これらのモデルの運用に必要なのは計算リソースのみで、それ以外のコストは一切かからない。しかも、企業、開発者、研究者にとって多大な価値を提供するものである。
保護主義的な禁止措置は、私が最も深刻に懸念する国家安全保障上の問題には対処できないだろう。具体的には、2つの最悪のシナリオについて懸念している。私は6ヶ月前に発表した論文『テクノロジーの思春期』1でこれらのシナリオを提示し、長年にわたって一貫してこの立場を堅持してきた：
私の最大の懸念は、中国共産党だけでなく他の権威主義政権（ただし中国共産党は明らかに最も脅威的な存在である）が、米国よりも強力なAIモデルを構築し、それらを用いて恒久的な軍事的優位性を確立したり、自国民に対して極めて深刻な弾圧を行ったりするリスクである。この懸念は米国政府内でも共有されている。昨年パリでヴァンス副大統領は「権威主義政権がAIを盗み出し、軍事力・諜報能力・監視能力の強化に利用している」と警告し、情報コミュニティの2026年版年次脅威評価では「他のグローバル大国によるAI分野での着実な進展が、米国の経済的競争力と国家安全保障上の優位性を脅かしている」と指摘されている。これらのモデルがオープンウェイトで公開されるかどうかは全く関係がなく、ましてや米国企業による使用の有無などなおさら無関係である。実際、最も危険なモデルとは、秘密裏に訓練され、無人機用には人民解放軍に、監視・弾圧用には国家安全省にのみ提供されるものかもしれない。
第二の懸念は、強力なAIモデルがサイバー攻撃や生物兵器攻撃に悪用されるリスク、および深刻な整合性問題を抱える可能性である。オープンウェイトモデル――その出所が中国であろうと他の地域であろうと――は、ガードレールの適用や使用状況の監視が非常に困難であり、ウェイトが公開されれば取り消すことができないという性質上、クローズドモデルよりも潜在的に高いリスクをもたらす可能性がある。しかし、これらのモデルの米国企業による使用を禁止したところで、このリスクに対処する効果はない。なぜなら、悪意ある行為者が正当な米国企業である可能性は低いからだ。これは米国のAI企業を競争から保護することになるかもしれないが、それは決して私の目的ではない。
これらの懸念に対処するため、私とAnthropicが一貫して提唱してきた以下の3つの措置を支持する：強力なチップやチップ製造装置を中国に輸出すべきではないし、またこのようなチップを入手するために横行している密輸3や回避策に対して厳格な取り締まりを行う必要がある。中国は国内の生産能力が限られているため、スケーリング則の観点から、米国製チップなしでは米国よりも高性能なモデルを構築することはできない。これは脅威＃1を阻止する最も効率的かつ直接的な方法であり、米国法の及ばない範囲にあるモデルの学習を阻害することで、間接的に脅威＃2の対策にも寄与する。
我々は産業規模の蒸留プロセスに対しても厳格な規制を課すべきである。蒸留はモデルをゼロから訓練するよりもはるかに計算効率に優れた手法であり、中国が保有するチップ数だけでは実現できないほど高性能なモデルの構築を可能にする。これにより、チップ輸出規制を部分的に回避することが可能となる。蒸留プロセスでは中国共産党が米国と同等の、あるいはそれ以上のAI能力を獲得することは許されないが、中国の技術水準を米国の最先端からわずか数ヶ月遅れのレベルまで引き上げることは可能である。これらの活動を行う企業の多くがオープンウェイトモデルを公開していることは事実だが、重要なのはこれらの活動が権威主義国家によって支援されており、米国の技術水準を追い越そうとする意図があることである。我々はこのような行為を抑止するための政策的介入を行うべきである。オープンウェイトモデルの全面的な禁止は、適切な解決策ではないばかりか、私たちがこれまで提唱してきたものでもない4。
十分な能力を有するモデルについては、公開・非公開を問わず、すべて必須の安全性試験を実施すべきである。脅威＃2に対処する最善の方法は、リリース前にサイバーセキュリティリスク、生物学的リスク、およびアライメントリスクについて直接モデルをテストすることである。この考え方は実際、既に多くの関係者の間で合意に近いものとなっている。私は最近、トランプ政権がこの方向性に動き始めたこと、そして最近の業界提案において、国の起源や公開・非公開の区別にかかわらず、最も高性能なモデルに対してこのようなテストを適用する方針が示されていることを歓迎している（ただし、スタートアップ企業や学術機関が開発したより能力の低いモデルについては、テストを完全に免除する方針である）。オープンモデルがリスクを増大させるか否か、またそのようなリスクを軽減可能か否かについては、事前に決定されるべきものではなく、テストの結果によって明らかになるべきものである。オープンウェイトモデルの安全性を向上させる有望な手法も存在しており、最近のAnthropicによるモジュール型訓練戦略に関する研究などがその一例である。なお、テストを効果的に実施するためにはグローバルな協力体制が必要であり、これには中国共産党も参加する必要がある。私はこれが実際に可能であると考えている。『テクノロジーの思春期』で述べたように、AI生物兵器の開発防止に向けた限定的な協力は、中国にとっても利益となるという点で実現可能かもしれない。
次に、この公開書簡について述べる。私はこの書簡の多くの主張に同意する。オープンウェイトはAI経済へのアクセスを拡大し、少なくとも一部のユースケースにおいては競争を強化するとともに、顧客により大きな制御権限を与える。蒸留に関する懸念については、前述したのと同様の対象を絞った法的・商業的枠組みによって対処すべきである。しかし、書簡が主張するように、オープンウェイトモデルが必ずしも安全対策の開発を容易にするとは限らないし、また能力への広範なアクセスが防御側を攻撃側よりも必ずしも有利にするとは限らないという点については、私は同意できない。むしろ、その逆の可能性の方が十分に高いと私は考えている。例えば、生物学分野においては、攻撃側と防御側の間に大きな非対称性が生じる可能性がある。十分な能力を有するモデルであれば、広く入手可能な材料を用いてパンデミックレベルのウイルスを迅速に兵器化できる可能性がある一方、これらの病原体に対する防御は、最善の場合でも複数年にわたる運用上の課題となるだろう（「ワープ・スピード作戦」で見られたように）5。このような問題については、厳密なリリース前テストによって実証的に検証されるべきであり、事前に決めつけるべきではない。
私とアンソロピックの立場を要約すると、私たちはオープンウェイトモデルというカテゴリー全体の禁止を主張しているわけでも、現在そのような主張をしているわけでもない。むしろ、強力なチップが権威主義的な勢力の手に渡ることを防ぎ、産業規模での蒸留を阻止するとともに、十分な能力を有するすべてのモデル（オープンウェイトモデルとクローズドウェイトモデルの両方）に対して安全性テストを義務付けることに注力すべきである。
アモデイ氏が主張した内容で誤解を解きたかったのだということで、以下の内容をはっきり述べていました。
Anthropicは「オープンウェイトモデル（いわゆるオープンソース型AI）の全面禁止」を主張したことは一度もなく、今後も求めることはない
これは前の記事でも書いたことですけど、NVIDIAのCEOがX.comにアカウント作ったみたい。 で行われた署名にAnthropicが唯一加わらなかったことで
「Anthropicは自社の競合となるオープンウェイトモデルを排除（禁止）しようとしている」という疑惑や批判が一部で上がったことで、その誤解を解きたいのが真意だったようです・・が、何故署名しなかったんやろ・・？
ただ、何を気にしてるかは理解しておいたほうがいいかもしれないです。以下の2点をアモデイ氏は気にしていたようです。
- 権威主義的政府（特に中国など）によるAI軍事力の突出
- 権威主義体制が米国より強力なAIを開発し、軍事的優位性の獲得や自国民の抑圧に使うリスク[1]。
- モデルがオープンか非公開か、米国企業で使われているかは関係なく、秘密裏に軍や治安機関に提供されるAIこそが最も危険。
- 強力なAIモデルの悪用（サイバー攻撃・バイオ兵器など）
- 一度重み（ウェイト）が公開されたモデルは安全ガードレールを解除しやすく、撤回も不可能なため、サイバー攻撃やバイオテロに悪用されるリスクが高まる。
- ただし、米国内の正規企業での使用を禁止しても、悪意ある攻撃者は正規企業ではないため、リスク防止にはならない。
で、それへの対応策として以下の3つを掲げてます。
- 高性能半導体（チップ）の輸出管理と密輸・抜け道の徹底取り締まり
- 産業規模での「モデル蒸留（Distillation）」の規制
- 能力が一定基準を超える「すべての強力なAI」への事前面接・安全性テストの義務化
1番目は確か、NVIDIAからも同様のコメントが出ていて、チップの規制が重要であろうと述べていたように思います（どっかでそんな記述見つけたような‥でも忘れちゃった）が、現在世界各国どっかしらでもめ事が起きるたびにSCMがガタガタになる現在において、そんなこと実現するんかしら・・？と思いますし。
蒸留に関しても、他社モデルを出汁に使うような行為はモデル構築側のモチベーションを徹底的に削る行為だからやめておいたほうがいいんじゃないかと確かに思いますが、それで疑心暗鬼に陥ってるのが現在のAnthropicであり、結果的に今はどうなってますか・・・？と言いたいところ。
3つ目ですが、これは実質的に「ぜったい無理じゃね？」と感じるのが正直なところです。そのテストの強制力と権限を考えると、誰が握っても危険だろうと思うからです。その覇権を握るためにあるいはそのインテリジェンスを使うのか、政治力を使うのかわかりませんけど、大体泥沼になっていくであろうことが容易に想像できますし。
それこそ戦争の火種になりかねないものがたった一つ生まれただけになるでしょうし、どのみち規制は難しい気がします。だとしたら学習で何を食わせたのか、そのデータの仕分けから入る必要があるように私は思いますけども・・どうなんでしょうかね。数百年、数千年かかるかもしれませんけど、人によってどの知識階層にアクセスできるかを権限管理するしかないんじゃないですかね？
世界規模でそんなことできるんかいな？って気もしますけど、だとしたら、私たちはもうあきらめるしかないのかもしれません。恐竜時代のような生き方に人間が本能のままなったほうがお得な社会にこのままなっていくのかなぁ・・だとしたら悲しいですけど、たぶんどーにもならない気がします。
コメント