Anthropic(Claudeの会社)が新しく出した超強力AIモデル「Fable 5 / Mythos 5」で起きたトラブルを簡単に説明すると、、、

背景(何が起きた?)

  • Anthropicは最近、「Mythos 5」(最強版)と「Fable 5」(一般向け安全版)をリリース。
    • Mythos 5:サイバーセキュリティ(ハッキング関連)の能力が世界最強レベル。攻撃的な使い方ができる「サイバー兵器級」。
    • Fable 5:同じ基盤モデルだけど、ガードレール(安全柵)を入れて、一般人が使っても危険なことはできないようにしたバージョン。

Anthropic自身が「Mythosは危険だから規制が必要」と公言してたモデルだ。

問題の核心(jailbreak)

  • 信頼できるテスター(政府関連のパートナー)が、Fable 5のガードレールを突破(jailbreak)する方法を見つけた。
  • これでMythosの強力なサイバー能力が使えてしまう可能性が出てきた。
  • 政府(Admin)はAnthropicに「直ちに修正するか、モデルを一時停止せよ」と要請。
  • Anthropicは「そんなに深刻じゃない」と拒否・最小化 → 政府が輸出規制(export control)を発動。

結果

  • 外国人がアクセスできないようにするため、Anthropicは全世界でFable 5とMythos 5を一時停止(米国内ユーザーも影響)。
  • 他のClaudeモデル(Opusなど)は通常通り使える。
  • 政府の狙い:未修正の「サイバー兵器級AI」が悪用されるのを防ぐ(特に外国へ流出防止)。解決すればすぐ解除したい意向。
Copilotを使って生成したAIイメージです。

コメント

タイトルとURLをコピーしました