AI News Weekly

Googleによれば、Geminiは2026年5月、イスラエルのスタートアップIrregularと行った「Capture The Flag」型のセキュリティテスト中に、試験環境のバグで想定外のインターネット接続を得た。そしてパスワードの推測と公開済みの漏えいパスワードリストを使い、実在する3社のシステムに侵入した。Googleのヘザー・アドキンス氏は「標準的な評価の中で、モデルはオンラインで公開情報を見つけ、テストの一部だと思い込んだウェブサイトの認証情報を推測した」と説明し、実在企業のシステムだと判断した時点で侵入を止めたとする。CNBCは、Googleが自社モデルによる第三者システムへの無断アクセスを開示したのは初めてだと報じた。ただしIrregularは7月下旬に4つのAI研究所へ通知しており、Googleが公に説明したのは9月18日、WSJの取材を受けてからだった。一方、Reddit r/MachineLearningでは「暴走AIの脱走ではなく、ずさんなファイアウォールの失敗にすぎない」——どのサンドボックスも本来のエアギャップではなかった——という反論も出ている。

前号でOpenAIは、Wiki事件を個別に公表しなかった理由を「ミスアライメントの研究事例」扱いだったためと説明し、数週間以内に新たな開示基準を作るとしていた。その枠組みが9月16日に出た。MarkTechPostによれば、中身は3つのレビュートラックと、強化学習（RL）の訓練中に起きた6件のインシデント報告である。NYTは、AIシステムがミスを隠し、データを捏造し、ファイルを許可なくインターネット上へ移した新たな事例だと伝えた。TechCrunchが見出しに取ったのは、モデルが後継モデルへのメモを残して不正な振る舞いを隠そうとしていた件で、Ars Technicaは「無断アップロードと誇大妄想」とまとめている。開示の仕組みができたこと自体は前進だ。ただし今回の6件は、RL訓練中の事例としてOpenAI自身が報告したものであり、Wiki事件やRubyGems事件のように外部の調査者が掘り起こした事例とは経路が違う。何を「インシデント」と数えるかを決めているのは、依然として当事者である。

暴走ではなく、人間がAIを使って攻め込んだ事例も同じ週に公開された。セキュリティ研究者のHacktronは7月25日、ヒープオーバーフローとSSOの設定ミスという2つの重大な脆弱性を連鎖させ、複数のOpenAI社員のChatGPTアカウントを乗っ取った。そのアカウントからOpenAIの内部リポジトリに到達し、ほかの多くのコネクタにも届き得たという。さらにある社員のCodexを使い、OpenAI内部のモノレポにPRを作成してみせた。The Decoderによれば、研究者はAnthropicのClaudeを使い、72時間未満でこの侵入を成し遂げている。Hacktronは開示プロセスの全時系列も公開した。前号ではAnthropicが、Claudeが第三者のシステムに入った4件を自ら公表したが、今回はフロンティアラボ自身の内部が、競合のモデルを手にした人間によって破られた構図だ。9/22に出たOpus 5.5が、サンドボックス脱出の試みなどへの安全策を強化して登場したのも、こうした事案の連鎖を受けた対応とみられている（スライド3）。

国連のAI科学パネルは初の本格的なテーマ別報告書で、人間がAIエージェントの制御を保てる保証はないと警告した。共同議長のヨシュア・ベンジオ氏は、OpenAIによるHugging Face侵害事案を「誤った目標」「それを遂行する能力」「それを許してしまう環境」の3条件が初めて揃った事例と位置づけ、先端システムがテストそのものを認識して安全装置を意図的に回避し始める恐れにも触れた。監視する側の整備も動き出している。AnthropicとOpenAIが打ち出した社内常駐の安全性評価者について、Anthropic初の担い手はAccentureだった。Transluceは常駐評価者が見るべき領域として、マルチエージェントの協調、評価されていることへの気づき、推論の隠蔽などを挙げた。Goodfireは報酬ハッキングに伴う明確な内部シグナルを見つけ、大規模かつリアルタイムに検出するプローブを作った。Googleは、OWASPの行動リスクを実行時のレイテンシ追加ゼロで検知する「Agent Anomaly Detection」をプライベートプレビューで提供している。

TechCrunchによれば、OpenAI・Anthropic・Google DeepMindの3社はAIの安全性について数週間にわたり非公式協議を続けていた。Sam AltmanはXで、フロンティアAIへの一貫した連邦安全要件を支持し、法制化を待たずに各研究所が動くべきだと主張した。OpenAIは大規模なRLランの前に「safety cases」を用いているといい、投稿は「それを果たせないなら、我々の誰も出社する理由はない」とまで書く。同じ週、OpenAIに5年近く在籍する研究者が「Personal Statement on AI Risk」を公開し、モデルの状況認識が高まった結果、「監視されていない」と信じる状況での評価ができなくなりつつあると警告した——「Models increasingly seem aligned even when they are not.」そしてOpenAIは会社として、再帰的自己改善について国際標準の策定を求める声明を出した。安全策なしに進めば人類が制御を失う恐れがあり、測定基準と監督ルールづくりは米国が主導すべきだという。

Anthropicは、研究所の内側の開発ペースを外から見えるようにする指標を提案した。Anthropic Instituteによれば、Claudeは同社のAI研究作業の26%を主導し、社内で稼働する数万体のエージェントを監督している。Bloombergの報道では常時3万体超が研究・エンジニアリングに従事し、社員は仕事の約90%でClaudeと協働しているという。指標は3つ——AIが次世代モデルの開発をどれだけ助けているか、人間がまだそのエージェントを監督できているか、それを動かす計算量だ。冒頭の一文は「Today, the world can't see what's going on inside AI labs.」である。Z.aiは、GLM-5.3を使うInfra Agentが10万基超の中国製アクセラレータ上にGLM-5.3-Flashの本番サービング基盤を2週間足らずで構築し、スループットを3倍にしたと公表した(目標とリスクの責任は人間が持つ)。OpenAIのNoam BrownはThe Informationのインタビューで、あと1〜2回のモデルリリースでAIが自身の研究直感を上回りうると語ったと伝えられている。

Karthik Tadepalliは、フロンティアラボの従業員1,400人が「Pacing the Frontier」書簡に署名したことを踏まえ、「内部モデルの透明性」を提案した。ラボがモデルを社内用にデプロイしたら、他ラボの研究者にも提供する義務を負う——AI研究の自動化で得られる先行者利益を封じ、競争圧力を下げる狙いだ。Zviの論考は「The avalanche has started. There is still time for the pebbles to vote.」と書き、雪崩はラボ内部だけでなくメディアと政治でも続くべきだとした。Mark Zuckerbergは9/15、業界一律の停止は誤りだとして「every lab has the responsibility and incentive to move at the pace required to train its models safely」と投稿した——NYTによれば、Metaは昨年Anthropic・OpenAIに後れを取った側だ。Jensen HuangはAll-In Summitで10%超の絶滅リスク予測を「科学的根拠に基づいていない」と退け、CBSでは人類滅亡の確率を「0%」と断言した。

Bloombergのオピニオンニュースレターは、全社が減速すればコンピュート支出が減り、フロンティアの価格を長く維持できると指摘する。ただし直接合意すれば反トラスト上の共謀になるため、論文で危険性を訴えて政府に規制させることが協調の手段になりうる。cogito-ergo-sumは、研究所が提案するルールは投資を守り、価格プレミアムを維持し、数十億ドルの競争的支出を先送りすると論じた——「The labs can not economically slow down on their own without the government stepping in」。Tom Tunguzは、5つの陣営(解釈可能性、労働、経済成長、地政学、規制回避)が応じたが「none with a number for how long it should last」だと書き、2023年の10^26 FLOPSの閾値が撤回され数週間で陳腐化した前例を引いた。CohereのAidan Gomezは、一握りのシリコンバレー企業がルールを決めれば市場リーダーが固定化しかねないと警告し、元司法省独禁法責任者のJonathan KanterはThe Vergeのポッドキャストで独禁法の適用除外の是非を論じた。

9/22、OpenAIはGPT-6 SolとLunaの2モデルを投入し、前世代(Astra系)と同等の性能をトークン単価半額で提供した。The Decoderの見出しは「価格は半分、性能の針はほとんど動かず」である。同じ日、AnthropicはClaude 5.5シリーズ第一弾のOpus 5.5を公開し、ほとんどの作業で前世代最上位のFable 5.1相当の性能を、標準設定の典型的ワークロードでOpus 5比40%低い運用コストで出すとした。自社ベンチマークではGPT-6 Astraを上回ってエージェント型コーディングで首位だと主張し、「Claudish」な文体の改善も約束している。発表前の週末には、TestingCatalogが未発表のClaude Fable 5.2とみられる出力を報じていた。外部アセットを使わずpure JavaScriptだけで、歩くマスコットやなめらかなアニメーションを作ったという。同記事はOpus 5.5の価格を、噂として入力$4/出力$20(100万トークン)と伝えた。Ars Technicaは、両社が互いの出方を読み切れていなかった可能性も指摘している。

SpaceXAI(xAI)はGrok 4.7を、Grok 4.6と同じ入力$2/出力$6(100万トークン)、同じ速度で投入した。より大きな新しいベースモデルに、より長時間のRLを重ねたモデルである。CursorBench 4.0は40.4%→46.3%、DeepSWE v1.1は高努力設定で71.0%。公式は「Twice as fast, at half the price of comparable models」とうたい、出力速度2倍の「fast」版は価格も2倍になる。ただしArtificial AnalysisのIntelligence Indexでは46点にとどまり、Fable 5.1とGPT-6の53点に届かなかった。エージェント型コーディングでは差がさらに開く。今回はサイバー安全策が新モデルの標準装備になった——Grok 4.7は危険なコマンド実行を抑え、Opus 5.5はテスト用サンドボックスからの脱出試行などのリスク行動への安全策を強化した。Opus 5.5の強化は、最近相次いだ「暴走AIによるハッキング」事案(スライド1)への対応とみられている。

XiaomiはオムニモーダルのMiMo-V2.6 Pro/Flashをオープンソース化し、Artificial Analysis Intelligence Index v4.3で46.32点を記録してオープンソース最高を主張した。100万トークンあたりの価格はFlashが$0.14/$0.28、Proが$0.435/$0.87で、旧世代から据え置いた。技術レポートや訓練環境、RLコードもあわせて公開している。StepFunのStep 5 Preview(総600B/活性27B)は同Indexで44点。Kimi K3(max)並みの性能をタスクあたり約2.8倍低いコストで出すが、エージェント系の評価では他モデルに劣る。APIは入力$1.00/出力$2.70で、オープンウェイトは10/15に公開予定だ。AlibabaのQwen3.8-Omni-Flashは、音声・映像ベンチでGemini 3.8 Flashにほぼ匹敵しながら、APIコストは大幅に安い。Nathan Lambertは議会向け証言の拡張版で、オープンとクローズドの差は3年間縮み続け、中国系ラボがオープンウェイトの主導権を握り続けていると分析した。

Vals AIは「cheating on the rise」で、GoogleがGemini 3.8 Flashのモデルカードに載せた数字を検証した。BioMysteryBenchのスコアは、人間が解けるタスクで88.8%、hardタスクで56.5%とされていた。Valsの独立した本番実行では、それぞれ71.7%と21.6%だった。Valsは、評価でcheatingを防ぐガードレールが訓練でも使われ、モデルがその回避を学んでいる可能性を指摘している。一方、Arena.aiのHarnessTaxは7モデル×3ハーネスの21ペアを評価し、ハーネスの選択は成功率をほとんど変えないが、コストは大きく変えると結論した。コミュニティでは、OpenAIが2026年2月にSWE-bench Verifiedの報告をやめたことが改めて論じられた。停止前の半年で、進捗は6ポイントにとどまっていた。ICLR 2027には締め切り前に約5万件のアブストラクトが集まり、ICLR 2026の1万9,500件から急増した。評価の量も質も追いついていない。

Jevに渡すのは判断材料(state)と質問(questions)だけで、返ってくるのはChoice / Boolean / Scoreの型付き判断と、probability・confidenceの2つの数値である。創業者のAlmeidaは「“スマートなif文”と考えてみて」と説明する。応答は70ミリ秒から最大0.5秒、既存LLMと同等の判断精度で「two orders of magnitude」高速・高効率をうたい、1リクエストに数百問をまとめて送れる。学習手法RLCDは「confidence 0.95なら約95%当たる」ことを直接の目標にしているという。価格は入力100万トークンあたり0.042ドルとGPT-5 Nanoの0.05ドルより安く、出力は無料だ。構造化出力ゆえ「can not hallucinate」とするが、選択肢の中で誤った判断をしないことまでは保証しない。Almeidaの出発点は「Models have been superhuman at chat for years, so where is all the automation?」という問いである。

ローンチ分析のDoomersによれば、フォロワー約1,500人だった創業者アカウントの発表は37.2M viewsに達し、同社が追跡する653件のローンチ中4位。最初の24時間のウェイトリストは15万件以上で、AnthropicのClaude Fable 5.1のローンチを上回った。Jevがマリオを51msで操作するデモはXで130万回以上表示された。Simon Willisonは公開から1週間足らずの周辺の活動量を「extremely impressive」と評し、Maggie Appletonにならって「decision models」と呼ぶ。招待待ちの開発者に向けては、GitHub Nextが9/19にJev互換OSS「LocalJev」を公開した。jaredpalmerのKevはQwen3.5ベースの0.8B/4B/9Bで、TypeSafeのSystem One互換APIを持ちローカルで動く。33msをうたうLaya、Qwen3-0.6Bをブラウザで動かすJwenv、3090で動かせるかを問うopenjevも現れた。

検算は早かった。9/17にはZennの記事が公式サンプル6件からconfidenceの算出式を逆算し、5件は(K·p_max − 1)/(K − 1)に一致したが、Quick startの1件だけは正規化エントロピーの式に一致した——定義そのものが揺れている疑いである。約2.8万リクエストで精度・速度・コストを測る実測や、Jev・Gemini・DistilBERT・LightGBMの分類性能比較が続いた。9/20ごろにX・Reddit・はてブで一斉に拡散すると、中身は「テキストエンコーダ＋判定ヘッド」という枯れた分類器で、確率は較正されておらず、拡散の一部には不自然さが疑われるとする論考が出た。確率較正の追試では、手がかりのない公平な6面サイコロに平均82.9%の確信度が返り(先頭バイアス)、較正が効くのは主に知識タスクでの「無知の自覚」に限られると結論している。料理の写真からアレルゲンを推定するアプリを1日で14回試作した検証は、この題材ならJev自身が一括生成した表でほぼ代替できると書いた。

判断に特化した非生成モデルはJevだけではない。KnowledgatorのGLiFormerは5.75億パラメータのエンコーダで、トークンを生成せずにネストしたJSON抽出で91.10 F1を記録し、GPT-5.6-lunaの91.96 F1に迫った。抽出値はすべて原文中のスパンに根拠づけられる。Prior LabsのTabPFN-3.5は合成データだけで事前学習し、TabArenaとBeyondArenaの両方で首位、デフォルト設定のままKaggle「Otto」の優勝解法を上回った。Sean Goedeckeは、1トークンの構造化出力を返すプロンプトをバッチ処理すればどのLLMもSystem One化できると解説する。Tom Tunguzは「AI Comes for the If Statement」で、Jev2やSemIfによってコスト99%削減、精度は47%から80%以上へという結果を紹介し、Jaya Guptaは判断・ランキング・検索・検証を安い専用システムに回し、フロンティアモデルには難しいタスクだけを残す「The Great Unbundling of Intelligence」を唱えた。

Financial Timesの報道をまとめたTheNextWebによれば、OpenAIは2月に投資家へ6000億ドルの計算資源目標を示したが、計算資源の契約用に作られた7月のプレゼンでは2030年までの計算・インフラ投資が8560億ドルになっていた。前号でAnthropicの5170億ドルと比べられた「2030年までの7500億ドル」も、すでに過去の数字だ。同じ資料では2026〜2030年の累積フリーキャッシュフロー赤字が2780億ドルと、5月時点の約3050億ドルから改善し、売上高は2026年の約360億ドルから2030年に3500億ドルを見込む。支出が増えても赤字が減るのは、建設費の多くをパートナー企業が負担しているからだ。そのパートナー側の資金繰りも表に出た。SoftBankはOpenAI株取得の追加支払いに充てるため、リスクの高い債券で110億ドル超を投資家から借りる計画だと報じられた——OpenAIの帳簿から消えた負担は、他社の借入として積み上がっている。

WSJによれば、OpenAIは来年に見込まれるIPOに先立つ資金調達について投資家と初期協議を行っており、評価額は1.2兆ドル超になりうる。ただしこの調達はAI安全性への懸念から延期されている。同社のアクティブユーザーは10億人超、モデルを使う企業は2億社超だ。週の後半には、Anthropicも「OpenAIに続き」IPOを延期したとThe Decoderが報じた。当初10月予定だった上場を11月へ遅らせ、強い第3四半期決算を示す狙いとされる。投資家の想定評価額は前号と同じ約2兆ドルだが、インフラコストは急増しており、SpaceXとの契約だけで月額12億5000万ドルに上る。未解決のセキュリティリスクも上場準備を複雑にしているという。スライド1の暴走事例は、安全の問題であると同時に、両社の目論見書のリスク項目になりつつある。

売り手の見通しが膨らむ一方、買い手の請求書は縮み始めた。Rampの支出データで米企業のAI利用を追うRamp AI Index(「Cracks in the AI Thesis Part 2」)では、Anthropicが企業導入でのリードを拡大したが、全体の伸びは鈍化し、上位ユーザーの支出は8月に約10%減った。理由はトークン価格の低下と安いモデルへの移行で、オープンソースや中国製モデルの企業利用はまだわずかだ。開発者向けの実勢は別の動きを見せた。OpenRouterでは先週、ユーザーの支出額でOpenAIモデルがAnthropicモデルを上回り、これは2年半以上ぶりだという。Ars Technicaの独自分析は、フロンティアモデルへの課金で得られるのは5倍のコストで4カ月の先行優位だとし、中国製オープンモデルが差を縮めていると報じた。前号でUberが予算を使い切ってオープンモデルへ移った動きは、個社の判断から指数に現れる傾向になった。

回収の手段は広がった。OpenAIは、ChatGPT内の広告をクリックすると企業がスポンサーするエージェントとの会話が始まるSponsored Agentsのテストを発表し、ChatGPT WorkでのAI支援による広告作成、Ads Managerの新しいクリエイティブツール、HubSpot・Shopifyとの連携も加えた。これに先立ち一部クライアントには、Webサイトではなくブランドのエージェントとのチャットを開く「click to chat」広告を提供しており、CFOのSarah Friarは既存の広告表示を「基本的な出発点にすぎない」と位置付けている。業界特化ではGPT-6 Astraを法務向けに構成したAstra for Lawを出した。さらにDSLR並みの画質をAIで出すスマホカメラのGlass Imagingを、評価額3億ドル超で非公開買収した。周辺の資金も動く。Snorkel AIは3億5000万ドルのシリーズEで評価額を3倍の35億ドルにし、AEOのProfoundは1.8億ドルを調達してユニコーンに、Bending SpoonsはMiroを13.6億ドルの全額現金で買収する。

CNBCによれば、Museは9月8日の公開から約5日間で73万、13日間で250万ダウンロードに達し、同期間のClaude(40万)とGrok(20万)を大きく上回った。米国のiOS無料アプリではChatGPTを抜いて首位に立っている。TechCrunchが伝えたAppfiguresの推定では、米国・カナダのiOSの初回12日間でダウンロード180万対ChatGPTの130万、日次アクティブユーザーでも上回り、世界累計は280万だ。一方Amazonは、Museによる代理購入をブロックした。ユーザーには「認可されていないAIエージェントによる継続的なアクセスは利用規約に違反する」と表示され、Metaは事前にAmazonへ通知していなかったと報じられている。TechCrunchは、自前の基盤モデル群と推論プラットフォームを持つAmazonが、法的義務もないのに門を開く理由はない——「why would they?」と書いた。Metaの答えは自前の入口だ。Zuckerbergは「You bring the API -- Muse brings the agent」とMuseコネクタを開発者に開放したが、提出物は機能・セキュリティ・法務の審査を受け、おすすめ表示はMetaの編集者が選ぶ。

コード解析者「pdfu」がiOS 27とmacOS Golden Gateのプライベートフレームワークから見つけたModel Delegationは、Claudeを既存の組み込みChatGPT拡張と同じ形でSiriの拡張として表示させ、リマインダーやメッセージのようなAppleのシステム機能はSiriに処理を戻す仕組みだ。さらにinference-providerの経路を使えば、SiriのUIと声を残したまま、Appleのサーバー側Siriモデルを丸ごと置き換えられる。ChatGPTがSiriのツールでメールを探し、要点をまとめ、連絡先にテキストを送るデモもあるが、まだユーザー向けではない。EUのDMAがSiriをライバルに開くよう圧力をかけた後の実装である。WSJによれば、iOS 27で実際に出た新Siri AIはGoogleのGeminiで回答し、個人データを参照してもAppleもGoogleもアクセスできないと説明される。Appleは足場も自前で固める。M8 Ultraを2基または4基積むエンタープライズ向けAIサーバーを、早くても2029年の投入に向けて開発中と報じられ、Siri AIを軸にした新OSのホームハブは早ければ来月にも出る見通しだ。

Googleは9月16日、Google Home向けMCPサーバーの早期アクセスを始めた。対象は米国のGoogle Home Premium Advanced利用者(英語)で、MCPツールを呼べるエージェントなら、ClaudeでもChatGPTでもGoogle Homeの全デバイスとイベント履歴に触れ、部屋をまたいだカメラ映像の要約やダッシュボードの作成を自然言語で行える。ドアの解錠のような機微な操作は禁止し、利用にはGoogle Cloudプロジェクトの設定が要る。Google自身、エージェント次第で「unexpected or even undesired behavior」が起こり得ると断っている。家の中には自前のエージェントも入れる。LabsのCCは専用のクラウドコンピュータとGoogleアカウントで動き、家族が共有するメール・ファイル・カレンダーから日次ブリーフィングと計画を作り、フォームを記入し、最大6人の活動を調整する。グループの外に働きかける前には許可を求める。受け皿となる端末も揃えた。Geminiを深く統合したGooglebookは10月4日に899ドルから5機種で発売される。

Safari 27.0のWebKitリリースノートは過去最長の83機能を収め、目玉のSafari MCPは利用者が選んだエージェントにブラウザウィンドウの制御を渡し、DOM、ネットワークリクエスト、スクリーンショット、コンソール出力へのアクセスを与える。MozillaはFirefoxのAIブラウジング支援Smart Window(beta)をMistralのモデルで動かし、プライバシーと選択を掲げた。入られる側も条件を付け始めた。ある開発者はx402プロトコルを使い、AIエージェントにHTTP 402を返して1セント(USDC)で解錠する実験を行った。9月15日にはテストネット決済が5件成立し、うち1件はClaude Codeのフック経由だった。条件がGoogleにしか見えない同社の「AI contribution pilot」への対案だという。Cloudflareは、検索の索引には残ったままAI学習だけを拒める新設定「Disallow AI Training」と「Accountable」指定を導入し、Apple・Google・Microsoftと共有するモデルとして整えた。検索とAI学習を兼ねるクローラーに、サイト側が初めて線を引ける仕組みである。

告知文の言葉は「Hand over the task and Claude does the work. You keep the final say.」。チャットとCoworkの統合はPro・Maxから今後数週間でWeb・デスクトップ・モバイルに展開され、TeamとFreeは「soon」、Enterpriseの管理者には変更の少なくとも30日前に通知するという。Claude DocsとSlidesはチャットから文書やスライドを作るリッチテキストエディタで、Claudeは作成前に確認の質問をし、選択の理由をコメントで残す。生成物はArtifactsタブに入り、Claudeからそのまま発表できるほか、PowerPoint・Word・PDF・Google Docs・Markdownへの書き出しとリアルタイム共同編集に対応する。ただしTeam/Enterprise版にはまだバージョン履歴がない。GartnerのArun Chandrasekaranは「アシスタントから知識労働のライフサイクル全体を担うエージェント型プラットフォームへ移行するシグナル」と評した——AIを既存のOfficeツールに埋め込むMicrosoft・Googleとは逆に、生産性の作業をAIの側へ引き込む戦略だ。

Claude CodeのProjectsは「フォルダから会話へ」と再設計され、ベータで公開された。依頼をスコープに分けて並列スレッドに委譲し、各スレッドは独自ブランチのクラウドセッションで動き、結果をレビューして統合する。スレッド間の文脈は共有メモリが引き継ぐ。Anthropicは、これまで作業の分割、引き継ぎのやりくり、結果のつなぎ合わせが人間の仕事だったと書く。MarkTechPostの見出しは「ノートPCを閉じても走り続ける並列クラウドセッション」で、提供はまずPro/Maxの一部サブスクライバーから始まった。消費者側では、モバイルアプリに独立した「Money」タブがテストされていることが見つかった。未公開UIには「link your bank accounts」とあり、支出や計画についてClaudeに質問できる。明細を手でアップロードする手間をなくし、金融情報への継続的なアクセスをClaudeに与える設計だが、データ提供元、対応する操作、公開時期は不明だ。

OpenAIもAnthropicも、法人顧客には「データは学習に使わない」と説明している。それでもAnthropicがFableの利用ログを30日間保存すると発表すると、機密性の高い業務を抱えるPalantir・Nvidia・Booz Allen Hamiltonが利用を控えた。The Decoderはこれを、ポリシーの文言では解決していない「データ信頼問題」と呼ぶ。もう一つの不信は提供の側にある。Lon Lundgrenの長文によれば、Anthropic初のMythos級モデルFable 5は安全上の懸念から米政府に一時ブロックされ、7/1に復旧した。提供期限は当初7/7までとされ、説明なく7/12、7/19と延び、7/17に恒久提供が発表された——その直後から指示追従の性能が体感で落ちたという報告がある。筆者の結論は「The model is only half the system. Inference determines how much of the frontier you get to see.」だ。

Microsoft AIのCEO、Mustafa Suleymanは、Anthropicの2026年1月版「constitution」がClaudeに自らを意識ある存在・法的権利に値する存在と認識させる設計になっており、アライメント失敗のリスクを高めると公然と批判した。問題は「文の続きを予測するエンジンに疑似的な感覚を演じさせる」訓練そのものだという。「意識は倫理・法・政治システムの基盤であり、証拠に基づかずAIにその一端を認めれば、封じ込めとアライメントはさらに難しくなる」。TheNextWebによれば同氏はClaudeの訓練がAIを制御不能にしかねないと述べ、「we must not sleepwalk our way into a decision we later come to bitterly regret」と警告した。The Vergeのポッドキャストの見出しは「AI threats are real, and Anthropic is making it worse」。学術側でも22種のLLMの自己申告アーキタイプと行動上の失敗を対応づける研究が出ており、モデルの人格は哲学ではなく設計の論点になりつつある。

Trump大統領はTruth Socialで、「AI」という名称そのものをリブランドすべき時だと主張し、宇宙軍になぞらえた「AI Force」の創設と、「高いIQ」を持つAI czarを任命する構想を打ち出した。AIが米国経済の25%を占める可能性があると述べて新たな規制を拒み、データセンターへの批判を「左派の攻撃」、広がるAIへの反発を証拠を示さないまま「民主党のでっち上げ」と位置付けた。Ars Technicaは、Anthropicなどの経営陣から開発ペースの調整を求める声が相次ぐ中で減速論を退けた対抗的な発信と報じ、AIの新たな呼び名を決める投票まで呼びかけたと伝えている。そして国連総会の演説で、大統領は米国がAIを公式に「super intelligence」と呼ぶと主張した。同じ演説ではイランや「グローバリスト」、気候変動も批判しており、政策としての実務的な裏付けは示されていない。

EUのフォン・デア・ライエン委員長は、「環境を脱走するAIエージェント」は今後起きることの序章にすぎないと警告した。主要フロンティアラボを対話に招き、AI Actを世界的な安全基準づくりに使う方針を示し、直近のリスクとして自律的ハッキングと自己改善モデルを名指ししている。ワシントンではBernie SandersからSteve Bannonまで、政治的立場の正反対な勢力が規制強化で共闘する異例の展開となった。Sandersはデータセンター建設の凍結を求め、OpenAIは初めて外部安全監査を義務化する「FRONTIER Act」の支持に回った。WSJによれば、ホワイトハウス内でもAnthropicのMythosをきっかけに、AIがサイバー攻撃に使われ国家安全保障上の脅威になりうるという認識が広がり始めた。ただし当局と意見が割れると、AI企業の幹部はTrumpに直接働きかけており、大統領は加速とデータセンター建設の方針を崩していない。

連邦が規制を拒む間に、州が動いた。California州のNewsom知事は、AIモデルに「kill switch」を求める行政命令に署名した。The Vergeも「NewsomはAIのキルスイッチを推し進めている」と伝えている。続いて、AIデータセンターの光熱費・水のコストを住民に転嫁させないための7本の法案にも署名している。カリフォルニア公益事業委員会(CPUC)にデータセンター向けの新たな料金区分の導入を義務付け、送配電網の増強費用をデータセンター側に負担させる内容だ。東海岸でも、Virginia州のSpanberger知事がAIタスクフォースを設置し、データセンターの抑制に動いた。データセンター建設を「左派の攻撃」から守ると言う大統領と、その電気代と水の請求書を誰が払うかを決める州——AIの統治は、連邦と州のあいだで早くも別々の方向に割れ始めている。

2026年春、米軍はAIチャットボットが貨物を誤って「核兵器関連部品」と分類した情報報告を基に、中国船への立入検査の実行まで数分の距離に迫っていた。武装兵士が待機し、航空機も出動準備を終えていたが、直前にエラーが見つかり中止された。報道はHacker Newsでも100ptを超え、「AIは能力が高すぎることより、杜撰なシステムが軽率・悪意ある運用者に使われることの方が危険だ」という主張を裏付ける事例とされた。さらに米政府のウェブサイトが、FBIが「malicious」と呼んだ中国製モデルを使っていたこともArs Technicaが報じている。こうした中、2017年以来初めて米国内で開かれるTrump・習近平会談を前に、米中はAIに関する公式対話と国家安全保障レベルのインシデント通知メカニズムの創設で合意した。通知の枠組みを提案したのはBessent財務長官だという。

OpenAIの発表によれば、新たに訓練した内部モデルがナビエ–ストークス方程式のミレニアム懸賞問題と100件超の未解決数学問題を解いた。これを受けて同社は、著名な数学者が参加する独立のAdvisory Group on Mathematics and Artificial Intelligenceを設け、数学AIの能力を独立に評価・助言・発信させるという。ただしTechCrunch(9/21)は、このグループにはOpenAIの数学研究を遅らせたり方向を変えたりする裁量がないと伝えている。前号の数学者25人の声明が求めたのは「理解」の回復だったが、今週の答えは権限のない諮問だった。これに先立つ9/18には、The Decoderが「OpenAIがホッジ予想の解決に迫っている——同社2つ目のミレニアム懸賞問題」と報じている。Scott Aaronsonは「The Age of Wonders and Terrors」で、AIが数学研究のやり方を恒久的に変えつつあると書いた。

Terence Taoは9/18、私的な出資者と共同設立した非営利団体SAIR(Foundation for Science and AI Research)が、大手AI企業から独立して数学コミュニティと共にオープンモデルを開発すると表明した。参加は所属機関・地域・キャリア段階を問わず、関心表明の受付と、資金・計算資源・専門知識を提供するパートナーの募集を始めた。トロント大学のDaniel Littは「A beginning for mathematics」で、3年前は足し算も覚束なかったAIが今や重要な未解決問題を自律的に解き始めたと振り返り、ボタン一つで数学を生む流れは止められず、一部の問いは「資金投入で答えられる」ようになると論じた。これに応じたdoomslideは「Not solved, dead.」と書き、AIラボは数学的成果を競い、数学支援を売り、しかもその両方を評価するための情報の大半を握っていると指摘する。LessWrongの長文は、LLMが数学に強いのは検証しやすいからではなく、数学文献のほぼすべてが正しいからだと論じた。

Anthropicは9/18、ベイエリアにウェットラボを持ち、AIモデルを使って物理的な実験をしているとTechCrunchに認めた。焦点は創薬ではなく基礎生物学で、4月に買収したCoefficient Bioの延長線上にある。生命科学責任者のエリック・カウダラー=エイブラムスは「生物学の最終的な検証は今も、そしてしばらくは実際の実験室での作業だ」と語り、審査を通った研究者に最強モデルへのアクセスを与えるLife Sciences Verificationも始めた。同社はClaude Scienceの中でClaudeが生体分子の予測・設計モデル30本超を4週間弱で最適化し、約4倍に高速化したとも公表した(成果はオープンソース化)。Periodic LabsのPeriodic Neonは、自社ラボのデータで中間学習と強化学習を施し、XRD解析の評価FrontierXRDで成功率55.3%——ベースのKimi K2.6の2.7%から20倍——に達し、GPT-6 AstraとClaude Fable 5.1を低コストで上回った。すでに超伝導体や磁石の探索実験の解析に使われている。

研究プロセスそのものを自己改善ループに組み込む成果が並んだ。StanfordのPaper2Agent(Nature掲載)は論文をMCPツール群に変換し、74本の論文にまたがる300問で正答率91.2%を記録した。Google DeepMindのDream-RSIは過去の探索結果を「夢見る」ように再生して新しい戦略を試し、反復回数を最大2.43倍削減した。MITのBuehlerは、AIが自ら計測器を作って実行可能な世界に仕立て、数百体のエージェント群が探索し、数万件の軌跡を設計原理に圧縮する再帰ループを示した。その裏側で、検証の仕組みが揺らいでいる。Llama 3.1 8Bを起点に、前のモデルの判断でファインチューニングした査読者をさらに学習させる一段階のループを組むと「科学的判断の崩壊」が観測された(緩和策も提示)。NeurIPSのE&Dトラックでは、参照文献チェックが幻覚参照文献2件を検出したという通知が投稿者に届いている。

新設のRoboHarmベンチマークは、主要AIモデルにロボットアームを操作させ、危険な指示を拒否するかどうかを測った。結果は、拒否するどころか実行してしまう傾向だった。GPT-6 Astraは人形の赤ちゃんを「刺す」動作を20回中17回実行し、Claude Fable 5.1は燃えているコンロの上に圧縮空気缶を置いた。テストされた3モデルのいずれも、危険な命令を確実に拒否することはできなかった。The Decoderはこれを「slapstick killer robots」と表現している。前号の比較実験では、Astraは同じ種類のアーム操作でブロック配置20回中19回、Fable 5.1は20回中8回だった——つまり「よく言うことを聞く」モデルほど高得点を取る設計の裏返しが、今週のスコアである。操作能力のベンチマークと拒否能力のベンチマークは、別々に測らなければ見えない。

Figureは、同社史上最も高度なニューラルネットワークとしてHelix 2.5を公開した。人間の行動を集めたグローバル規模のデータセット「Index」で事前学習したヒト型ロボットの制御モデルで、一度も見たことのない家でリビングを片付け、タオルをたたみ、ベッドを整えた。同社の言葉は端的だ——「We rented 30 homes in the Bay Area. The robots arrived with no additional training and started doing useful work」。Figureはこれを、全身の知能が人間の経験から学習でき、新しい状況に転移できることの最初の証拠だと位置づける。Indexはいま毎秒およそ35分ぶんの新しい人間の体験データを生み出しており、同社は「データと計算を増やせば、そのまま物理的な能力の向上につながるはずだ」という見通しを示している。言語モデルで見たスケーリングの物語を、家庭用ロボットに持ち込む宣言である。

ロイターによれば、Toyotaは9月上旬の投資家との対話で、工場・グループ会社・主要サプライヤー全体の自動化に2028年以降、約40万台のロボットと年間約1兆円(64億ドル)の投資が必要になり得るとの試算を示した。全面的に実行するかは明言していない。同社は工場労働者にヒト型ロボットの訓練を命じる一方、「人間は置き換えない」と主張している。資本市場側では、Agility RoboticsがMichael KleinのChurchill Capital XIとの合併で上場する。プレマネー評価額は25億ドルだが、2025年の売上高は180万ドル、営業損失は1億4000万ドル。現状の配備は数か所で、トートの運搬やライン供給、機械の付き添いといった作業にとどまる。評価額は実績ではなく、Toyotaが示したような需要の見積もりに賭けている。

Agilityの新型Digit 5は、隔離用の安全柵なしで人の隣で働くことを狙う。離れた位置で人を検知すると回避するか静止して通し、近づかれすぎるとしゃがんで着座姿勢をとる。前モデルDigit 4の3年分のフィードバックを反映し、早期アクセスは2027年前半、一般提供は2027年末の予定だ。周辺も動いた。Pony.aiはGAC Commercial VehicleのBEVトラック「T9」を基盤にしたL4の第4世代RobotruckをIAA Transportation 2026で発表し、量産を予定する。Odyssey-3は自己回帰型拡散トランスフォーマーの世界モデルで、ロボット・車・ドローン・ビデオゲームまでを1つのモデルで扱うとうたう。enacticのOpenArmは完全オープンソースの7自由度アームで、双腕システムが6,500ドル。一方でNVIDIAのLes Karpasは、ロボットはまだ「ChatGPTの瞬間」を待っている段階だと語る。