今日の注目トピック

攻撃役GPT-Redが新しい注入手口を作り、防御役が業務を続けながら拒めるよう自己対戦で更新する
AI SafetyPrompt InjectionRed TeamingReinforcement Learning

GPT-Red、自己対戦でprompt injectionへの耐性を鍛える

OpenAIは、攻撃役GPT-Redと防御役モデルを同時に強化する自己対戦RLを紹介しました。GPT-Redはファイル、Webページ、メール、tool出力などに混ぜるprompt injectionで防御側の失敗を引き出すよう学習し、その生成攻撃をGPT-5.6の訓練に使ったと説明します。発表値ではGPT-5.6 Solは最も難しい直接注入ベンチマークの失敗が4か月前の最良production model比で6分の1となり、能力低下や過剰拒否も見られなかったとしています。

なぜ重要か

agentの安全性は静的な禁止規則では維持できません。攻撃手法、接続するtool、業務フローが変わるたびに、機能を壊さず失敗率を測る継続的なred teamingが必要です。

読むべき人
AI agent基盤担当、セキュリティエンジニア、LLM評価担当
Inkling: Our open-weights model
Thinking Machines Lab
Open WeightsMixture of ExpertsMultimodalFine-tuning

Inkling、975B総パラメータ・41B activeの公開重みモデルを発表

Thinking Machines Labは、975B総パラメータ・token当たり41B activeのMixture-of-ExpertsモデルInklingを公開しました。text・image・audioを扱い、最大100万tokenのcontextを掲げ、重みはHugging Faceで提供、Tinkerではfine-tuningを利用できます。評価と性能比較は発表元の実施で、全体最強を主張するのではなく、multimodal性、制御可能なthinking effort、カスタマイズ可能性を公開重みの基盤モデルとしての主眼に置いています。

なぜ重要か

公開重みモデルを採用する判断では、モデルの総サイズよりactive parameter、context時の実メモリ、推論・更新基盤、追加学習後の安全性が効きます。カスタマイズ可能性を価値にするには、固有タスクの評価を先に持つ必要があります。

読むべき人
LLM基盤担当、MLエンジニア、オンプレミスAIを検討するチーム
HN
533 points / 132 comments
usernameがgetentのoptionとして解釈され、nonroot ACLを越えてroot sessionを開く経路がTailscale 1.98.9で塞がれた
SecurityTailscaleSSHAccess Control

Tailscale SSHの引数解釈でACLを越えroot session、1.98.9で修正

TailscaleはTS-2026-009として、Linux上のTailscale SSHで先頭がハイフンのusernameをgetentへ渡すとoptionとして解釈され、ACLのroot制限に反してroot sessionを開けた脆弱性を公表しました。影響を受けるのは、Tailscale SSHとautogroup:nonrootの制限に依存するLinux nodeで、攻撃者には当該nodeへのSSH accessが必要です。同じ1.98.9ではServe/Funnelの非絶対pathによるCPU core占有や、Servicesのloopback listener露出も修正されています。

なぜ重要か

外部入力をOS commandへ渡す境界では、認可済みの値でもoption解釈が別の権限経路を作ります。更新とともに、ACLが守る前提を実装とテストで再確認する必要があります。

読むべき人
インフラ/SRE、ネットワークセキュリティ担当、Tailscale管理者
HN
209 points / 143 comments
The Memory Heist
Ayush Paul
Prompt InjectionAI AgentsData ExfiltrationMemory

ClaudeのmemoryとWeb閲覧をつないだprompt injectionの流出報告

研究者Ayush Paulは、claude.aiのWeb閲覧に悪性ページを渡し、会話memoryから得た氏名・勤務先などをURL遷移の列として外部serverへ送らせたと報告しました。記事によればAnthropicへHackerOne経由で開示済みで、外部ページ上のlink追跡をweb_fetchから外す緩和が実施されたとしています。この再現は報告者の検証であり、対象はClaude Codeではなく日常向けassistant、緩和後の残余リスクも含め公式の状態確認が必要です。

なぜ重要か

prompt injectionは秘密を直接表示させなくても、agentのnavigationやtool callを通信路にできます。private contextの検索権限、untrusted contentの読取り、外部への送信を同一の信頼境界に置かないことが重要です。

読むべき人
AI agent利用者、セキュリティエンジニア、SaaS管理者
HN
597 points / 279 comments
native WaylandとX11の差は0.14〜0.22msに収まり、XWayland経由が最大3.13msの遅延を追加した
LinuxWaylandX11LatencyDXVK

Linux入力遅延の実測、差の主因はWayland本体よりXWayland経由

Marco NettはUSB clickから画面の明るさ変化までを測る装置で、500Hz表示・RTX 4070 SUPER・Diaboticalという条件下のX11、native Wayland、XWayland、VRR、DXVKを比較しました。native WaylandはX11より中央値で0.14〜0.22ms遅い一方、XWaylandはnative Waylandより最大3.13ms遅く、VRRは0.26〜0.45ms短縮しました。単一hardware・software stackの測定ですが、体感論ではなくend-to-end経路を分解した点が実用的です。

なぜ重要か

性能改善は平均値ではなく利用者が感じるend-to-end経路で判断すべきです。native経路と互換layerを分けて測ると、最適化対象と効果の大きさを混同せずに済みます。

読むべき人
Linuxデスクトップ開発者、ゲーム/グラフィックスエンジニア、性能検証担当
HN
390 points / 280 comments