今日の注目トピック

推論の中核を公開。キャッシュ管理や負荷分散はサービス側で補う必要
LLM推論GPUオープンソース

DeepInfer、推論エンジンを公開しサービス側の未同梱部分を明示

これは何?DeepInferは、大規模言語モデルの計算と生成処理を実行する、DeepSeekの推論フレームワークです。

DeepSeekはV4.1-Flash向けのオフライン推論実装をApache 2.0で公開しました。非同期スケジューリングや構造化出力、NVIDIA限定のバッチ構成に依存しない推論などを備えますが、KVキャッシュシステム、処理段階の分離運用、レプリカ間の負荷分散は完全なサービスに必要な未同梱要素です。

なぜ重要か

モデル実行の最適化と、可用性を持つ提供基盤の完成度を分けて評価できます。対応機材はNVIDIA SM100とHuawei Ascend 950で、一般的なGPU環境への適用は別途確認が必要です。

読むべき人
ソフトウェア開発者・運用担当者
HN
2041 points / 800 comments
Rust移植を共同開発。初期性能と上流互換性を両立する方針
TypeScriptRustWasm

tsrs、TypeScriptとの互換性を保つRust移植を共同開発

これは何?tsrsは、TypeScriptコードの型を検査するコンパイラーをRustへ移植する実験的プロジェクトです。

CloudflareとVoidZeroはMax Schwenk氏と共同で、Oxc内でtsrsを育てる方針を発表しました。同数の型検査ワーカーによる初期評価ではTypeScript 7.0比で最大8倍の速度と約70%のメモリ削減を報告していますが、7.1 beta側も高速化しており、診断の出力順などの差異は残ります。

なぜ重要か

独自の言語仕様を追加せず上流へ追従する方針と、Wasm上での小さなメモリ負荷が焦点です。性能値は構成に依存し、実験版を安定版と同じ互換性で扱うことはできません。

読むべき人
ソフトウェア開発者・運用担当者
HN
299 points / 140 comments
障害試験で実行の消失や誤った完了を検出。重大問題の修正公開は5.5.6まで
分散システム障害試験ワークフロー

Jepsen、Orkes Conductorで未実行の完了判定などを検出

これは何?Orkes Conductorは、複数のタスクを順番や条件に従って動かし、実行状態を管理するワークフロー基盤です。

Kyle Kingsbury氏は5.3.2〜5.5.0-rc2の障害注入試験で、実行の永久放置・消失・未実行なのに完了となる3種類の重大な問題を報告しました。記事によるとOrkesは5.5.6までに全重大問題への修正を公開しましたが、Jepsenの実測対象は5.5.0-rc2までで、一部の開始APIエラーは調査中です。

なぜ重要か

DBとキューの部分的な書き込みが、実行状態と実作業の不一致を生みます。重複実行の頻度低減と完全な排除も区別し、副作用側の冪等性や順序を設計する必要があります。

読むべき人
ソフトウェア開発者・運用担当者
HN
45 points / 1 comments
24 CPUでも12並列が最速。計測とデータ再利用でテスト増加に対応
RailsCI性能改善

SmartBank、計測と並列数の見直しでRailsのCI時間を抑制

これは何?SmartBankのcore-apiはワンバンクを支えるRailsアプリで、RSpecのテストをセルフホストランナー上で並列実行しています。

nissyi氏とReliability委員会は、test-profによる計測、データ生成の再利用、test-queue、YJITなどの改善を報告しました。24 CPUのランナーでは28並列の364秒に対し12並列で259秒となり、テスト件数が2月比51.9%増えても低負荷時の実行時間を同等以下へ抑えました。

なぜ重要か

並列数をCPU数に合わせるだけでは、同居するMySQLとの競合を増やします。改善後も同時実行の増加による待ち時間は残り、単体の速度と基盤全体の安定性を分けて改善しています。

読むべき人
ソフトウェア開発者・運用担当者
はてな
11 bookmarks
amd64の仮想アドレス空間を512GBへ拡張。VMは最大64 vCPUに対応
OpenBSDOS仮想化

OpenBSD 8.0、カーネル仮想アドレス空間とVMのCPU対応を拡張

これは何?OpenBSDは、ネットワーク機能やセキュリティを重視するUnix系OSで、独自のカーネルと基本ツール群を提供します。

10月20日公開の8.0では、amd64のカーネル仮想アドレス空間を4GBから512GBへ拡張し、4GBを超えるVRAMのマッピングを可能にしました。仮想マシンは最大64 vCPUのマルチプロセッサーに対応し、arm64のハイバネーションやLinux 6.18.53由来のDRM更新も含みます。

なぜ重要か

アドレス空間の制約緩和がGPUメモリの扱いにもつながる更新です。仮想アドレス空間の値は物理メモリの最低要件ではなく、各機能の対応はアーキテクチャと機材ごとに確認します。

読むべき人
ソフトウェア開発者・運用担当者
HN
459 points / 153 comments