2026年01月15日

## 要約:
この論文では、従来のTransformerモデルに代わる新しい言語モデル「Spectral Generative Flow Models (SGFMs)」を提案しています。SGFMsは、物理学の法則に基づいてテキストや動画を連続的な場として扱い、局所演算やスペクトル射影を用いて生成プロセスをモデル化します。これにより、長距離の依存関係を捉え、多岐にわたるデータへの対応と、物理的な構造に基づく先入観を組み込むことを目指します。
---
## 翻訳:
arXiv:2601.08893v1 Announce Type: new
Abstract: 我々は、Transformerベースの大型言語モデルの物理学に着想を得た代替案であるSpectral Generative Flow Models (SGFMs) を紹介します。テキストや動画を注意メカニズムによって処理される離散的なトークンのシーケンスとして表現する代わりに、SGFMsは、多重スケールウェーブレット基底における制約付き確率的ダイナミクスによって制御される連続的な場の進化として生成を扱います。この定式化は、グローバルな注意を、局所演算、スペクトル射影、Navier--Stokesのような輸送に置き換えます。これにより、連続性、幾何学、物理構造に根ざした生成メカニズムが実現されます。
我々のフレームワークは、以下の3つの主要な革新性を提供します。(i) テキストと動画が確率偏微分方程式の軌跡として統合される場理論的本体論;(ii) スパース性、スケール分離、および計算効率を誘導するウェーブレット領域表現;(iii) 安定性、一貫性、不確実性伝播を施行する制約付き確率的フロー。これらの構成要素は、自己回帰モデリングや拡散ベースのアプローチとは根本的に異なる生成アーキテクチャを定義します。SGFMsは、次世代の生成モデルにおける長距離の整合性、多峰性汎用性、および物理的に構造化された誘導バイアスに向けた原理的な道筋を提供します。
[📰 原文はこちら](https://arxiv.org/abs/2601.08893)
---
※本記事はAI(Ollama)による自動翻訳・要約です。
BittensorManがお勧めするメーカーリスト
https://exbridge.jp/xdirect/
AI時代の技術と知識のまとめ(AI生成メディア) - AIDexx
https://exbridge.jp/aidexx/
頑張って働く人に向けて、プロ用仕事アイテムを格安でネット販売しているX-Direct( https://exdirect.net )を、BittensorManは応援しています。
動画の最後にお得な情報がありますので、
最後までご覧ください。