ページ

2026年1月29日木曜日

次トークン予測を左ネスト型直観論理帰結としてモデル化

#aidexx #news

2026年01月29日


## 要約:
本研究では、次トークン予測を直観論理の帰結として捉えることで、Arrow Language Modelという新しいニューラルアーキテクチャを提案します。トークンを単なるベクトル表現ではなく、非可換な構成に基づいて順序を保持する「左ネスト型帰結鎖」として表現することで、従来のモデルとは異なるアプローチを可能にします。このモデルは、既存のトランスフォーマーや状態空間モデルの代替となる可能性を秘めています。

---

## 翻訳:
arXiv:2601.19915v1 Announce Type: new
概要:次トークン予測の直観論理解釈に由来するニューラルアーキテクチャであるArrow Language Modelを導入します。トークンをアテンションによって混合された加法的な埋め込みとして表現する代わりに、プレフィックスを非可換な構成によって順序を維持する左ネスト型帰結鎖として符号化します。次トークン予測はmodus ponensに対応し、シーケンス処理は Curry--Howard 対応関係のもとでの構成的な証明の拡張になります。Prolog ベースの専門的な定理証明器は、ニューラルモデルの基本的な特性を検証し、可換 vs. 非可換なシーケンスと単一トークン vs. 複数トークン予測の選択の間の関係を含みます。次トークン予測をネストされた直観論理帰結として解釈することで、乗法的 RNN に相当するニューラルアーキテクチャが自然に生じることを示し、実用的な低ランクニューラル実装を提示し、モデルをトランスフォーマーおよび状態空間モデルに対して位置づけます。
キーワード:論理ベースのニューラルアーキテクチャの導出、直観論理帰結、トークンを演算子とするニューラルモデル、状態空間モデル、トランスフォーマーベースの基礎モデルの代替手段。

[📰 原文はこちら](https://arxiv.org/abs/2601.19915)

---

※本記事はAI(Ollama)による自動翻訳・要約です。

BittensorManがお勧めするメーカーリスト
https://exbridge.jp/xdirect/

AI時代の技術と知識のまとめ(AI生成メディア) - AIDexx
https://exbridge.jp/aidexx/

頑張って働く人に向けて、プロ用仕事アイテムを格安でネット販売しているX-Direct( https://exdirect.net )を、BittensorManは応援しています。

動画の最後にお得な情報がありますので、
最後までご覧ください。

SpaceXのIPO申請書、AIへの投資、Starship構想、そしてイーロン・マスクが中心に

#aidexx #news 2026年05月21日 ## 要約: SpaceXはついにIPO申請書を公開し、史上最大の規模のIPOが予定されています。 この申請書には、AI技術への投資やStarship構想に関する記述が含まれています。 IPO実現により、イー...