ページ

2026年2月23日月曜日

クローズ確率と次トークン予測におけるスケール則

#aidexx #news

2026年02月23日




## 要約:
大規模言語モデルは、人間の読書行動の予測において優れた能力を発揮する。その理由は、語彙の共起統計に左右されにくく、意味的に人間のクローズ応答とより整合性が取れているためである。大規模モデルは、記憶容量の増加により、より適切な単語を推測する能力を持つ一方で、単語認識に関わる低レベルの情報への依存度は低くなる。

---

## 翻訳:
arXiv:2602.17848v1 Announce Type: new
Abstract: 最近の研究では、大規模言語モデルは、眼球運動や読書時間データに対する予測能力が向上していることが示されています。最良のモデルでさえ、人間の応答に割り当てる確率質量を過小評価していますが、大規模モデルは、語彙の共起統計に影響されにくく、人間のクローズ応答に対して意味的により整合性の取れた次トークンとその生産確率のより高品質な推定値を提供します。
この結果は、大規模モデルのより大きな記憶容量が、より意味的に適切な単語を推測するのに役立つという主張を裏付けていますが、単語認識に関わる低レベルの情報への感受性を低下させます。

[📰 原文はこちら](https://arxiv.org/abs/2602.17848)

---

※本記事はAI(Ollama)による自動翻訳・要約です。

BittensorManがお勧めするメーカーリスト
https://exbridge.jp/xdirect/

AI時代の技術と知識のまとめ(AI生成メディア) - AIDexx
https://exbridge.jp/aidexx/

頑張って働く人に向けて、プロ用仕事アイテムを格安でネット販売しているX-Direct( https://exdirect.net )を、BittensorManは応援しています。

動画の最後にお得な情報がありますので、
最後までご覧ください。

Anthropicが放つClaude Opus 5の衝撃と、AIデータセンターを襲う電力インフラの脆弱性 07-26

本記事はHorizonを使いAI/LLM・バイブコーディング・Web3・スタートアップのニュースを自動収集・要約したものです。 Anthropicが放つClaude Opus 5の衝撃と、AIデータセンターを襲う電力インフラの脆弱性 Anthropicが新モデル「Cla...