研究チームは、新しいアテンション機構の拡張である「LIMe」を発表しました。この技術により、モデルの層が前の段階の表現にアクセスできるようになり、精度を損なうことなくLLMのトレーニングに必要な計算量を15%削減することが可能になります。
Qwen3.5の内部に、機能的で決定論的なRISC-V CPUである「Qwenputer」が組み込まれました。この技術は、AIモデル内での高度な計算処理や特定のアーキテクチャへの統合において重要な進展となります。
NVIDIAは、プロンプトによって適応・調整が可能なインテリジェントな多言語文字起こしモデル「Nemotron 3.5 Transcribe」および「Granary v2」を発表しました。これにより、より柔軟で高度な音声認識・書き起こしワークフローが可能になります。
Qwen4において、最大100万トークンのコンテキストウィンドウをサポートする機能が注目されています。また、来週開催されるApsaraカンファレンスでもQwen4に関する詳細が発表される予定です。
この記事は要約版です。続き(残りの話題・実装の詳細)は元記事でどうぞ: