2026年02月04日
## 要約：
大規模言語モデルの毒性テキスト生成問題を、学習やモデルの再トレーニングなしで解決する手法を提案。入力情報に基づき、モデルの出力の毒性を低減させる手順を用いることで、安全性と品質のバランスを最適化。この手法は、モデルやプロンプトに依存せず、ブラックボックス環境でも有効に機能する。
---
## 翻訳：
arXiv:2602.02498v1 で新しいタイプのアナウンス：大規模言語モデルは、無害な入力に対しても毒性や不適切なテキストを生成する可能性があり、大規模な展開にはリスクをもたらします。そのため、モデルの生成品質を犠牲にすることなく有害コンテンツを削減するためには、デトックスが重要です。既存のアプローチの多くは、モデルの再トレーニング、勾配、または学習済み補助コンポーネントに依存しており、これらはコストがかかり、モデルファミリー間または真のブラックボックス環境に転送できない可能性があります。私たちは、入力埋め込みに対しての補完毒性の勾配を近似し、少数の降下ステップを使用して、より毒性の低い補完を誘導するテスト時間の手順を紹介します。これは、入力埋め込み、毒性スコアリング関数、およびモデルの順伝播評価のみが必要なゼロ次の最適化によって実現されます。実証的に、このアプローチはモデルやプロンプト全体で堅牢な毒性削減を実現し、ほとんどの設定で最高の毒性-品質トレードオフを達成します。より広く見ると、私たちの仕事は単語埋め込みを効果的な制御変数として位置づけ、ブラックボックス最適化をより広く使用して、スケーラブルで安全なテキスト生成を誘導することを奨励します。これには、トレーニングや中間計算へのアクセスを必要としません。
[📰 原文はこちら](https://arxiv.org/abs/2602.02498)
---
※本記事はAI（Ollama）による自動翻訳・要約です。
BittensorManがお勧めするメーカーリスト
https://exbridge.jp/xdirect/
AI時代の技術と知識のまとめ(AI生成メディア) - AIDexx
https://exbridge.jp/aidexx/
頑張って働く人に向けて、プロ用仕事アイテムを格安でネット販売しているX-Direct（ https://exdirect.net ）を、BittensorManは応援しています。
動画の最後にお得な情報がありますので、
最後までご覧ください。
