2026年01月09日
## 要約：
医療MLLMの安全性研究が遅れており、その脆弱性が問題視されている。本研究では、多次元評価フレームワークを用いて既存モデルの安全性をベンチマークし、安全性への介入手法を提案。パラメータ空間から安全知識を抽出し、医療能力構築時に注入することで、安全性と医療性能の両立を実現した。
---
## 翻訳：
arXiv:2601.04199v1 新規発表概要：医療多様性大規模言語モデル（医療MLLM）は、専門的な医療タスクにおいて目覚ましい進歩を遂げていますが、その安全性に関する研究は遅れており、現実世界の展開における潜在的なリスクを孕んでいます。本論文では、まず多次元評価フレームワークを確立し、現在の最先端医療MLLMの安全性を体系的にベンチマークします。実証分析の結果、既存モデルには、一般的な安全性と医療特有の安全性両方の側面において、広範囲にわたる脆弱性が存在する事が明らかになり、特にクロスモーダリティでの脱獄攻撃に対する脆弱性が顕著です。さらに、医療ファインチューニングプロセスがモデルの元の安全性の整合を破滅的に忘却させる事が分かっています。この課題に対処するため、効率的な安全性再整合のための新しい「パラメータ空間介入」アプローチを提案します。この方法は、元の基本モデルから内在的な安全知識表現を抽出し、同時に医療能力構築中にターゲットモデルに注入します。さらに、安全性と医療性能の最適なトレードオフを達成するために、きめ細かいパラメータ検索アルゴリズムを設計しています。実験結果は、当のアプローチが追加のドメイン固有の安全データに依存せずに、医療MLLMの安全ガードレールを大幅に強化し、コア医療性能の低下を最小限に抑えることを示しています。
[📰 原文はこちら](https://arxiv.org/abs/2601.04199)
---
※本記事はAI（Ollama）による自動翻訳・要約です。
BittensorManがお勧めするメーカーリスト
https://exbridge.jp/xdirect/
AI時代の技術と知識のまとめ(AI生成メディア) - AIDexx
https://exbridge.jp/aidexx/
頑張って働く人に向けて、プロ用仕事アイテムを格安でネット販売しているX-Direct（ https://exdirect.net ）を、BittensorManは応援しています。
動画の最後にお得な情報がありますので、
最後までご覧ください。
