さくらインターネット、PFN、NICTは2026年10月14日、生成AIを継続的に評価・改善する「能動的評価基盤」の社会実装に向けて連携を強化すると発表しました。危険な質問を自動で作り、AIの回答を評価するだけでなく、問題の改善に使う学習データも自動で作る仕組みです。現段階では一部の試作版が動き始めており、利用企業向けの一般提供を始めたという発表ではありません。
固定のテストだけに頼らず、危険な回答を探す
能動的評価基盤は、NICTが開発する、大規模言語モデル(LLM)の安全性・信頼性を評価するシステムです。評価対象として、差別的な表現、犯罪を助長する回答、誤情報、日本の文化や法令との不整合などを想定しています。
NICTによると、AIへの質問や指示に当たるプロンプトのうち、危険性の高いものを自動生成します。その質問に対するAIの応答も自動評価し、結果の提示と改善用の学習データの合成まで行います。
三者が課題として挙げるのは、あらかじめ決めた問題集だけでAIを評価する方法です。評価用の質問を事前に学習すると、高評価を得られる可能性があります。また、固定した評価用データベースでは、新たなリスクや社会の変化を捉えにくいとしています。
NICTは約20年間収集した日本語Webデータや多様なAIを使い、評価手法を開発・改良します。LLMの出力とWeb情報を照合して矛盾などを検知する「WISDOM-CE」と、危険な応答のリスクを判定して理由も示す「WISDOM-AR」などを、将来統合する予定です。
さくらのAI Engineで試験適用を検討
さくらインターネットは、発表でいう「来年度中」の運用開始を目指します。「さくらのAI Engine」で扱う国内外のLLM群への試験的な適用検討を始め、評価基盤の課題と評価結果の妥当性を検証します。評価結果の妥当性を継続して確かめる方法も検討します。
PFNはNICTと連携し、日本語性能や安全性の向上を目指す国産LLMを開発します。共同研究を「PLaMo 3.0 Prime」の後継モデル開発につなげ、同モデルと後継モデルを評価基盤に組み込む方針です。さくらインターネットは、後継モデルなどを「さくらのAI Engine」で展開する予定です。
NICTは評価基盤の高度化を本格的に始め、さくらインターネットへ技術提供します。ただし、利用企業が評価基盤を使うための料金、申込方法、管理画面、対象プランは発表には書かれていません。運用開始の目標と、一般利用の開始日は分けて捉える必要があります。
影響する会社・しない会社
- 影響する: 「さくらのAI Engine」の国内外LLMを利用する会社です。試験適用の検討対象ですが、どのモデルや利用者が対象になるかは発表には書かれていません。
- 影響する: PLaMo 3.0 Primeを利用する、または後継モデルを検討する会社です。評価基盤への組み込み方針と後継モデルの開発が示されました。ただし、既存モデルの性能が直ちに変わるという発表ではありません。
- 影響しない: 今回の発表による即時の設定変更や移行を求められる会社は、発表上は示されていません。既存サービスの停止や切り替え期限も記載されていません。
- 影響しない: それ以外のLLMやサービスについて、対象外と断定できる条件は発表には書かれていません。国内外のLLM群への適用検討を、すべての生成AIへの適用と読み替えないことが重要です。
情シスが今日やること
- 社内の生成AI利用台帳や契約資料で、「さくらのAI Engine」とPLaMo 3.0 Primeの利用有無を確認します。利用している場合は、モデル名と利用部署を記録します。今回の機能を確認できる管理画面や設定箇所は、発表には書かれていません。
- 利用部署と開発担当者に、今回は試験適用の検討と開発方針の発表であり、評価機能が全利用者に提供されたわけではないと共有します。後継モデルの採用を前提にした計画があれば、提供時期や条件が未公表である点も伝えます。
- 次の導入判断までに、社内のAI評価項目を整理します。今回示された差別的表現、犯罪を助長する回答、誤情報、文化・法令との不整合を確認候補とし、各部署の業務でどの回答が問題になるかを担当者とすり合わせます。
- 試験参加や後継モデルの採用を決める前に、公式発表で対象モデル、利用条件、料金、開始時期を確認します。評価結果の妥当性自体も検証段階のため、評価基盤を使うことと、自社業務で採用できることは分けて判断します。
