リコーが2026年10月20日、日本語向けセーフガードモデルの改良版を発表。Gemma 4をベースに小型化し、入出力の安全性判定と業務での使いやすさの両立を目指す。
30秒でわかる / THE SIGNAL
企業のAI活用では、危険な入出力を防ぐことと、問題のない業務まで妨げないことの両立が重要。リコーの新モデルは評価上おおむね従来水準を維持したが、実運用での安全性は別途検証が必要だ。
AIの安全対策、厳しくすればよいわけではない
企業で生成AIを利用するとき、情報漏えいや不適切な回答への対策は欠かせない。しかし安全性を重視するあまり、問題のない質問まで制限してしまうことがある。例えば、セキュリティ担当者が業務上必要なリスク分析を依頼しても、AIが危険な質問だと判断して回答を拒否する場合だ。安全性と業務での使いやすさ。この二つをどう両立させるかは、企業のAI活用における重要な課題になっている。
リコーが日本語向け安全対策モデルを刷新
2026年10月20日、リコーは日本語向けセーフガードモデルの改良版を発表した。セーフガードモデルとは、AIへの入力やAIが生成した回答について、有害な内容が含まれていないかを判定する仕組みだ。今回のモデルはGoogleのGemma 4（gemma-4-E4B-it）をベースに開発された。リコーによると、従来モデルと同等水準の判定性能を維持しながら小型化し、必要な計算資源を減らした。これにより、企業内のサーバーなど計算資源に制約がある環境でも導入しやすくなる可能性がある。
安全性の評価結果は？
リコーは新旧モデルの比較結果を公表している。入力内容の安全性を判定するF1スコアは0.891から0.900に改善した。一方、AIが生成した回答を判定するF1スコアは0.952から0.942へわずかに低下している。F1スコアは適合率と再現率の調和平均で、分類性能を評価する指標だ。今回の結果は、モデルを小型化しても安全性判定性能がおおむね維持されたことを示す。ただし入力用評価データは476件、出力用は508件で、実際の業務での誤判定率や安全性を保証するものではない。
企業ごとのルールにも対応
新モデルは13種類の一般的な有害カテゴリーに加え、企業独自の判定ラベルを追加できる。例えば社内のAI利用方針に合わせて、特定の種類の質問や回答を分類する使い方が考えられる。追加学習なしで判定ラベルを設定できる点も特徴だ。ただしラベルを追加できることと、機密情報の流出を完全に防止できることは別の話になる。リコーは2026年11月から「RICOH オンプレLLMスターターキット」に新モデルを順次標準搭載する予定だ。
管理職が考えたいAI利用ルール
ここからはWORK SIGNALの考察だ。企業のAI利用ルールを考えるとき、「禁止するか、許可するか」という二択になってしまうことがある。しかし実際には業務によってリスクが異なる。公開情報の要約と、顧客の個人情報を扱う業務では必要な管理方法も違う。大切なのはAIの利用を一律に制限することではなく、業務内容と情報の重要性に応じて管理方法を設計することだ。今回の技術は、そうした柔軟な管理を実現するための選択肢になる可能性がある。
AIの安全性と生産性を両立できるか
AIの安全対策は導入して終わりではない。判定が厳しすぎれば業務に必要な情報まで利用できなくなる。反対に判定が緩すぎれば情報管理上のリスクが高まる。今回の発表は、AIの安全性を高めるだけでなく、必要な業務を妨げない仕組みづくりにも目を向けたものだ。今後は実際の企業環境での判定精度や運用負担、導入費用などを確認していく必要がある。出典：リコー公式ニュースリリース（2026年10月20日） https://jp.ricoh.com/release/2026/1020_1