社外秘を隠して外部AIを活用。難しさに応じてモデルを選んで利用料も低減、NECが月100万円から提供

NECは、社内のAI利用をすべて1か所に通し、機密情報を自動で隠したうえで、仕事の中身に合ったAIモデルへ振り分ける仕組み「cotomi Gateway」を11月から提供します。ソフトウェア版は月額100万円（税別）からで、その後SaaSとしても順次提供する予定です。

既存のシステムやアプリとはAPIでつなぎ、社員やシステムからのAIへの問い合わせがこのゲートウェイに届くと、ゲートウェイは中身を見て機密情報を自動で検出し、マスキング（伏せ字）にして外部のAIモデルへ送ります。マスキングすると処理できなくなる業務は、外部に出さず、社内（オンプレミス）で動くAIモデルで処理する仕組みです。

AIの利用料は二段構え削減します。まず機密性、タスクの難しさ、求める回答の質、コストを総合的に評価して、使うAIモデルを自動で選びます。簡単な質問に高性能なモデルを使わないことで費用を抑えます。次に、プロンプトの冗長な部分や不要な情報を削ってから送り、トークン（AIの利用量の単位）の消費を減らします。この判断には軽い回帰モデルや統計モデルを使い、プロンプトの中身だけでなく、過去の利用履歴、会話の流れ、キャッシュの状況も考慮するとのこと。

利用実績やコスト削減の効果は、ダッシュボードでリアルタイムに確認できます。NECの「AI Platform Service」の一機能という位置づけで、コンサルや構築を含む「BluStellar Scenario」にも組み込みます。