NVIDIA、AIエージェントの実行を管理する安全基盤を公開

ニュースの要点

米NVIDIAは2026年9月28日、AIエージェントの実行を管理する「Open Agent Safety Platform」を発表しました。AIエージェントは、指示に従って外部のソフトウェアを操作し、仕事を進めるAIです。新基盤は、こうしたAIの権限や動作を、モデルの外側から制御します。

構成要素の一つである公開ソフトウェア「OpenShell」は、一般提供を開始しました。別の構成要素「Sentry」は、NVIDIAの半導体を使って独立した監視を行うシステムの参照設計です。AnthropicやSalesforce、SAPなどとの連携も発表しています。

同社は、AIの誤操作などによる業務上の損害を防ぐため、実行できる範囲を外部から制限する仕組みを提供します。今回の発表では、導入料金や各連携製品の提供条件、日本での個別の販売計画は示していません。

ニュース出典：NVIDIA「NVIDIA Launches Open Agent Safety Platform to Secure Agents From Testing to Deployment」（2026年9月28日）

---

イノベーション総研の考察

仕事を速く進めるAIほど、間違った操作も速く実行してしまう可能性があります。今回の発表は、AIサービスの価値を判断するとき、回答の質とは別に「どこまで任せ、誰が止めるか」を考える必要性を示しています。

AIが操作する仕事では、回答の正しさだけでは足りない

文章を作るAIなら、人が読んでから相手へ送る使い方ができます。これに対し、顧客情報の更新やプログラムの変更まで任せるAIでは、誤った判断が、そのまま実際の操作へつながります。提案を間違えるリスクと、操作を間違えるリスクは分けて考える必要があります。

例えば、顧客への返信を作るサービスで、文章案の作成だけを許すのか、送信まで許すのかによって、必要な対策は異なります。さらに返金や顧客データの削除まで扱うなら、誰の承認が必要で、どの記録を残すかも決めなければなりません。これは想定例であり、今回発表された個別機能の説明ではありません。

AIサービスの採用条件には、回答精度に加えて、実行できる操作を限定し、止められることが含まれます。

NVIDIAは今回、モデルの外側で実行を制御する仕組みを打ち出しました。AIへの指示文を工夫するだけでなく、仕事を実行する環境にも制約を設ける考え方です。担当者の方が商用化を検討する際にも、精度の評価だけで導入可否を決めない視点になります。

OpenShellと独立監視を組み合わせ、制御をAI任せにしない

OpenShellは、AIが動く際のルールを外部で適用するソフトウェアです。Sentryは、AIが仕事を進める計算環境とは別の場所から動作を監視する参照設計として示されています。どちらも「AI自身が指示を守っていると答えたから安全」と判断する方式とは異なります。

この組み合わせからは、AIの判断能力と、その判断に与える権限を分離しようとする狙いが読み取れます。例えば、人の担当者にも、情報を見る権限と、契約を承認する権限を別に与える場合があります。同様に、AIへ与える権限を業務上の役割に合わせて限定する考え方です。

AIの能力を高めることと、AIに与える権限を広げることは、別々に判断できます。

ただし、仕組みを導入すれば、あらゆる誤動作を防げるとまでは言えません。ルールが緩ければ危険な操作を通し、厳しすぎれば正常な仕事まで止めます。安全性と作業の完了率を、実際の利用条件で一緒に確かめる必要があります。

業務ソフトとの接続が、安全機能を購入理由に変える

NVIDIAは、Anthropicのエージェント実行環境や、SalesforceのSlack、SAPの業務AIとの連携を挙げています。安全の仕組みだけを単独で用意しても、利用企業が日常使う道具につながらなければ、現場へ広げにくいためです。

ここからは、安全性を技術仕様として説明するだけでなく、担当者が確認し、承認し、必要なら止める仕事の流れへ組み込む方向が見えます。AIを売る企業にとっても、導入先の管理者が運用できることが、継続利用の理由になり得ます。

安全機能は、利用企業の確認・承認・記録の仕事につながって初めて、継続利用を支える価値になります。

一方、発表に提携企業が多いことと、顧客が採用して成果を得ていることは同じではありません。自社で同種のサービスを導入するなら、使う業務ソフトとの接続範囲、追加設定、障害時の問い合わせ先まで確かめるべきです。管理の負担が大きければ、導入効果を打ち消す可能性があります。

自社の試験では、禁止操作と承認待ちを一緒に測る

担当者の方が業務代行AIの事業をつくる場合、最初の試験は対象業務を一つに絞ると比較しやすくなります。例えば、社内文書の更新なら、閲覧、下書き、公開を分け、AIに許可する操作と、人が決裁する操作を先に決めます。

試験では、禁止した操作を防げたかだけでなく、正しい操作が何回止まり、人が何分対応したかも記録します。人が毎回確認し直す必要があるなら、見かけ上の処理速度が上がっても、仕事全体は速くならないからです。

業務AIの試験では、誤操作の防止と、人の承認負担を含む仕事全体の改善を同じ表で測ります。

次の観測点は、連携先での具体的な提供条件と、導入企業の運用実績です。安全性、完了率、確認工数、費用を従来の方法と比較できれば、この基盤が商用化を進めるのかを判断できます。発表段階の連携数だけを、導入成功の証拠にはしないことが大切です。

まとめ

NVIDIAの新基盤は、AIに仕事を任せる際の権限管理と監視を、モデルの外側へ置くものです。自社への示唆は、AIの性能向上と権限拡大を切り離すことにあります。実行できる仕事、人の承認、停止後の対応を定め、正確さと運用負担の両方から商用化を判断する必要があります。

---

関連記事：アカマイとAnthropicのクラウド提携 ／ 日立HMAXのデータ基盤

執筆：イノベーション総合研究所