米国発AIセキュリティを、日本企業の現場へ――SMBCグループが描く安全なAI活用の道筋

SMFG／JRI America 安河内私が所属するSVラボでは、AIをはじめとする先端技術の動向を日々追っています。その中で強く感じるのは、AIの普及に伴い、企業が向き合うセキュリティ課題も変わり始めているということです。

多くの企業がAIを導入し、「この使い方はOK、これはNG」といった社内ルールを設けています。しかし、現場におけるAIの利用状況をすべて把握し、社内ルールに沿って適切に運用することは簡単ではありません。かといって、AIの利用をすべて禁止することも現実的ではありません。

SVラボでは、日本企業においても今後、AI利用の可視化や社内ポリシーとの整合性が重要な論点になると見ています。AI活用を止めるのではなく、安全に使える環境をどのように整えるか。こうした課題仮説をもとに、米国発のAIセキュリティ動向を継続的に調査しています。

そこで重要になるのが、ユーザーがAIに「何をさせようとしているのか」を読み取る視点です。これは、ユーザーの意図（intent）を踏まえてリスクを見極めるintent-based securityと呼ばれる考え方です。決まったキーワードを機械的にはじくのではなく、入力の意味や文脈まで読み取ってリスクを判断します。

例えば、「顧客情報を外部AIに入力してはならない」という社内ルールがあるとします。ある社員が「A社の担当者は来期の予算確保に慎重で、既存システムとの連携を懸念している。提案メモを作って」と入力した場合、文面には「顧客情報」というキーワードは含まれていません。

それでも、内容を踏まえれば、顧客との商談に関する情報が入力されていると判断でき、社内ルールに照らし、警告やブロックの対象とする必要があるでしょう。このように、キーワードだけではなく、意味や文脈を踏まえて判断することが、これからのAIセキュリティでは重要になります。

米国では、このようなintent-based securityへの関心が高まっています。そして、これを具体的なソリューションとして提供している企業の一つが、WitnessAI社です。

WitnessAI Rick私たちのミッションは、企業がAIを安全に、最大限に活用できる環境をつくることです。

AIの利用が部門や個人単位で広がるほど、企業は「誰が、どのAIに、どのような情報を入力し、何をさせようとしているのか」を把握しにくくなります。WitnessAIは、ユーザーの意図や入力内容の文脈を踏まえてリスクを判断し、必要に応じて検知・制御・記録することで、企業がAIを安全に活用し続けるためのガードレールを提供しています。

SMFG／JRI America 安河内SVラボでは、投資先に限らず、米国で生まれる技術をお客さまの課題に照らして見極めています。WitnessAI社との接点は、Atlasによる投資で生まれましたが、同社が扱うAIの安全な業務利用は、今後重要なテーマになると考えました。

そこで、同製品を日本国内で提供できる可能性を検討するため、SMBCグループのSIerであるJSOLと協議を始めました。

JSOL 山添お客さまからも、AIを業務で活用したいものの、「社員がどのAIツールをどの業務で使っているのか分からない」「社内ルールを設けても、現場でどこまで守られているか把握できない」といった相談が増えています。

従来のサイバーセキュリティがネットワークや端末、クラウドを守るものだとすれば、これからは、AIがどのように使われているのかを把握し、その利用自体を安全に保つという視点も必要になります。

WitnessAI社から製品の説明を受けた際、こうしたAI利用の可視化や制御という考え方が、具体的な機能として実現されている点に注目しました。

JSOLでは、お客さまのAI活用をめぐる課題の解決に貢献できると判断し、WitnessAI社とリセラー契約を締結しました。ただし、新しい技術をお客さまの業務環境に適用するには、製品への理解だけでは十分ではありません。例えば、既存のセキュリティ製品との連携や、情報管理ルールとの整合性、AI利用ログを取得・保存する範囲、既存の認証・監査・運用プロセスとの接続など、導入前に整理すべき論点が多数あります。

現在は、JSOL自身が最初の利用者である「カスタマーゼロ」となり、WitnessAIの社内導入を進めています。実際の運用を通じてこうした論点を検証しながら、お客さまへの提供や導入支援に生かせる知見、運用ノウハウを蓄積しているところです。

SMFG／JRI America 安河内Atlasによる投資をきっかけに接点が生まれてから、およそ4カ月で、日本国内のお客さまへの提供体制を整えました。米国で生まれた新しいAIセキュリティの考え方を、導入を具体的に検討できるソリューションとして、お客さまに届けられる段階に入っています。

WitnessAI RickAIを取り巻くリスクは、今後も形を変えながら増えていきます。重要なのは、リスクが変化していくことを前提に、企業がAIを業務に組み込める環境を整えることです。WitnessAIは、AIセキュリティの最前線で得られる知見を、企業の現場で実装できる形へと落とし込み、業務で機能するセキュリティとして提供していきます。

SMFG／JRI America 安河内SMBCグループは今後も、米国で生まれる最先端の技術や考え方を見極め、日本企業の課題に合う形で取り入れ、実装につなげていきます。単なる技術紹介にとどまらず、グループ各社が連携し、検証から導入までを一貫して支援することで、日本企業の安全なAI活用に貢献していきたいと考えています。