【Plug and Play × SMBCグループ シリコンバレー・デジタルイノベーションラボ】シリコンバレー投資家に聞くAIガバナンスを取り巻くグローバル動向 －生成AIの台頭で注目されるAI関連規制とAI市場への影響－

緒方グローバルにAI導入が進むなか、欧米諸国ではAIの利用に向けた法規制やルールが整備され始めています。各国の政策に共通するのはAIを利用する際のリスク管理や安全性検証、セキュリティ対策等のガバナンスに関連する一連の手順やプロセスの整備である印象を受けます。近年のAIに関連するグローバルの政策動向について、Amitさんが注目しているトレンドを教えてください。

AmitAIの法規制やルールは国ごとに異なるアプローチが取られています。例えば、EUのAI規制法は世界の中で最も包括的で厳格な法律と言えます。同法ではリスクベースアプローチがとられており、AIが社会に与える影響の大きさに応じてAIのリスクが分類され、AIによるリスクが高いほど規制が厳しくなる仕組みになっています。

EUのAI規制法で注目されるのは、AIを市場に投入する際に、AIモデルの透明性を証明する必要がある点です。具体的には、モデルを訓練するために使用したデータやモデルの評価、サイバー攻撃対策、エネルギー効率等に関する一連の情報を欧州委員会に報告することが義務付けられています。これに加え、同法では、EU域内において基本的権利を侵害するリスクのあるアプリケーションも禁止される可能性があります。例えば、医療や教育、政治的意見等に関する情報や生態認証データをAIに活用することは許可されていません。そして、これらの法規制はEU域内でAIを利用する全ての組織（EUに拠点を置く国外企業を含む）に一律に適用されます。AI規制法には、企業のイノベーションを支援する施策も一部含まれていますが、包括的かつ厳格な法規制である点を鑑みると、規制の順守に伴う負担の増加によって、むしろ企業のAI投資が妨げられ、欧州の国際競争力を損なう可能性がある点も懸念されています。※2

緒方多くの企業や投資家、スタートアップにとって、AI法規制への対応は、事業を立案・継続する上で欠かせない要素になりますが、各国の法規制がAI市場に与える影響について具体的に教えてください。

Amit現時点で規制の影響を評価するのは時期尚早だと思います。AIには未知の部分も多く、どの国にとっても法規制の整備は発展途上の段階だからです。EUのように中央集権的かつ厳格な規制が必要だという論調もあれば、バランスの取れたアプローチも必要だという議論もあります。各国が進めているAI規制がイノベーションにどのような影響を与えるかは10年後にならないとわかりません。

もっとも個人的な意見を申し上げると、厳しすぎる規制は、規制に対応できる潤沢な資産を保有する企業だけを市場に温存し、スタートアップを市場から排除してしまう可能性があると考えています。AIの実装によって起こりうるリスクを適切にコントロールしながら、イノベーションや市場成長を促す方法を模索していく必要があると思います。

実際にこれまでのデジタルの進展を振り返ると、イノベーションとともに大きな経済成長がもたらされた事例が多くあることが分かります。人類がインターネットを利用し始めた当初は、インターネットが人々の生活や社会をこれほど大きく変えることを予測するのは容易ではありませんでした。また、AppleのAppStoreが登場したときも、AppStoreが1兆ドル規模の巨大な市場を形成することは到底想像できませんでした。しかし、新しく創出された市場に一度価値が見いだされると、一斉に多くのスタートアップが参入し、巨大な経済圏を形成します。

近年の例で言えば、サイバーセキュリティ市場の成長が顕著です。デジタル技術が進展すると、脆弱性や先進技術を悪用した新たな攻撃も同時に生み出されます。一方、新しい攻撃に対応するためのサイバーセキュリティ製品も登場し、新規参入が拡大すると、瞬く間に一大市場を築きます。80年代から90年代にかけてコンピューターがインターネットに接続する機会が増えると、ウイルス対策ソフトが広く普及しました。また、クラウドの利用拡大に伴って新たな攻撃が生まれると、新しいクラウドセキュリティ企業が誕生しました。

そして今、多くの組織が生成AIの導入を検討しており、AIのセキュリティサービスを提供するスタートアップにビジネスチャンスがもたらされています。先進のセキュリティ企業は、企業や組織で利用されている基盤モデルについて、どのようなデータがトレーニングに使われているのか、誰がアクセスできる状態にあるのかなど、AIのデータ管理態勢を可視化して対策を強化する仕組みに注力しています。生成AIに関するガバナンスやセキュリティ対策は、今最も注目されているトピックであり、私たち投資家も有望なソリューションを探しています。

田谷昨年公表されたアメリカの大統領令 ※5 では、AI開発企業に対し、AIの安全性評価を実施することを義務付けるなど、一部で強制力のあるルールも含まれています。アメリカでは、生成AIを活用したディープフェイクなどによる被害が広がりつつあり（図表2）、大統領選の活動の中でもバイデンのロボコールが ※6 配信されていました。日本でも近い将来、生成AIの悪用が拡大することが予想されますが、法的拘束力を持つ規制やガイドラインの必要性についてAmitさんの考えをお聞かせください。

Amit前述したように、EUの規制には包括的な法的拘束力がありますが、過剰な規制をすれば、イノベーションの妨げになる可能性が高まります。むしろ私はアメリカやイギリスが取っているセクターごとの規制当局に政策を一任するアプローチが良いと考えています。政府中枢機関が全て厳格にコントロールをするのではなく、AI技術がそれぞれの業界にとってどのような影響を及ぼしているのかを十分に検証し、業界ごとに規制当局の見解を踏まえながら、リスクを軽減するための施策を図るべきだと思います。

例えば、ディープフェイク ※7 は、選挙や政治などで悪用されると深刻な事態に繋がる懸念があるため、厳格に利用をコントロールするためのガイドラインや枠組みを設けるべきだと思います。一方でメディア業界にとっては、ディープフェイクで生成されたビデオや画像、イラストなどが広く活用できることが期待されており、クリエイターがプロトタイプやマーケティング資料をより簡単に作成できるようになるなど、市場を発展させる大きな恩恵をもたらす可能性があります。

田谷日本政府や日本企業が、AIを活用したイノベーションを積極的に進め、安心かつ安全にAIを利用していくために何が必要でしょうか。我々にとってヒントとなるような事例やアドバイスをいただけますでしょうか。

Amitグローバルの動向を見ても、AIに関する法規制は非常に初期の段階であり、現時点で日本政府や日本企業が何をすべきかという点について、明確にアドバイスをすることは難しいです。もっとも、既に述べたように、個人的にはアメリカやイギリスのアプローチが好ましいと考えており、政府がAI利用の原則や方針を示しながらも、具体的な政策やプロセスの策定については、業界を熟知している省庁や規制当局に一任するのが理にかなっていると思います。日本にとってもアメリカやイギリスの事例が参考になるのではないでしょうか。

一方でAIに関する規制が十分に整備されていない段階にある場合、企業がどのようにAIをコントロールすべきか分からず、AI活用が広く進まないという議論もあります。GoogleやOpenAIなどの企業は、規制に先立ち、社内独自のAI安全委員会を立ち上げていますが、これはアメリカの中でもまだ少数事例です。AIの実装を進めるためには適切なセキュリティ対策や、プライバシー管理、安全性を保つためのルールを整備することが強く求められます。

私たちのパートナー企業の多くも、現在AI管理に関する適切な方法を模索している段階であり、Plug and Playに対してAIのセキュリティや安全性への対策に関する多くの相談依頼が来ています。生成AIの台頭によって、今後日本企業にも、AIのセキュリティや安全性、透明性を確保するための枠組みやプロセスを設けることが求められることになるでしょう。AI戦略の立案にあたって、まずはグローバルの規制動向や先進企業の取り組みをしっかりと注視することが肝要になります。また、米国ではAIガバナンスやAIセキュリティソリューションの活用に注目が集まっているので、早い段階からこのようなデジタルソリューションを検証して、AI管理態勢を整備しておくことも日本企業にとって有効な手段となるでしょう（図表3）。