SMBCグループの生成AI活用の可能性を最大化。「LLM-CoE」の使命とインパクト

北野2024年4月、技術統括部にLLM-CoEというチームを創設し、当社およびSMBCグループ内における生成AI活用を推進しています。兼務メンバーを中心に14名で始動し、現在は31名体制へ拡大しました。近年、生成AI・LLM（大規模言語モデル）の台頭に伴い、各領域で同技術の実装による業務オペレーションの改善や事業創出へのニーズが高まっています。また、当社はSMBCグループのデジタル戦略をIT面で牽引する役割を担っており、生成AIを活用した生産性向上やシステム開発の高度化は重要施策の一つです。生成AIに対して、各部が個々に取組むのではなく、ノウハウや知識、人材育成などを集約して共有を図る必要があると考え、専門組織としてLLM-CoEを立ち上げました。

LLM-CoEの主な活動は次の4点です。1つ目は、生成AIに関するグループ内外の情報・取組の集約と情報発信による啓発・プレゼンス向上を図ること。2つ目は、当社社員を中心とした技術者育成および検証環境の整備。3つ目は、相談窓口の設置による当社およびSMBCグループ各社の生成AI活用を支援すること。4つ目は、当社のシステム開発への活用・業務効率化に向けたPoCの推進することです。

当組織では、ユーザー企業・研究機関・ITベンダー等の関係先から幅広く情報を収集するとともに、PoC等の活動で蓄積したナレッジやノウハウを整理し、グループ各社に還元しています。SMBCグループ向けにはLLM勉強会を定期開催しており、これまでに延べ800名超が参加しました。勉強会では、生成AIやLLMの基礎、最新の活用動向、著作権など活用時の留意点まで幅広く扱っています。受講者からは「新たな学びや気づきが得られた」等の肯定的なフィードバックを多数いただいています。活動開始から約1年半が経過し、社内での認知度も高まるなか、グループ各社からの問い合わせも増加しています。

北野グループ内のLLM活用を拡大するために、当組織では最新のLLMサービスや機能を検証し、プロトタイプの開発やレポートを公表するなど、外部向けの情報発信にも注力しています。また、社内の技術者育成コンテンツや認定基準などを整備し、ロードマップに沿って社員の育成を推進するとともに、LLM製品の学習や検証が柔軟にできる環境を拡充させています。今後、当社のシステム開発業務に利活用できる生成AI開発基盤も展開していく予定です。LLM-CoEは社内の相談窓口も設けており、システムの企画から開発、保守までの各工程における生成AI活用に向けた各種支援も行っています。

田谷昨今SMBCグループにおいてシステム開発に対する経営課題が一層強まっています。当社はグループ内の金融システムを運用しており、中には数十年稼働しているレガシーシステムも多く含まれています。金融サービスには誰もが安心して使えるような安定運用が一層要求されるとともに、近年はサービスをより使いやすくするためのアップグレードやモダナイゼーションも強く求められています。金融サービスへの期待や要求が高まる一方、IT技術者の人材不足は年々深刻化しており、当社においてもレガシーシステムの開発に携わる人材の高齢化や人材不足が課題になっています。とりわけ運用歴の長いシステムには一部のエンジニアだけが把握しているような仕様も存在しており、ブラックボックス化によってシステムの全容が掴みづらい領域もあります。

従来のアプローチでは、ブラックボックスの解明には、エンジニアがプログラムのソースコードを1行ずつ読み込み、アプリケーションやシステムの全体像を把握する方法が一般的でした。そのため、システムの内容を正確に捉えるには、プログラムやアーキテクチャに対する深い知識や一定の経験が必要となり、大規模なレガシーシステムの解析には多大な時間と労力を要しました。

しかし、近年LLMの台頭により、システムやアプリケーションの仕様や特性をAIが解釈できるようになり、エンジニアは生成AIとのチャットを通して簡便にシステムの内容を理解することが可能になってきました。特に生成AIの応用力は高く、レガシーシステムで使われるCOBOLやアセンブラだけでなく、技術者が少ないニッチなプログラミング言語の解釈もできるようになりました。LLM技術の進化によって、プログラムの仕様をトレースする役割がAIに代替されるようになり、エンジニアはプロンプトの使い方を習得すれば、プログラミング言語の種別に大きく依存せず、システムの解析を容易にできるようになったのです。

この点には非常に大きな可能性を感じています。これまで人海戦術でこなしていたシステム分析などのタスクをAIに置き換えれば、従来よりも少ない人数でシステム開発をスケールさせることができるのです。また、作業の効率化に留まらず、LLMの活用によって削減した人的リソースを、新たなサービス開発へ割り当てるなど、よりイノベーティブなタスクへと人材をシフトすることもできるようになるでしょう。

我々は有望なLLM製品を多角的な観点で検証・評価するロードマップを掲げています。LLM-CoEの施策によって、システム開発のパラダイムシフトを起こし、当社がよりクリエイティブな業務に人材の比重をシフトしていくことができれば、SMBCグループのDXが次の段階へ大きく前進することも期待できます。SMBCグループのデジタル戦略の推進や顧客体験の一層の強化のためにも、我々LLM-CoEは精力的にグループ内の生成AI活用を拡大していきます。