NTTデータ先端技術、ローカルLLM環境を利用した金融システム開発向け生成AI活用を検証

～オンプレミス・閉域環境で動作する生成AIを活用し、金融システム開発作業効率化と品質向上を実現～




　株式会社NTTデータ先端技術（本社：東京都千代田区、代表取締役社長：藤原 遠、以下：NTTデータ先端技術）は、株式会社NTTデータフィナンシャルテクノロジー（本社：東京都港区、代表取締役社長：細谷 好志、以下：NTTデータフィナンシャルテクノロジー）と連携し、金融機関のシステム開発における生成AI活用を見据え、オンプレミスの閉域環境におけるローカルLLM（大規模言語モデル）活用の技術検証（PoC）を実施しました。本PoCは、金融機関におけるガバナンスの強化、並びにコストの固定化による予見性向上を目的として実施し、特に重要となる機密情報の保護を前提に、設計文書の整合性確認や品質向上、修正作業の迅速化を目的とした生成AI活用の有効性を検証しました。
　NTTデータ先端技術は、本技術検証の結果を踏まえ、セキュリティやガバナンス、カスタマイズ性、サポート体制、コスト予見性を重視した生成AI活用の実現に向け、さらなる検討と取り組みを進めてまいります。また、金融機関ニーズに応える形で、機密情報保護やセキュリティを担保した生成AI活用を推進するとともに、同様の要件が求められる他業界における生成AI活用を支援していきます。

【背景】
近年、生成AI技術が業務効率化の手段として注目されています。しかしながら、金融機関においては特に、従量課金によるコスト増大や予算管理の難しさに加え、取り扱う情報の機密性の高さによるデータ保護や、法規制や業界ルールを踏まえたガバナンス確保のハードルの高さが課題となっています。そのため、安全かつ計画的に生成AIを活用できる基盤へのニーズが高まっています。
本検証では、生成AI基盤をオンプレミス環境上に構築し、各種データを外部に一切送信しないローカルLLM環境を構築し、金融システムの開発における生成AIの業務適用の実現可能性を確認しました。本検証により、情報漏洩リスクを最小限に抑えつつ、企業のセキュリティポリシーや内部統制に沿ったセキュリティ・ガバナンスを確保した生成AIを活用したシステム開発が可能であることを確認しています。
[画像1: https://prcdn.freetls.fastly.net/release_image/42493/41/42493-41-7627cad20f97070ebd2ce1606e5dd065-3900x1969.jpg?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]図1：ローカルLLM環境の構成イメージ
【技術検証の概要】
機密情報を含む各種データを外部に一切送信しないローカルLLMを金融システムの開発に活用可能かを検証するため、想定される「整合性チェックの自動化」「ドキュメント品質の向上」「修正作業の迅速化」の3つのユースケースを定義しました。
[画像2: https://prcdn.freetls.fastly.net/release_image/42493/41/42493-41-0246ae8d4406fced830b7e1efa882de4-1850x872.jpg?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]図2：主なユースケース
今回は特に、金融機関のシステム開発における設計書作成業務に対し、「ユースケース１：整合性チェックの自動化」の検証を行っています。オンプレミス環境下に構築したローカルLLMを活用し、セキュリティポリシーや内部統制の仕組み、業界標準といったルールから逸脱することなく、自動でチェック・修正し、設計書作成におけるレビュー工程を削減できることを確認しました。今後、2つのユースケースについても引き続き検証を進めていきます。

また、本検証では、業務内容や目的に応じてLLMモデルや構成を柔軟に選択可能な、高いカスタマイズ性を備えた生成AI基盤を構築し、実際に複数のLLMモデルを用いたユースケース実行の比較検証を行いました。その上で、金融システムに特化したナレッジを活用するために最適なLLMモデルやRAG（検索拡張生成）といった技術を選択できることの効果や有用性を確認しました。

さらに、導入初期の段階では規模を抑えスモールスタートでの生成AI基盤導入となることを想定し、段階的に利用範囲を拡大できる運用モデルについても評価を行いました。その結果、生成AI導入時の投資リスクを抑えつつ、業務への効果を確認しながら本格導入へ移行できる点を確認しています。

コスト面においては、ローカルLLMを採用することで、生成AI基盤の利用量に大きく影響されない安定したコスト構造（コストの固定化）を実現できることを検証しました。さらに、お客様環境を想定したオンプレミスサーバー上に生成AI基盤を構築するアーキテクチャを採用しました。これにより、クラウド利用料の削減やネットワーク帯域コストの抑制といった追加的なコストリダクション効果が見込めるほか、予算管理の容易化や中長期的なコスト見通しの明確化といった効果が期待できます。

【今後について】
NTTデータ先端技術は、本技術検証の結果を踏まえ、セキュリティやガバナンス、カスタマイズ性、サポート体制、コスト予見性を重視した生成AI活用の実現に向け、さらなる検討と取り組みを進めてまいります。また、金融機関ニーズに応える形で、機密情報保護やセキュリティを担保した生成AI活用を推進するとともに、同様の要件が求められる他業界における生成AI活用を支援していきます。


＊「INTELLILINK」は日本国内および米国における株式会社NTTデータ先端技術の登録商標です。
＊その他の商品名、会社名、団体名は、一般に各社の商標または登録商標です。PR TIMESプレスリリース詳細へ