本実証実験では、生成AIを活用する際の安全性と利便性向上のためにNTTドコモ(以下、ドコモ)が開発した「LLM付加価値基盤」(以下、本基盤)をNTTドコモグループ3社で活用します。まずは、NTTドコモグループ3社の全従業員の業務効率化に向けて、例えば、業務における専門性の高い問い合わせに対し、社内ルールやマニュアルをベースにLLMが生成した文章で回答を行うなど、社内業務において本基盤を活用します。また、利便性や回答の正確性を検証し、お客さま応対業務などへの適用可否を検討します。本基盤は、今回の実証実験で得られたノウハウをもとに最適化を行い、法人のお客さまとの検証を経て、2023年度中のサービス提供開始をめざします。さらに本基盤を、ドコモが保有するビッグデータや音声認識/画像認識などのAI技術と組み合わせることで、法人のお客さまとともに新たな付加価値サービスの検討を開始します。
さまざまなユースケースにおいて生成AIの活用が進む一方で、企業が利用する際には、情報漏洩につながる懸念や、大規模データゆえの正確性の担保の難しさなどの課題があります。また、差別・暴力表現や社会規範に反する表現などの不適切回答から利用者を守り、安全に生成AIを活用するための仕組みが必要となります。
本基盤はこれらの課題に着目し開発したもので、プロンプト入力時に回答の元となるマニュアルなどのファイルを追加で投入すると、ファイルの内容を元に回答を生成し、回答にファイル内のリファレンスを表示する機能などを備えています。さらに、機微情報の外部送出フィルタリング機能やLLMからの不適切回答のフィルタリング機能を追加するなどし、安全性を向上させる基盤の提供をめざします。また、本基盤はAzure OpenAI Serviceと連携して利用可能ですが、今後はNTT研究所が独自開発する分野特化型のLLM をはじめ、オープンソースソフトウェアや各ベンダが提供するLLMを活用し、ユースケースに合わせさまざまなLLMを選択して利用できる基盤として拡張していきます。
LLM付加価値基盤構成・活用イメージ
NTTドコモグループ3社は、各社が保有する技術やノウハウを活用することで、多くのお客さまがLLMをはじめとするAI技術の恩恵を受けられる環境を構築し、人々の生活がより便利で豊かになるよう取り組んでまいります。
NTTドコモ、NTT Com、NTTコムウェアは、ドコモグループの法人事業を統合し、法人事業ブランド「ドコモビジネス」を展開しています。「モバイル・クラウドファースト」で社会・産業にイノベーションを起こし、すべての法人のお客さま・パートナーと「あなたと世界を変えていく。」に挑戦します。
https://www.ntt.com/business/lp/docomobusiness.html
※1 大量のテキストデータを用いて学習された自然言語処理のモデル
※2 事前に学習したデータをもとに、文章や画像など新たなデータを生成する人工知能
本件に関する報道機関からのお問い合わせ先
株式会社NTTドコモ ブランドコミュニケーション部 広報担当
TEL:03-5156-1366
NTTコミュニケーションズ株式会社 経営企画部 広報室
TEL:03-6700-4010
NTTコムウェア株式会社 広報室
TEL:03-5796-4139
<別紙>
実証実験の概要
1. 目的・概要
生成AIを活用する際の安全性や利便性を向上するために開発した本基盤を活用し、社内情報を安全にLLMに連携し、適切な回答文を生成できるか検証します。本基盤を活用して、社内業務のDXを推進し、そこで得られたノウハウをもとに、お客さま応対業務など、より多くの業務への適用をめざします。また、今後法人のお客さまとともに、新たな付加価値サービスの創出に向けたユースケース検証を行います。
【実証実験期間】
2023年8月21日(月)~2023年12月31日(日)
2. LLM付加価値基盤の特徴
(1) 投入したファイルのリファレンスを表示する機能
事前に用意された業務マニュアルなどの大量の文書を自然文で検索し、文書の該当箇所をリファレンスとして表示し、検索結果を返却する機能を提供。
(2) 機微情報の外部送出フィルタリング機能
パーソナルデータなど企業としてのLLMへの入力が好ましくないデータをチェックし、流出を防止するフィルタリング機能を提供予定。
(3) 差別・暴力等の不適切回答のフィルタリング機能
LLMからの出力内容をチェックし、差別・暴力表現や社会規範に反する表現など、企業として不適切な回答を低減するフィルタリング機能を提供予定。
3. 各社の役割