Alli Finance LLM は金融領域特有の業界用語や慣習を理解しており、金融機関のさらなる業務自動化や生産性向上に貢献します。また、Alli Finance LLM を簡易に業務活用いただけるよう、業務に適したLLMアプリを選択してすぐに使える、LLMアプリを簡単に作成できるアプリマーケット「Alli LLM App Market」に実装し、即時利用可能な形態で提供します。
-
Alli Finance LLM 提供の背景
OpenAI社のGPT-3.5やGPT-4をはじめとする汎用的な大規模言語モデル（以下、LLM）は、一般的な情報や広く公開されている情報をもとに自然な応答を行うことに優れていますが、専門知識が求められる場面ではより精度の高い応答が必要となるケースがあります。金融業界は専門性が高く、特有の業界用語や慣習も多いため、汎用的なLLMで自動化可能な対象業務に限りがありました。
Allganizeは、これまで多くの金融機関様の業務効率化を独自のAIソリューションで支援しています。金融機関各社様のさらなる業務自動化を現実的に可能にするために、Allganizeが持つ金融業界に対する知見やノウハウを活かし、金融業界に特化した言語モデル「Alli Finance LLM」を開発しました。
-
Alli Finance LLM の特徴
1. 金融業界特化型の”sLLM”
Alli Finance LLM は、オープンソースのLLMの中でも金融領域で高精度が見込まれると判断したMeta社のLlama 2をベースに開発した金融業界特化型のsLLM（小規模な大規模言語モデル）です。sLLMはパラメータの規模がLLMより小さいものの、訓練のためのデータ・時間・費用などが比較的少なく、特定用途のAIサービスの開発に適しています。
2. 一般用語と類似する金融業界用語も正しく認識
文字表現が同じであっても、金融業界と業界外では、用途や意味が異なる言葉が存在します。例えば「LTV」という略語は、マーケティング用語の「Life Time Value（顧客生涯価値）」を示す場合が一般的です。汎用的なLLMに「LTV」の意味を尋ねると、顧客生涯価値の略語である旨を答えます。一方、Alli Finace LLM に同様の質問をすると、不動産投資等で利用される「Loan to Value（総資産有利子負債比率）」の略語であると返答します。
このように、金融業界特化型の Alli Finace LLM は業界特有の言葉の使い方を理解しており、金融機関が基幹業務で利用しやすいsLLMとなっています。
3. オンプレミスなど、各社環境で利用可能
Alli Finance LLM はオンプレミスなど各社独自の環境で利用でき、高水準のセキュリティ要件が必要な金融機関でも安心してご利用いただけます。
4. 実業務への導入が容易
Alli Finance LLM は、AllganizeのオールインワンLLMプラットフォーム「Alli LLM App Market」から活用できるLLMのひとつとして提供します。Alli LLM App Market は「社内・特定情報からの要約や文章生成」「AIチャットボット」「コグニティブ検索」など、100以上のLLMアプリケーションを実装し、ユーザーが業務に適したアプリケーションを選択して利用するサービスです。各アプリケーションに適用するLLMをユーザーが自由に選ぶことができ、Alli Finance LLM の他にOpenAI社のGPT-4など適したモデルを選択可能です。
参考情報）Alli LLM App Marketの発表はこちら
5. ハルシネーションを低減する仕組み
LLM活用においては、AIが事実とは異なる内容を出力する「ハルシネーション」が課題として挙げられます。Alli Finance LLM では、ハルシネーションを低減し精度向上を実現するために、Allganizeの強力な「Retrieval Augmented Generation（以下、RAG）」を組み合わせています。
RAGは、ハルシネーションを改善する手段として注目されている技術です。外部の知識ソースから事実データを検索し、検索したデータをLLMにプロンプトとして渡すことでプロンプト強化を実現します。
Alli Finance LLM ではRAGの適用により、金融商品説明書や業界レポートなど希望する文書を対象に、文書の中から関連する事実データを検索し、同データをもとに応答することができます。
6. 用途や予算に合わせた2つのモデル
Alli Finace LLM はパラメータが130億（13B）、700億（70B）の2つのモデルを用意しています。プロジェクトの予算や、業務活用の難易度に応じてモデルを自由に選択できます。
-
Alli Finance LLM の活用例
金融関連情報をもとにした、様々なLLMアプリケーションに活用可能です。
活用例の一例
・複雑な金融商品の約款等に対する質疑応答
・経済見通しのレポートの要約
・過去の業績や今後の展望をもとにした予測レポートの作成 等
-
Allganize Japan 代表取締役 佐藤康雄のコメント
Allganizeでは、グローバルで多数の金融機関様を支援してきた知見、技術ノウハウを活かし、金融業界向けの Alli Finance LLM を開発しました。同LLMに Alli LLM App Market を組み合わせることで、金融機関様には導入直後からLLMの実務適用をいただくことが可能となっています。LLMの活用による業務生産性向上の効果は計り知れません。ぜひ、活用をいただきたいと考えています。
なお、Alli Finance LLM に続き、他業界向けにもsLLMの提供を行なっていきます。金融業界をはじめとして、様々な業界への支援をAllganizeでは今後も実現していきます。
-
Allganizeについて
Allganizeは、「AIによって全てのビジネスのワークフローを自動化・最適化する」というビジョンのもと、高レベルの自然言語理解とディープラーニング技術をベースに、日本、米国、韓国を中心に、グローバルで企業向けのAIソリューションを提供しています。グローバルマーケットでの事業経験豊富なメンバーによって創業したAllganizeは、国内外の投資家に支えられ、東京（日本）、オークランド（米国）、ソウル（韓国）に拠点を構え事業を展開しています。
会社名：Allganize Japan 株式会社（オルガナイズ ジャパン）
代表者：代表取締役 佐藤 康雄
所在地：東京都渋谷区
設立 ：2019年1月
URL ：https://allganize.ai
