AIのリスクを適切に管理したモデルの運用“AI Integrity”を実現するシリコンバレー発のAIスタートアップ・Robust Intelligence, Inc.（本社：米国カリフォルニア州、CEO：ヤローン・シンガー、Co-Founder：大柴 行人、以下：ロバストインテリジェンス）は、生成AIモデルのリスクを検証・分析する「生成AIリスク評価サービス」の提供を開始します。
ロバストインテリジェンスは、AIの開発段階から運用段階まで一貫して、テストベースでリスク検証を行うプラットフォーム『Robust Intelligence Platform』を、国内外の大手企業の皆様に提供してきました（https://www.robustintelligence.com/jp）。
そんな中、昨今ではChatGPTを始めとする生成AIの利用が急速に広がる中で、不正確な出力や倫理的に問題のある出力、プロンプト・インジェクションなどの、これまでのAIモデルと異なる形のAIリスクが問題視されるようになりました。これを受けて、各国政府の政策も転換しており、G7でも生成AIのリスク対策のための国際的ルール作りが急がれています。弊社としても、自民党・AIプロジェクトチームへの参加などを通じて、急ピッチで進むAI政策の立案に貢献しています。
こうした背景を受け、生成AIを企業が安心して活用するためのサポートを行うため、ロバストインテリジェンスは「生成AIリスク評価サービス」の提供を開始します。
このサービスは、従来のソリューションの基本的な考え方であるTest-Drivenアプローチを生成AIにも適用し、上記のような多岐にわたるAIリスクの検証・解決を行います。ロバストインテリジェンスのプラットフォームは日本のビジネス環境に準拠するため、日本語LLMにも適用可能であり、日本企業の準拠すべき各種規制にも対応しています。また、各国政策や国内外のユースケースに関する知見を活かし、AIリスク管理において重要となる社内のAIガイドライン・プロセス整備等もサポートします。
本サービスは、すでに国内の大手金融・テック系企業などから利用を検討いただいています。具体的なサービス内容については、下記リンク先のサービス資料もあわせてご確認ください。
【本サービスの特長】
● 生成AIのリスクを包括的に検証する先進的なサービスにより、生成AIの実装を目指す企業にとって
ネックとなる「リスク対策」を一手に引き受け
● 自動化したテストケースにより、不正な出力や有害な出力を防止
● セキュリティ上の脆弱性を検知・修復
● AIモデルが国内外の規制・ガイドラインに準拠していることを第三者の目線から確認
【サービス資料】
生成AIリスク評価サービスについての詳細な情報は、下記リンク先の資料をダウンロードすることでご確認いただけます。
ロバストインテリジェンスは今後も、AIリスクに対応する企業のガバナンス構築を支援し、日本市場におけるAI利活用を後押ししていきます。
【Robust Intelligenceについて】
ロバストインテリジェンスは、2019年にハーバード大学の研究者たちによって創業されたシリコンバレー発のAIスタートアップです。
AIには、従来のソフトウェアには存在しない、精度劣化や倫理的問題などの特有のリスクが存在します。ロバストインテリジェンスはこうしたAIリスクに対応する企業のガバナンス構築を支援し、AIのリスクを適切に管理したモデルの運用“AI Integrity”の実現を目指しています。
具体的には、AIモデルの開発から運用に至るまでEnd to Endでリスクを防ぐため、AIモデルを自動で継続テストし、特定されたリスクに対してAIシステムを保護するプラットフォームを開発・提供しています。
東京海上ホールディングス、楽天グループ、Zホールディングス、セブン銀行、NTTデータ、NEC日本電気（NEC Corporation）、ADP、Expedia、アメリカ国防総省など、国内大手企業や米国大手企業への導入実績を誇り、2021, 2022年には「世界で最も有望AIスタートアップ100社『AI100』」に２年連続で選出されました。
【Robust Intelligence会社概要】
・設立年：2019年
・所在地：US 555 19th Street San Francisco, CA 94107
・従業員数：70人
・代表者：CEO & Co-Founder Yaron Singer、Co-Founder Kojin Oshiba（大柴 行人）
・主な投資家：Sequoia Capital、Tiger Global、Engineering Capital、Harpoon Ventures、In-Q-Tel
・URL：https://www.robustintelligence.com/ （日本語版：https://www.robustintelligence.com/jp)
