リチェルカセキュリティ、対話型AIサービスの脆弱性診断に対応

弊社は、対話型AIサービスに対する脆弱性診断の提供を開始しました。大規模言語モデル (LLM) を用いた対話型AIの需要が増加しています。しかし、そのセキュリティリスクの評価は、一般的な脆弱性診断のプロセスでは困難です。弊社は、独自のハニーポットにより対話型AIへの最新の攻撃パターンを独自に収集・分析し、その診断手法を確立しました。ECサイト上のチャットサービスから、アプリケーション開発者向けプラグインに至るまで、日本語環境対応・先端研究に基づく診断を提供します。

■対話型AIハニーポットと診断用データセット

ハニーポットとは、悪意のある攻撃を収集するために公開されているおとりサービスです。弊社は、対話型AIサービスを模擬したハニーポットを独自に開発・運用しています。そして、収集した攻撃パターンとその原理を研究し、各言語環境に特化した診断用データセットを開発しています。原時点で、日本語に特化したデータセットの開発に成功しており、本メニューの公開に至りました。

■対話型AIサービスに対する診断メニュー

下記のメニューでの提供を開始します。

対話型AIサービスのブラックボックス診断

弊社のAIエンジニアチームが、敵対的プロンプトを用いてサービスを診断します。頻出の攻撃パターンからサービスに特化したパターンまで、多角的な視点からサービスを診断可能です。

対話型AIサービスのホワイトボックス診断

内部プロンプトの実装を考慮したソフトウェア全体への診断を行います。また、対話型AIサービスへのファイアウォールの実装など、周辺ソフトウェアを含めた診断にも対応します。

対話型AIサービスを対象としたセキュリティコンサルティング

堅牢なプロンプト設計や、対話型AIの応答からの意図しない情報流出対策など、弊社研究者が対話型AIサービスのセキュリティ品質向上に関するノウハウを提供いたします。

詳細はウェブサイトをご覧ください：

対話型AIサービスの脆弱性診断に対応 - 株式会社リチェルカセキュリティ

弊社は、対話型AIサービスに対する脆弱性診断の提供を開始しました。大規模言語モデル (LLM) を用いた対話型AIの需要が増加しています。しかし…

■会社情報

リチェルカセキュリティは、オフェンシブセキュリティのプロフェッショナルチームです。防衛セクターを含む政府機関、フォーチュン500企業、国内外のクライアントに対するサービス提供実績を有します。当社には、ゼロデイ脆弱性の発見者、サイバーセキュリティ関連書籍の著者、海外トップスクールや大手研究機関での研究経験を有するセキュリティリサーチャー、DEFCON CTFやGoogle CTFのファイナリストらが所属しています。