日本初！笹埜健斗がChatGPTを活用したネット上の誹謗中傷対策システムを発明！

株式会社Scrumy（本社：東京都中央区、代表取締役社長：笹埜健⽃）は、笹埜健斗が、生成AI技術を活用して、SNSをはじめとしたネット上の誹謗中傷発言を検知・非表示にする誹謗中傷対策システムの開発に成功し、特許を出願したことをお知らせいたします。

SNS向け誹謗中傷対策システム開発の背景と目的

SNSやオンラインツールは、私たちの日々のコミュニケーションに不可欠な役割を担っています。ただ、近年はこうしたオンライン空間を通じた誹謗中傷発言が深刻な問題になっています。このような環境の元、AI技術を駆使して、安全なオンライン空間の確保に貢献するべく、ChatGPT（GPT-4）を用いた誹謗中傷への対策システムを開発しました。本システムは、オンラインでの誹謗中傷発言をリアルタイムで検出し、即座に対処することを目的としています。その結果、オンライン空間でのユーザー体験を向上させ、コミュニティ全体の健全性を保つことを目指しています。

本システムの特徴

この度開発に成功した誹謗中傷対策システムは、以下の4つの特徴を持っています。

①高度な自然言語処理能力：ChatGPTの最新AIモデルを用いて、日本語の微妙なニュアンスまで理解し、誹謗中傷を高精度で検出。

②文脈に合わせたフィルタリング：日本語独自の表現や俗語にも対応し、適切なコンテキストでの分析が可能。

③リアルタイム対応：オンライン上の会話をリアルタイムで監視し、問題のある内容を即座に識別。

④進化するアルゴリズム：ユーザーのフィードバックを組み込んで自己学習し、誹謗中傷検出アルゴリズムは継続的に改善される。

本システムの期待効果

本システムの普及や改善を通じて、オンライン上での誹謗中傷の数が削減されることで、ユーザーにとっては精神的な安全を確保され、コミュニケーション活動が活性化し、生産的な対話が促進されることを期待しています。また、企業や団体においても、本システムを導入することで、自社のブランド価値を守ると共に、コミュニティ活動が活発になることを期待しています。

開発者プロフィール

笹埜健斗（ささの・けんと）

サステナビリティ学者（慶應義塾大学SFC研究所所員、サステナビリティ総合研究所所長）、SDGs社会起業家（株式会社Scrumy代表取締役）。高校時代に生死の境を彷徨い、哲学に目覚める。国際哲学オリンピック出場、京都大学法学部、東京大学大学院情報学環・学際情報学府を経て、各業界の最高サステナビリティ責任者（CSO: Chief Sustainability Officer）やSDGs戦略顧問を歴任。現在、SDGs（持続可能な開発目標）を経営や教育に応用するための「サステナビリティ学」の第一人者として、持続可能な社会の実現に向けた共同研究やChatGPTを活用したプロンプトエンジニアリング等の技術開発をリードする。主な単著論文に「持続可能なIoMTセキュリティに向けた法政策―サステイナビリティ学の視座からの政策提言―」など。

東京大学大学院情報学環・学際情報学府