SNSでの炎上を事前回避、AIがアブナイ投稿を教えてくれる台湾発「CensorGPT」

SHARE:
レビュー対象のコメントを送信すると、CensorGPT は内容を分析し、例えば 台湾のシンガーソングライター Jacky Chen(陳建瑋)氏の Facebook 投稿から「快適なコメント」などの提案を出す。

このアイデアのインスピレーションは、実は最近の #METOO 事件から来ていて、被害者を減らすためにテクノロジーで何かをしたいとずっと思っていた。

CensorGPT チームの Prody 氏は照れくさそうに言った。寝たふりをする人を起こすことはできないが(ダンマリを決め込む人は救えないが)、ChatGPT の分析機能を使えば、少なくとも不用意に不快な発言をしてしまった人に、それを避けるチャンスを与えることができるのではないかと思いついた。それに、AI が発する言葉は客観性が増し、人間にも聞きやすいものにしてくれる。

CensorGPT は LINE のチャットボットで、ユーザが任意の文章を送信すると、CensorGPT がその文章中のどの部分がユーザを傷つける可能性が高いかを伝え、ダメージスコアを算出する。

逆転の発想

2023年も半ばを過ぎ、既存の製品に ChatGPT を組み込む企業が増えている。また、Chatbase(ChatGPT のカスタマーサービス SaaS)のように、ChatGPT を使用して新しい製品を直接作成し、多数の顧客を迅速に獲得する素早い思考のチームも多くいる。CensorGPT はこの種の新しいアプリケーションである。

ほとんどの人は、ChatGPT がコンテンツを〝生成〟していると考えているが、「逆に考えて、ChatGPT が人間が生成したコンテンツをどう考えているかに耳を傾ける人はほとんどいない」と Prody 氏は言う。

政治家やブランドのチーム、カスタマーサービススタッフなどがターゲット

CensorGPT は、文中に一部の閲覧者を不快にさせる箇所がある場合、その文章を指摘し、その理由を説明してくれる。(PChome 24h ショッピングの Facebook 投稿より引用)

CensorGPT のサービスは、LINE のチャットボットに参加して話しかけるだけで、すぐに監視対象にすることができる。

CensorGPT は現在、無料アカウント1つにつき1日10回の利用を提供しているが、それ以上の利用には有料申請が必要で、「政治家やブランドのチーム、顧客に定期的にメールを送るビジネスやカスタマーサービススタッフが必要とする可能性が高い」と Prody 氏は言う。

CensorGPT のチームは、数日前に PChome ファンが書いたブログの謝罪文を使って、「#立法院(台湾の国会)の7月のセクハラ法改正に、すべての人が注目するよう呼びかける」というフレーズが、「法改正によってセクハラ等の問題が完全に解決されるわけではない」ため、人々に不快感を与える可能性があると分析した。

この情報は、投稿者の参考として、謝罪文をより焦点を絞ったものに修正できる可能性がある。

CensorGPT はまだ始まったばかりだが、その目標はかなり野心的だ。

我々は、CensorGPT によってユーザが重要なメッセージを投稿できるような、共感的なオンライン環境を作りたいと考えている。CensorGPT を使用すると、重要な情報を公開するときに、ジェンダー、マイノリティ、およびメインストリームから無視されがちな問題をユーザが考慮に入れることができ、オンラインでのリスクを軽減できる。(Prody 氏)

【via Meet Global by Business Next(数位時代) 】 @meet_startup

【原文】

BRIDGE Members

BRIDGEでは会員制度の「Members」を運営しています。登録いただくと会員限定の記事が毎月3本まで読めるほか、Discordの招待リンクをお送りしています。登録は無料で、有料会員の方は会員限定記事が全て読めるようになります(初回登録時1週間無料)。
  • 会員限定記事・毎月3本
  • コミュニティDiscord招待
無料メンバー登録