このアイデアのインスピレーションは、実は最近の #METOO 事件から来ていて、被害者を減らすためにテクノロジーで何かをしたいとずっと思っていた。

CensorGPT チームの Prody 氏は照れくさそうに言った。寝たふりをする人を起こすことはできないが（ダンマリを決め込む人は救えないが）、ChatGPT の分析機能を使えば、少なくとも不用意に不快な発言をしてしまった人に、それを避けるチャンスを与えることができるのではないかと思いついた。それに、AI が発する言葉は客観性が増し、人間にも聞きやすいものにしてくれる。

CensorGPT は LINE のチャットボットで、ユーザが任意の文章を送信すると、CensorGPT がその文章中のどの部分がユーザを傷つける可能性が高いかを伝え、ダメージスコアを算出する。

逆転の発想

2023年も半ばを過ぎ、既存の製品に ChatGPT を組み込む企業が増えている。また、Chatbase（ChatGPT のカスタマーサービス SaaS）のように、ChatGPT を使用して新しい製品を直接作成し、多数の顧客を迅速に獲得する素早い思考のチームも多くいる。CensorGPT はこの種の新しいアプリケーションである。

ほとんどの人は、ChatGPT がコンテンツを〝生成〟していると考えているが、「逆に考えて、ChatGPT が人間が生成したコンテンツをどう考えているかに耳を傾ける人はほとんどいない」と Prody 氏は言う。

政治家やブランドのチーム、カスタマーサービススタッフなどがターゲット

CensorGPT のサービスは、LINE のチャットボットに参加して話しかけるだけで、すぐに監視対象にすることができる。

CensorGPT は現在、無料アカウント1つにつき1日10回の利用を提供しているが、それ以上の利用には有料申請が必要で、「政治家やブランドのチーム、顧客に定期的にメールを送るビジネスやカスタマーサービススタッフが必要とする可能性が高い」と Prody 氏は言う。

CensorGPT のチームは、数日前に PChome ファンが書いたブログの謝罪文を使って、「#立法院（台湾の国会）の7月のセクハラ法改正に、すべての人が注目するよう呼びかける」というフレーズが、「法改正によってセクハラ等の問題が完全に解決されるわけではない」ため、人々に不快感を与える可能性があると分析した。

この情報は、投稿者の参考として、謝罪文をより焦点を絞ったものに修正できる可能性がある。

CensorGPT はまだ始まったばかりだが、その目標はかなり野心的だ。

我々は、CensorGPT によってユーザが重要なメッセージを投稿できるような、共感的なオンライン環境を作りたいと考えている。CensorGPT を使用すると、重要な情報を公開するときに、ジェンダー、マイノリティ、およびメインストリームから無視されがちな問題をユーザが考慮に入れることができ、オンラインでのリスクを軽減できる。（Prody 氏）

【via Meet Global by Business Next（数位時代） 】 @meet_startup

【原文】