Instagramの人工知能がネットいじめと戦うーー不快なキャプションを投稿前に警告

SHARE:
Instagram-Cake
Above: Instagram Cake
Image Credit: Paul Sawers / VentureBeat

Instagramは人工知能(AI)で不快な表現を排除するらしい。

同社はAIで不快と判断したキャプションを付けた動画や写真を、投稿する前にユーザに警告を出して考え直させる新機能をローンチする。今後、キャプションを投稿しようとするときに不快感を与える可能性があるとInstagramが検出した場合、文言を再検討するように求めるアラートがそのユーザに表示されるようになる。

この警告システムは完全に自動化されており、Instagramは同様の言葉を使うキャプションを含む過去のいやがらせ報告から収集したデータを基にしている。

これはInstagramが7月にコメント欄を対象に導入した同様の機能の拡張である。同機能がリリースされた際もInstagramはAIを使用して文言を検出し、ユーザに警告、そして最終的に「ポジティブなインタラクション」を促していた。

Alert-for-captions-in-Instagram
Above: Abuse alert for captions in Instagram

もちろん、忠告に反し不快なコメントやキャプションを無理やり投稿しようとするユーザを止める術はない。しかし、Facebookの写真・動画共有の大人気プラットフォームでの乱用を減らすために必要なのはこうした穏やかな働きかけで十分であるだろうと考えられている。

同社はブログ記事で次のように述べている。

ネットいじめとの戦いに率先的に対応するという、弊社の長期的な取り組みの一環として、Instagram上での様々な形のいじめを認識することができるAIを開発、テストしました。今年、コメントが不快だと受け取られる可能性がある場合に、投稿前に通知する機能もローンチしました。信頼できる結果が出ており、このようなタイプの働きかけが投稿文言を再考するように人々を促せることがわかっています。

オンラインでの攻撃といじめは、ほとんどの社会的プラットフォームにとって永遠の問題である。25歳未満のネットいじめの被害者は、自傷または自殺を試みる可能性が2倍以上であることが研究で示されている

数十億人のユーザのコメントとキャプションを監視することは、人間だけでは不可能に近い挑戦だ。そのため、すべての主要プラットフォームがますます自動化ツールに移行している。Twitterは、すべての不正なツイートのうちの半分を通報を待たずに積極的に削除していると最近発表した。Instagramの最新のいじめアラートは、まず実証テスト国のみで始まり、その数か月後にグローバル市場に出されることになる。

【via VentureBeat】 @VentureBeat

【原文】

----------[AD]----------