暴力コンテンツ対策におけるAIと政治の役割

Facebookなどの企業では、暴力コンテンツの取り締まりを

AIで実施している。

例えばテロ関連の投稿であれば、特徴がはっきりしているため

AIで検知しやすいが、ヘイトスピーチのように文脈によって

ニュアンスが変わるような投稿についてはまだまだ判断が難しく、

場合によっては人間が読む必要があるとのこと。

やがてそのうち、AIが人間よりも素早く正確に判別できるように

なると予想しているが、そもそもどんな言説が善なのか悪なのかを

定義する必要がある。

それを議論したり決定したりする役割は政治にあり、

企業だけでなく各国の政府が協力しないといけない課題である。

■参考記事

動画やヘイトスピーチ、AIでは防ぎきれない？　FBが対応迫られる「白人至上主義」

https://dot.asahi.com/aera/2019052800060.html