ネット投稿AIで監視

コロナ中傷深刻、ネット投稿AIで監視
10/23(金) 13:12配信
https://news.yahoo.co.jp/articles/0531d826246b9a104fb20296b25931727246668a

AIを活用したモニタリングのイメージ

　福井県は10月22日、新型コロナウイルス感染者らへのインターネット上の誹謗中傷や差別に対し、11月4日からモニタリング（監視）を実施すると発表した。中傷の書き込みがないか人工知能（AI）を使ってチェックする仕組みで、問題のある投稿があれば県が画像を保存し、被害者らからの相談に応じて提供する。中傷や差別の抑止、早期の投稿削除につなげていく。

　県によると、AIを使った仕組みは全国で初めて。杉本達治知事は22日の記者会見で「残念ながら、誹謗中傷が絶えない状況が全国でも県内でも多発している。AIで幅広くキャッチできるようにしたい」と期待を込めた。

　ネットに精通した専門業者に委託して実施する。会員制交流サイト（SNS）や掲示板、動画投稿サイトなどを対象に、特定のキーワードで自動検索した後、AIが中傷、差別に当たるものを選別。抽出された書き込みを人の目で最終確認した後、画像とともに県に報告する。

　県人権センターで被害相談を受け付けており、県は相談があれば、該当する画像を探して提供。訴訟を起こす際などに証拠として活用してもらう。投稿削除や法的手続きに向けた支援として、県は専門業者や弁護士無料相談の紹介も行う。

　県はこれまでモニタリングは行っておらず、担当者が個別に投稿を確認しており、ネット上の中傷の全体像を把握しづらかった。県によると、全国では20府県近くがモニタリングを実施しており、職員や委託業者が自ら検索して書き込みをチェックしているという。AIを使うことで、多くのサイトを大量に自動検索できる。

　中傷の投稿を把握しても、被害者が知りたくない場合も想定されるため、県は被害者に連絡しない。ただし深刻なケースは、必要に応じて警察や法務局など関係機関に情報提供する。

　相談窓口は福井市のアオッサ7階にある県人権センター＝電話0776（29）2111。

ネット中傷、裁判手続きを創設へ　総務省が骨子案、被害者負担軽く
10/26(月) 18:41配信
https://news.yahoo.co.jp/articles/53b0ea187bf565e3e038248a950fbd28b64c4aca

共同通信
　総務省は26日、インターネット上で誹謗中傷を受けた被害者の救済策を議論する有識者会議を開き、年内の最終とりまとめに向けた骨子案を提示した。悪質な投稿をした加害者を迅速に特定するため新たな裁判手続きを創設し、現在の情報開示訴訟より被害者の負担を軽くする。加害者が会員制交流サイト（SNS）にログインした際の通信記録を開示対象に含めることも盛り込んだ。

　この日の会議では、新たな裁判手続きを設ける方針について大筋で了承された。今後、制度の詳細を詰め、悪質化している中傷の抑止を図る。