DIME MAGAZINE
ユーザーがコメントを投稿完了前にAIが表現の見直しを提案
LINEヤフーが運営する日本最大級のインターネットニュース配信サービス「Yahoo!ニュース」が提供する「Yahoo!ニュース コメント」（以下コメント欄）において、「Yahoo!ニュース コメントポリシー（以下コメントポリシー）に違反するコメント」やコメントポリシー違反に該当しないもののコメント閲覧者が「不快と感じる可能性のある表現」に対して、ユーザーがコメントを投稿完了前にAIが表現の見直しを提案する「コメント添削モデル」の導入を開始した。
同社では「これにより、コメント欄における、さらなる健全な言論空間の創出を目指します」とコメントしている。
「Yahoo!ニュース」は、ユーザーがニュースに関する多様な意見を共有しあい、新たな視点を得るきっかけを創出することを目的として、コメント欄を2007年から提供している。
これに伴い「Yahoo!ニュース」では、ユーザーの表現の自由を尊重するとともに、より安心して利用できるサービス環境を目指すべく、以前より誹謗中傷などの内容を含む投稿を禁止し、コメントポリシー（※1）に違反投稿の具体例をわかりやすく明示。
24時間体制の専門チームによる人的なパトロールに加えて、LINEヤフーが開発したAI「深層学習を用いた自然言語処理モデル」などのテクノロジーを駆使しながら、誹謗中傷をはじめとする違反コメントの削除などの対策に努めている。
また、建設的なコメントとしてのスコアが高いものをAIが判定し上位表示させる「建設的コメント順位付けモデル」や、AIが多様な切り口のコメントを上位へ優先的に表示する「コメント多様化モデル」の導入など、コメント欄の健全化のため複数の独自のAIを取り入れてきた（※2）。
そして今回、「Yahoo!ニュース」は「コメントポリシーに違反するコメント」やコメントポリシー違反に該当しないもののコメント閲覧者が「不快と感じる可能性のある表現」に対して、ユーザーがコメントを投稿完了前にAIが表現の見直しを提案する「コメント添削モデル」の導入を開始した。
コメント投稿前に表現を見直す機会をユーザーに提供することについては有識者からも重要性を提起されており、「コメント添削モデル」はそのような意見も踏まえての導入となる。
具体的には、コメント投稿フォームにコメントを入力し「投稿する」ボタンを押下した際、「コメント添削モデル」が「コメントポリシーに違反するコメント」や「不快と感じる可能性のある表現」と判断した場合、該当箇所をハイライトで示し、表現の見直しを提案するポップアップが表示される。
これによってユーザーはコメントを投稿完了前に表現の見直しを行なうことが可能になった。
■「コメント添削モデル」の発動イメージ
※画像の内容は一例であり、条件に当てはまるコメントにのみ発動します。
■「コメント添削モデル」の挙動イメージ
※画像の内容は一例であり、条件に当てはまるコメントにのみ発動します。
同社では、今回の発表に際して、「『Yahoo!ニュース』は今後も、コメント欄で投稿される多様な考えや意見によって、ユーザーがニュースに対する興味や多角的な視点を持つきっかけを提供するとともに、日本のインターネットにおける健全な言論空間を構築し、より良い社会の実現に向けて全力を尽くしていきます」と述べている。
※1：Yahoo!ニュース コメントポリシー
https://news.yahoo.co.jp/info/comment-policy
※2：AIを軸に振り返る「Yahoo!ニュース コメント」健全化の取り組み（newsHACK）
https://news.yahoo.co.jp/newshack/inside/news_comment2023.html
関連情報
https://news.yahoo.co.jp/
構成／清水眞希
最新号
