小学館IDをお持ちの方はこちらから
ログイン
初めてご利用の方
小学館IDにご登録いただくと限定イベントへの参加や読者プレゼントにお申し込み頂くことができます。また、定期にメールマガジンでお気に入りジャンルの最新情報をお届け致します。
新規登録
人気のタグ
おすすめのサイト
企業ニュース

Yahoo!ニュースが「コメント添削モデル」を導入、AIが不快な表現の見直しを提案

2024.09.13

ユーザーがコメントを投稿完了前にAIが表現の見直しを提案

LINEヤフーが運営する日本最大級のインターネットニュース配信サービス「Yahoo!ニュース」が提供する「Yahoo!ニュース コメント」(以下コメント欄)において、「Yahoo!ニュース コメントポリシー(以下コメントポリシー)に違反するコメント」やコメントポリシー違反に該当しないもののコメント閲覧者が「不快と感じる可能性のある表現」に対して、ユーザーがコメントを投稿完了前にAIが表現の見直しを提案する「コメント添削モデル」の導入を開始した。

同社では「これにより、コメント欄における、さらなる健全な言論空間の創出を目指します」とコメントしている。

「Yahoo!ニュース」は、ユーザーがニュースに関する多様な意見を共有しあい、新たな視点を得るきっかけを創出することを目的として、コメント欄を2007年から提供している。

これに伴い「Yahoo!ニュース」では、ユーザーの表現の自由を尊重するとともに、より安心して利用できるサービス環境を目指すべく、以前より誹謗中傷などの内容を含む投稿を禁止し、コメントポリシー(※1)に違反投稿の具体例をわかりやすく明示。

24時間体制の専門チームによる人的なパトロールに加えて、LINEヤフーが開発したAI「深層学習を用いた自然言語処理モデル」などのテクノロジーを駆使しながら、誹謗中傷をはじめとする違反コメントの削除などの対策に努めている。

また、建設的なコメントとしてのスコアが高いものをAIが判定し上位表示させる「建設的コメント順位付けモデル」や、AIが多様な切り口のコメントを上位へ優先的に表示する「コメント多様化モデル」の導入など、コメント欄の健全化のため複数の独自のAIを取り入れてきた(※2)。

そして今回、「Yahoo!ニュース」は「コメントポリシーに違反するコメント」やコメントポリシー違反に該当しないもののコメント閲覧者が「不快と感じる可能性のある表現」に対して、ユーザーがコメントを投稿完了前にAIが表現の見直しを提案する「コメント添削モデル」の導入を開始した。

コメント投稿前に表現を見直す機会をユーザーに提供することについては有識者からも重要性を提起されており、「コメント添削モデル」はそのような意見も踏まえての導入となる。

具体的には、コメント投稿フォームにコメントを入力し「投稿する」ボタンを押下した際、「コメント添削モデル」が「コメントポリシーに違反するコメント」や「不快と感じる可能性のある表現」と判断した場合、該当箇所をハイライトで示し、表現の見直しを提案するポップアップが表示される。

これによってユーザーはコメントを投稿完了前に表現の見直しを行なうことが可能になった。

■「コメント添削モデル」の発動イメージ

※画像の内容は一例であり、条件に当てはまるコメントにのみ発動します。

■「コメント添削モデル」の挙動イメージ

※画像の内容は一例であり、条件に当てはまるコメントにのみ発動します。

同社では、今回の発表に際して、「『Yahoo!ニュース』は今後も、コメント欄で投稿される多様な考えや意見によって、ユーザーがニュースに対する興味や多角的な視点を持つきっかけを提供するとともに、日本のインターネットにおける健全な言論空間を構築し、より良い社会の実現に向けて全力を尽くしていきます」と述べている。

※1:Yahoo!ニュース コメントポリシー
https://news.yahoo.co.jp/info/comment-policy
※2:AIを軸に振り返る「Yahoo!ニュース コメント」健全化の取り組み(newsHACK)
https://news.yahoo.co.jp/newshack/inside/news_comment2023.html

関連情報
https://news.yahoo.co.jp/

構成/清水眞希

@DIMEのSNSアカウントをフォローしよう!

DIME最新号

最新号
2024年9月13日(金) 発売

DIME最新号は「AIスマホ Copilot+ PC 完全攻略ガイド」!SKY-HI、パリ五輪代表Shigekixも登場!

人気のタグ

おすすめのサイト

ページトップへ

ABJマークは、この電子書店・電子書籍配信サービスが、著作権者からコンテンツ使用許諾を得た正規版配信サービスであることを示す登録商標(登録番号 第6091713号)です。詳しくは[ABJマーク]または[電子出版制作・流通協議会]で検索してください。