小学館IDをお持ちの方はこちらから
ログイン
初めてご利用の方
小学館IDにご登録いただくと限定イベントへの参加や読者プレゼントにお申し込み頂くことができます。また、定期にメールマガジンでお気に入りジャンルの最新情報をお届け致します。
新規登録
人気のタグ
おすすめのサイト
企業ニュース

NECが映像認識AIとLLMにより動画から説明文章を自動生成する技術を開発

2023.12.11

NECは、生成AI(Generative AI)を支える大規模言語モデル(Large Language Model、以下「LLM」)と映像認識AIを組み合わせ、長時間の動画から利用者の目的に応じた短縮動画と説明文章を自動生成する技術を、世界で初めて(※)開発したと発表した。

↑同技術のデモ画面

ドライブレコーダー動画に適用し、事故報告書の作成時間を半減

近年、交通、物流、製造、建設、小売りなど、様々な場面で安全管理や業務の効率化を目的とした動画の利活用が進んでいる。しかし、長時間の動画の確認と、作業のヒヤリハットや改善点に関する報告書の作成に、膨大な工数と時間がかかることが課題となっている。

生成AIの活用により、静止画の説明文章の自動生成は可能となったが、様々な物体や環境から構成され、かつ時間経過とともに変化する複雑なシーンを含む動画には適用が困難であった。

そこで、NECでは、生成AIを支えるLLMと映像認識AIを組み合わせ、長時間の動画から利用者の目的に応じた短縮動画と説明文章を自動生成する技術を開発した。

同技術では、100以上の映像認識AIを活用し、シーンを構成する人物、車、建物、動物、樹木などの自然物、天気などの様々な物体や環境と、それらの変化を個別に認識。その認識結果だけをLLMで分析することで、動画全体を分析する場合と比較して、利用者が求めるシーンを効率的に見つけ出すことができ、目視による動画の繰り返し確認が不要となるという。

また、生成文章の品質を向上させるために、対象分野のサンプル映像を使ってLLMを事前にファインチューニングする。例えば、ドライブレコーダーの動画に適用する場合、事前に道路交通関係の動画を分析する。

これによりLLMが専門知識を備え、動画内で起きた出来事を正しく理解できるようになる。その結果、生成AIの正確性の課題であるハルシネーション)に対応しながら、信頼性の高い報告書を作成できるようになる。

さらに、NECが開発したコンパクトで高性能なLLMと、高速なデータ検索システムを活用し、1時間以上の動画から、目的のシーンの動画と説明文章を数秒間で作成可能とした。

NECは同技術を、ドライブレコーダーの動画から事故調査報告書を作成するユースケースに適用し、検証を行なった。その結果、従来は人手で行なっていた事故および事故原因となったシーンの探索や、報告書案の作成を自動化し、報告書作成にかかる時間を半減できることを確認したという。

↑開発した技術による分析の流れ

今後の展開としては、2024年3月に、同技術の試用版を損害保険会社や自動車メーカーなどに提供を開始する予定。また、看護・介護記録の作成支援、製造・建設現場での作業記録の作成支援、自動運転用AIに学習させる事故シーンの収集と説明文の作成、放送映像向け特定コンテンツの収集とナレーション原稿の作成など、様々なユースケースに展開する予定としている。

(※)2023年12月5日時点。NEC調べ。

関連情報
https://jpn.nec.com/

構成/立原尚子

@DIMEのSNSアカウントをフォローしよう!

DIME最新号

最新号
2024年6月14日(金) 発売

DIME最新号の大特集は「スマホ時代デジタルデトックス!脳疲労解消法」

人気のタグ

おすすめのサイト

ページトップへ

ABJマークは、この電子書店・電子書籍配信サービスが、著作権者からコンテンツ使用許諾を得た正規版配信サービスであることを示す登録商標(登録番号 第6091713号)です。詳しくは[ABJマーク]または[電子出版制作・流通協議会]で検索してください。