小学館IDをお持ちの方はこちらから
ログイン
初めてご利用の方
小学館IDにご登録いただくと限定イベントへの参加や読者プレゼントにお申し込み頂くことができます。また、定期にメールマガジンでお気に入りジャンルの最新情報をお届け致します。
新規登録
人気のタグ
おすすめのサイト
企業ニュース

サイバー犯罪者が注目!?話題のChatGPTに迫る危機

2023.04.19

ChatGPTをサイバー犯罪に利用しようとする競争が白熱している。

こうした中、サイバーセキュリティ企業NordVPNはこのほど、ダークウェブに関する調査を実施。その結果、チャットボットの操作方法をオンラインで議論するハッカーが7倍増加していることを明らかにした。

「ボットハッキング」関連の投稿が625%増

ダークウェブフォーラムにおけるAIツール関連の新規投稿数は、1月の120件から2月には870件と、625%増加した。

ChatGPTに関するフォーラムのスレッドは1か月のうちに37件から91件へと145%増加し、ボットの悪用がダークウェブの中心的な話題となった。

1月初旬の多くのスレッドでは、悪質な業者がChatGPTに基本的なマルウェアを作成させることができた事例について話題が集中していたが、この脆弱性については開発者であるOpenAIがその後対処している。

1か月が経つとハッカーコミュニティではより攻撃的な行動を求める傾向が高まり、チャットボットをのっとりそれを悪用して大混乱に陥れるという計画が投稿されている。

ダークウェブフォーラムは通常のサーチエンジンでは見つからないようになっており、世界中の匿名ハッカーたちに利用されている。

そこでは、「ChatGPT攻略法」「ChatGPT脱獄2.0」「ChatGPTによるマルウェアの進歩とフィッシングツールとしてのChatGPT」などといったタイトルが見受けられる。

ChatGPTがあれば、犯罪者たちはその人工知能を利用し、同時に複数の被害者をターゲットにしながら、ロマンス詐欺のような詐欺行為を工業的規模で働くことができる。

ハッカーが一度チャットボットをのっとってしまうと、安全上の制約は無効にされ、マルウェアやフィッシングメールの生成、ヘイトスピーチの宣伝、もしくはプロパガンダ拡散などの目的で利用されることになる。

「ChatGPTのようなチャットボットは、私たちの生活をさまざまな面でより便利にしてくれます。ありふれた文章作成、複雑なテーマの要約、あるいは休暇プランの提案といったことができますから」と、NordVPNのサイバーセキュリティ専門家であるマリユス・ブリエディス氏は述べている。

「しかし、サイバー犯罪者たちにとっては、この革命的なAIは、多くの詐欺行為に欠けていたものを埋められる技術となり得るのです」

「ソーシャルエンジニアリングという手法は、電子メールやショートメッセージ、オンラインチャットなどを通じて、ターゲットに不正なファイルのクリックや悪意あるプログラムのダウンロードを促すもので、ハッカーにとっては時間のかかる作業です。しかし、チャットボットを不正に操ることができれば、そういった作業を丸投げして詐欺の生産ラインを構築することができるのです」

「ChatGPTが機械学習することで、スペルミスなどから詐欺であることがばれていたフィッシングメールなどが、よりリアルで説得力のあるものに改善されてしまう可能性があります」

「心配なことに、ここ1か月のダークウェブでの話題は、ChatGPTになにか面白いことや新しいことをさせるための単純な『チート』や回避策から、ChatGPTの完全支配とその兵器化という話に発展しています」

ChatGPTは世界で最も急成長しているアプリで、2か月で1億人のユーザーを獲得している。検索エンジン「Bing」強化の目的でMicrosoftがそのAI技術を試用しているところだ。

NordVPNがお勧めするチャットボット管理のためのヒント

個人情報を伝えない

AIチャットボットは会話をするたびに学習し、「人間」との対話のスキルを向上させるだけでなく、より正確なあなたのプロフィールを構築、保存することができるように設計されている。個人情報がどのように使われるか不安な場合は、AIチャットボットに個人情報を伝えることは避けるべきだ。

フィッシングの可能性を疑う

人工知能はネット詐欺師にさらなる詐欺のチャンスを与える恐れがある。ハッカーがボットを使ってますますリアルな詐欺を仕掛けるため、フィッシング攻撃が増加することが予想される。つづりや文法の誤りといった従来のフィッシング詐欺の特徴は姿を消すだろう。これからは、送信者のアドレスを確認し、リンクやドメイン名に矛盾がないか注意すべきだ。

アンチウイルスツールを利用する

ハッカーはすでにチャットボットを操り基本的なマルウェアを生成することに成功している。だからこそ、脅威対策のようなツールは利用する価値がある。怪しいファイルを警告し、ダウンロードしてもユーザーの安全を確保できる。

出典元:NordVPN

構成/こじへい

@DIMEのSNSアカウントをフォローしよう!

DIME最新号

最新号
2024年7月16日(火) 発売

超豪華付録「3WAYハンディ扇風機」付きのDIME最新号では「ヒット商品は『推し』が9割!」を大特集!

人気のタグ

おすすめのサイト

ページトップへ

ABJマークは、この電子書店・電子書籍配信サービスが、著作権者からコンテンツ使用許諾を得た正規版配信サービスであることを示す登録商標(登録番号 第6091713号)です。詳しくは[ABJマーク]または[電子出版制作・流通協議会]で検索してください。