AIを悪用するサイバー犯罪の新たな波

2024.01.28

WorkWonders

カスペルスキーによる最新の研究では、犯罪者たちがチャットボットのChatGPTを使って悪質なAIプロンプトを作成し、データを盗み出す手口が巧妙化していると警告しています。
2023年には、そのようなプロンプトがオンラインで販売されているのを249例発見しました。
これらの技術は完全な攻撃チェーンや変形するランサムウェアを生成するには至っていませんが、AIを使った違法行為への関心は高まっています。

たとえば、専門的な知識が必要だったタスクも、今ではたった一つのプロンプトで解決可能となり、犯罪への参入障壁が劇的に低下しています。
加えて、悪意のあるプロンプトを作成し、それを技術のない者たちに販売するビジネスも拡大しています。
チャットGPTのクレデンシャルやハックされたプレミアムアカウントが闇市場で売買される事例も増えているのです。

カスペルスキーは、AIによるランサムウェアのツールが2025年までに大幅に向上する「現実的な可能性」があるとする英国の報告に続いてこの研究結果を発表しました。
しかし、犯罪者たちが宣伝しているこれらのソフトウェアが本当にAIを利用しているかは検証されていません。
テクノロジーが根本的にもたらす便益が、不正な目的に利用され得るという、AIの暗黙のリスクを浮き彫りにしています。

出典 : https://www.theregister.com/2024/01/25/dark_web_chatgpt/

【このニュース記事はAIを利用して書かれています】

著者名 :