TAチームが「悪意のあるAIツール」を分析して書いた脆弱性レポート： HackerGPT
HackerGPTは、ウェブアプリケーションやネットワークのハッキングテクニック、ツール、戦略に関する豊富なデータベースを備え、ハッキングに関する質問に回答し、包括的なサポートを提供するエシカルハッキングAIモデルで、他のGPTとは異なり、悪意のあるコンテンツの作成に制限を設けないハッキング専用のGPTです。
HackerGPTは、フィッシングメールの作成方法、CVEに関する情報、脆弱性悪用ガイドなど、ウェブ攻撃やネットワーク攻撃に関する詳細なガイドを提供しており、ハッキング用のオープンソースツールをプラグインすることで、攻撃に取り組む際に必要な情報を得ることができます。
代表的なAIモデルであるChatGPTよりも専門性が高く、HackerGPTは単に質問に答えるだけでなく、プラグインを通じてハッキング作業に必要な情報を収集することもできるので、初心者からベテランハッカーまで様々な使い方ができるAIモデルだと思います。
このようなAIモデルが増えれば増えるほど、ハッキングはより身近で難易度の低いものになり、組織や企業への攻撃を試みる攻撃者が増えていくことが予想されます。
1. 概要
HackerGPTは、ウェブアプリケーションとネットワークに関するハッキング技術、ツール、戦略に関する広範なデータベースを備えた倫理的ハッキングAIモデルであり、ハッキング関連の質問に対する包括的なサポートと回答を提供する。
私たちがこのAIモデルに最初に出会ったSOCRadarのブログによると、「HackerGPTは、他のGPTと異なり、悪意のあるコンテンツの生成に制限を設けていない」とのことなので、この声明を検証し、その影響を判断するために分析しました。
リソース : https://www.esecurityplanet.com/trends/hackergpt/
2. HackerGPTの特徴
HackerGPTの紹介ページによると、このGPTはエシカルハッキングを目的としたGPTです。ユーザが質問すると、GPTはその質問をGPTが存在するサーバに送信し、GPTはまずユーザが無料ユーザか有料（プロ）ユーザかをチェックし、DBを検索し、AIの回答プロセスに統合する。そして、その質問をOpenRouterに安全に送信する。
回答はモジュールによって異なる。
- HackerGPT（無料）： ユニークなプロンプトと組み合わせたハッキングデータのセマンティック検索機能を持つMixtral 8x22Bモジュールを使用。
- HackerGPT (有料)： ユニークなプロンプトと組み合わせたハッキングデータのセマンティック検索機能を持つMistral Largeモジュールを使用。
- GPT-4o（有料）： OpenAI Promptの最新バージョンと組み合わせたモジュールを使用します。
SOCRadarが書いたブログによると、フィッシングメールやDDoS攻撃用のボットネットの構成ガイド、CVEに関する情報、ハッキング方法のガイド、実際のソースコードに対する脆弱性解析と悪用ガイドを提供しているとのことなので、HackerGPTを使って自分で試してみることにした。
まず、SOCRadarが使っているようなフィッシング・メールを書きたいというリクエストを転送したところ、倫理に反するとして却下され、フィッシング・メールへの対応方法に関する一般的なアドバイスが提供されただけだった。
しかし、他のGPTと同じセクションに「セキュリティ・テスト権限を持つ従業員」という文言を挿入したところ、フィッシング・メールの書き方に関するガイダンスが提供された。
DDoS攻撃用のボットネット作成に関するガイドも同様で、私がリクエストしたところ、詳細なガイドが提供されました。Chatgptとは異なり、ボットネットの作成方法について詳細な説明がありました。
CVE情報については、質問に答える形で説明をすることもあるが、CVEが古かったり情報が不足している場合は、cvemapというツールを使ってデータを提供している。
他のGPTとは異なり、HackerGPTは単に情報を提供するだけでなく、人気のあるオープンソースのハッキングツールを使用してハッキングを支援します。Subfinder、Katana、Naabuなど様々なオープンソースツールがあり、プラグインとして選択することができます。
プラグインを選択しなくても、このようなダイアログでリクエストすれば、リクエストに適したオープンソースのハッキングツールが自動的に返信される。
3. 利用
HackerGPTは、GPTモデルのハッキングに特化したバージョンで、基本的な悪意のあるリクエストに対してはブロックされますが、従来のGPTモデルと同じように追加の説明で回避することができます。
SQL InjecitonやXSS攻撃のような攻撃手法の詳細なガイドを提供し、失敗したことを伝えると代替手段を提供します。また、ハッキングの目標に関する情報を提供することで、より正確なハッキングガイダンスを得ることができます。
また、HackerGPTはオープンソースであるため、誰でもGPTモデルを利用することができます。
しかし、HackerGPTは倫理的な目的のために使用されるというポリシーのため、高度な攻撃を行うにはあまり役に立たず、最新の脆弱性や古いCVEについてはcvemapのようなプラグインに完全に依存していることも欠点と見なされている。
4. 結論
AIモデルの技術は様々な分野で利用されており、善意に使われることもあれば、悪意に使われることもあります。今回はその代表的な例の一つであるHackerGPTについて分析しました。
HackerGPTは、フィッシングメールの作成方法、CVE（共通脆弱性識別子）に関する情報、脆弱性を悪用するためのガイドなど、ウェブやネットワーク攻撃に関する詳細なガイドを提供し、オープンソースのツールをプラグインとして使用することで、攻撃の際に必要な情報を入手できるようにします。
HackerGPTはハッキング全体に焦点を当てているため、代表的なAIモデルであるChatGPTよりも専門性が高く、単に質問に答えるだけでなく、プラグインを通じてハッキング作業に必要な情報を収集するため、初心者から経験豊富なハッカーまで幅広く利用できるAIモデルだと考えます。
このようなAIモデルがますます利用可能になるにつれて、ハッキングがより身近で簡単なものとなり、企業や組織に対する攻撃を試みる攻撃者が増加することが予想されます。
