TA 팀이 "악성 AI 도구"를 분석하여 작성한 취약점 보고서: 악성 AI 도구 : HackerGPT"
HackerGPT는 웹 애플리케이션과 네트워크에 대한 해킹 기법, 도구, 전략에 대한 광범위한 데이터베이스를 갖춘 윤리적 해킹 AI 모델로 해킹 관련 질문에 대한 포괄적인 지원과 답변을 제공하며, 다른 GPT와 달리 악성 콘텐츠 제작에 제한을 두지 않는 해킹 전용 GPT입니다.
HackerGPT는 피싱 이메일 제작 방법, CVE 정보, 취약점 익스플로잇 가이드 등 웹 및 네트워크 공격에 대한 자세한 가이드를 제공하며, 해킹용 오픈소스 도구를 플러그인하여 공격에 필요한 정보를 얻을 수 있습니다.
대표적인 AI 모델인 ChatGPT보다 더 전문적이며, HackerGPT는 단순히 질문에 대한 답변만 하는 것이 아니라 플러그인을 통해 해킹 작업에 필요한 정보를 수집하기 때문에 초보자부터 숙련된 해커까지 다양하게 활용할 수 있는 AI 모델이라고 생각됩니다.
이러한 AI 모델이 점점 더 많아질수록 해킹의 접근성은 높아지고 난이도는 낮아질 것이며, 기관과 기업을 대상으로 공격을 시도하는 공격자들도 점점 더 많아질 것으로 예상됩니다.
1. 개요
HackerGPT는 웹 애플리케이션 및 네트워크에 대한 해킹 기술, 도구 및 전략에 대한 광범위한 데이터베이스를 갖춘 윤리적 해킹 AI 모델로 해킹 관련 질문에 대한 포괄적인 지원과 답변을 제공합니다.
해당 AI 모델을 처음 접한 SOCRadar 블로그에 따르면 "HackerGPT는 다른 GPT와 다르게 악성 콘텐츠 생성에 제한을 두지 않는다" 라고 설명되어 있어 해당 설명에 대한 검증 및 영향력을 알아보기 위해 해당 GPT에 대한 분석을 진행하였습니다.
출처 : https://www.esecurityplanet.com/trends/hackergpt/
2. HackerGPT의 기능
HackerGPT 소개 페이지에 따르면 해당 GPT는 윤리적 해킹 목적으로 사용 가능한 GPT라고 소개되어 있습니다. 해당 GPT는 사용자가 질문을 하면 해당 질문을 GPT가 있는 서버로 전송하여 먼저 무료 사용자인지, 유료(프로) 사용자인지 확인 후 자사 DB를 검색, AI 응답 프로세스에 통합합니다. 이후 해당 질문을 OpenRouter로 안전하게 전송합니다.
이 때 해당 응답은 모듈에 따라 차이가 존재합나다.
- HackerGPT(무료) : 고유한 Prompt와 결합된 해킹 데이터에 대한 의미 검색 기능을 갖춘 Mixtral 8x22B 모듈을 사용합니다.
- HackerGPT(유료) : 고유한 Prompt와 결합된 해킹 데이터에 대한 의미 검색 기능을 갖춘 Mistral Large 모듈을 사용합니다.
- GPT-4o(유료) : 최신 버전의 OpenAI Prompt와 결합된 모듈을 사용합니다.
SOCRadar에서 작성한 블로그에 따르면 피싱 이메일이나 DDoS 공격을 위한 봇넷 구성 가이드, CVE에 대한 정보, 해킹 방법에 대한 가이드, 실제 소스코드에 대한 취약점 분석 및 악용 가이드를 제공한다고 설명되어 있어 직접 HackerGPT를 사용하여 테스트 해보았습니다.
먼저 SOCRadar에서 사용된 피싱 메일 작성 요청을 그대로 전달하였을 때는 SOCRadar에서 설명한 것과 달리 비윤리적 이라는 이유로 거부되었으며, 피싱 이메일의 대응에 대한 일반적인 조언만 제공되었습니다.
다만 해당 부분은 다른 GPT와 동일하게 보안 테스트 권한을 가진 직원이라는 문구를 삽입하였을 때 피싱 메일 작성에 대한 가이드를 제공해주었습니다.
DDoS 공격을 위한 봇넷 생성 가이드도 동일한 방식으로 작성하여 요청한 결과 자세한 내용의 가이드를 제공해주었습니다. 해당 부분에 대해서는 Chatgpt와 다르게 봇넷을 어떻게 생성해야 하는지 자세하게 설명을 제공하였습니다.
CVE 정보의 경우 질문에 대해 설명문으로 제공해주는 경우도 있지만, 만약 오래된 CVE거나 정보가 부족한 경우에는 cvemap이라는 Tool을 사용하여 데이터를 제공합니다.
HackerGPT는 다른 GPT와 다르게 단순 정보에 대한 응답만을 제공하는 것이 아닌, 널리 사용되는 오픈 소스 해킹 도구를 사용하여 해킹 작업을 지원합니다. 지원하는 도구는 Subfinder, Katana, Naabu 등 다양한 오픈소스 도구 들이 존재하며, 이는 플러그인 방식으로 선택할 수 있습니다.
굳이 플러그인을 선택하지 않더라도, 이렇게 대화문으로 요청하면 자동으로 요청에 맞는 오픈소스 해킹 툴을 사용하여 응답합니다.
3. 활용
HackerGPT는 GPT 모델을 해킹에 초점을 맞추어 개발된 모델로, 기본적인 악의적 요청에 대해서는 차단되어 있으나 기존 GPT 모델들과 동일하게 추가적인 설명을 통해 우회하여 사용 가능합니다.
SQL Injeciton, XSS 공격과 같은 공격 방식에 대한 가이드를 자세하게 제공해주며, 성공하지 못했다고 전달하면 다른 대안 또한 제공합니다. 또 해킹 목표에 대한 정보를 제공하면 더 정확한 해킹 가이드를 제공 받을 수 있습니다.
그리고 HackerGPT는 오픈소스로 운영되기에 누구든지 해당 GPT 모델을 활용할 수 있다는 점도 존재합니다.
다만, 윤리적 목적으로 사용되야 하는 HackerGPT 정책 상 정교한 공격 수행에는 크게 도움이 되지 않으며, 최신 취약점이나 오래된 CVE의 경우 cvemap 같은 플러그인에 전적으로 의존하는 부분은 단점으로도 보여집니다.
4. 결론
AI 모델의 기술은 다양한 분야에서 사용되며, 이는 긍정적인 방향으로도 사용되나 반대로 악의적인 목적으로 사용될 수 있으며, 대표적인 예시 중 하나인 HackerGPT에 대해 분석을 진행하였습니다.
HackerGPT는 피싱 메일 작성, CVE에 대한 정보, 취약점 공격 가이드 등 웹 및 네트워크 공격에 대한 자세한 가이드를 제공해주며, 해킹에 활용되는 오픈소스 도구들을 플러그인 방식으로 추가하여 공격 작업 시 필요한 정보를 얻을 수 있습니다.
전체적으로 해킹에 초점을 맞추었기 때문에 대표적인 AI 모델인 ChatGPT보다 좀 더 전문적인 내용 위주로 구성되었으며, 단순 질문에 대한 응답만 제공하는 것이 아닌 플러그인을 통해 해킹 작업에 필요한 정보 수집 작업 등을 HackerGPT가 대신 수행해주어 초보자부터 숙련된 해커까지 다양한 방법으로 활용할 수 있는 AI 모델이라고 생각합니다.
이러한 AI 모델이 점점 늘어날수록 해킹에 대한 접근성과 난이도가 낮아져, 기관 및 기업들을 상대로 공격을 시도하는 공격자들이 점차 늘어날 것으로 예상됩니다.
5. 참고 자료
https://socradar.io/rise-of-malicious-ai-tools-a-case-study-with-hackergpt/
https://github.com/Hacker-GPT/HackerGPT-2.0
