인도의 데이터 및 사이버보안 전문 넷엔리치가 생성 AI 도구인 '사기GPT'를 발견했다고 공개해 주목을 받고 있다.

생성 인공지능(AI)을 악용하는 갖가지 수법이 등장하는 가운데 초보자도 사용할 수 있는 사이버 공격용 도구 '사기GPT(FraudGT)'가 등장했다는 것이다. 최근 발견된 웜GPT와 비슷한 형태인데, 이번에는 월정액제로 버젓히 돈을 받고 서비스한다는 점이 눈에 띈다.

이에 따르면 사기GPT는 악성 코드와 멀웨어, 설득력있는 피싱 메일 등을 자동으로 작성해주는 도구로, 특히 초보자도 고급 사이버 공격을 가능하게 해준다. 또 취약점이나 카드 사기가 가능한 사이트를 발견해주고, 해킹 수법 및 사이버 범죄에 대한 조언까지 제공해준다고 홍보하고 있다.

특히 한달에 200달러(약 26만8000원)부터 1년 1700달러(약 228만원)까지 구독 서비스를 실시하고 있다. 

이 도구를 만들었다고 주장하는 '캐나다킹핀12 그룹'이라는 단체는 텔레그램 채널을 개설, 사기GPT를 활용한 실제 사례에 대한 동영상도 공개했으며 7월 현재 구독자가 3000명 이상이라고 주장했다.  또 자신들은 다양한 다크 웹 시장에서 검증된 믿을만한 공급 업체라고 밝혔다. 

사기GPT로 국가 안보를 위협하기는 어려울 수 있지만, 교육이나 의료 등 공공 사비스에 심각한 타격을 줄 수 있을 것이라고 지적했다.

존 밤베넥 넷엔리치 수석 보안책임자는 "사기GPT는 오픈소스 AI 모델을 기반으로 가드레일을 무력화해서 구축했을 것"이라며 "아직 개발 초기 단계일 가능성이 높지만, AI의 오용을 막기 위해 앞으로 지속적인 노력이 필요하다는 것을 보여준다"고 말했다. 

이와 관련, 지난달에는 피싱 메일 생성과 배포를 돕는 사이버 범죄용 AI 챗봇 '웜GPT(WormGPT)'가 등장했다는 보도가 나왔다. 사이버 보안회사 슬래시넥스트에 따르면 웜GPT는 비영리 오픈소스 그룹인 일루서AI가 출시한 'GPTJ' 모델을 기반으로 제작, 7월초 공개해 수천 건의 피싱 메일 배포에 사용한 것으로 알려졌다. [출처 : AI타임스(https://www.aitimes.com])

#사기GPT