AI가 이제 사이버 공격을 조작하고 있습니다

이제 AI가 치명적인 취약점을 조작하고 있으며, 그 영향은 오싹할 정도입니다. 디지털 환경은 오도하고 방해하기 위해 설계된, AI가 생성한 기계 속의 유령이라는 새롭고 교활한 위협에 직면해 있습니다.

JFrog 보안 팀은 최근 단일 신규 GitHub 계정에서 비롯된 54개의 조작된 SQLite 취약점이라는 충격적인 경향을 발견했습니다. 이 출처에서 나온 55개의 권고 사항을 감사한 결과, 단 하나만이 합법적인 버그였으며 나머지는 완전히 허구였습니다. 흥미롭게도 GPTZero 분석 결과, 이 권고 사항들은 명백히 AI가 생성한 콘텐츠로 판명되었습니다.

이러한 유령 중 하나인 CVE-2026-51302의 구조를 살펴보겠습니다. 해당 권고 사항은 SQLite 3.41 버전 내 exprComputeOperands 함수에서 힙 use-after-free 취약점이 발생한다고 주장했습니다. 그러나 JFrog의 조사 결과, exprComputeOperands는 해당 버전에 존재하지 않았으며 2025년 중반에야 등장한 것으로 확인되었습니다. 이는 단발적인 사건이 아니었습니다. 6개의 권고 사항 전반에서 존재하지 않는 함수, 파일 제한을 초과하는 줄 번호, 실제로 존재하지 않는 패치 등을 인용하는 일관된 패턴이 발견되었습니다.

놀랍게도, 이러한 노골적인 조작은 Red Hat으로부터 초기 9.8 'Critical(치명적)' 심각도 점수를 받았습니다. 이 높은 등급은 전 세계 조직에 실제 경고를 촉발했으며, 정교하게 AI가 생성한 유령이 초기 관문들을 얼마나 쉽게 통과할 수 있는지 보여주었습니다. 이번 사건은 AI가 정보를 무기화하여 즉각적이지만 결국 헛된 주의를 요구하는 그럴듯한 위협을 만들어낼 수 있는 위험한 새로운 국면을 강조합니다.

시스템의 아킬레스건이 이제 악용을 위해 완전히 노출되었습니다. 2024년 2월부터 NIST의 NVD(National Vulnerability Database)는 엄청난 적체량에 압도되어 제출물에 대한 심층 분석을 중단했습니다. 이러한 치명적인 실패로 인해 2025년 말까지 27,000개 이상의 미처리 취약점이 발생할 것으로 예상되며, 이는 2024년 2월의 13,000개에서 급격히 증가한 수치입니다. CISA의 자체 강화 프로그램도 마찬가지로 대기열에 허덕이고 있습니다.

이러한 시스템적 붕괴를 가중시키는 것은 CVE 제출 절차 자체에 사실상 아무런 관문이 없다는 점입니다. 취약점을 수락하기 위해 신원 확인이나 개념 증명(proof-of-concept)조차 요구하지 않습니다. 이러한 개방형 정책은 누구든, 혹은 무엇이든 아무런 질문 없이 글로벌 보안 인프라에 직접 주장을 주입할 수 있는 마찰 없는 경로를 제공합니다.

이는 시스템적 취약점이 재앙적으로 결합된 완벽한 폭풍을 만들어냅니다. 공식 데이터베이스의 방대한 분석 적체와 검증을 요구하지 않는 제출 포털이 결합되어, 노력이 거의 들지 않는 AI 생성 "쓰레기(slop)"가 전 세계 보안 도구가 의존하는 데이터베이스로 쉽게 흘러 들어가고 있습니다. 자동화된 방어 시스템은 이제 합성 노이즈를 걸러내고, 존재하지 않는 함수를 찾거나 결함이 없던 코드를 패치하려고 시도하는 등의 작업을 수행해야 하는 처지에 놓였습니다.

자동화된 취약점 분류를 위해 AI 보안 에이전트에 의존하는 조직들은 이제 새롭고 교활한 위협에 직면해 있습니다. 취약점을 선제적으로 식별하고 패치하도록 설계된 이 정교한 도구들이 가짜 CVE를 생성하는 바로 그 AI에 의해 속고 있습니다. 시스템을 보호하는 대신, 당신의 에이전트들이 오히려 자신들을 공격하는 무기가 되어 유령 위협에 자원을 낭비하게 될 수 있습니다.

Red Hat이 처음에 치명적인 것으로 분류했던 가상의 SQLite 취약점인 CVE-2026-51302를 패치하려는 자율 에이전트를 상상해 보십시오. 이 에이전트는 SQLite 3.41에 존재하지 않는 exprComputeOperands 함수를 찾거나 고장 나지도 않은 코드를 수정하려고 시도하며 컴퓨팅 자원을 낭비할 것입니다. 이는 단순한 이론적 문제가 아닙니다. JFrog의 감사 결과, 한 GitHub 계정에서 보고된 55개의 권고 사항 중 54개가 가짜였으며, 모두 에이전트를 헛수고하게 만들 목적으로 작성된 것으로 밝혀졌습니다.

이 문제의 비대칭성은 엄청납니다. 설득력 있는 AI 생성 가짜 CVE를 만드는 것은 단 몇 센트의 컴퓨팅 비용만으로 거의 무료로 가능합니다. 그러나 이를 검증하고 반박하려면 꼼꼼한 코드 검토, 교차 참조, 독립적인 분석 등 상당한 전문가의 인적 노력이 필요합니다. 이는 보안 팀에 지속 불가능한 부담을 주어 AI가 생성한 소음의 바다에 빠뜨립니다. 이 현상에 대한 더 깊은 통찰력을 얻으려면 SQLite Critical CVEs or LLM Slop? - JFrog Security Research를 읽어보십시오.

공개 취약점 피드에 대한 암묵적 신뢰의 시대는 끝났습니다. 이제 보안 팀은 '절대 신뢰하지 말고 항상 검증하라'는 새로운 제1원칙에 따라 운영되어야 합니다. 치명적인 CVE에 대한 대응을 시작하기 전에 즉시 공급업체의 공식 보안 페이지와 교차 참조하십시오. 이 중요한 단계가 실제 위협과 AI가 생성한 허상을 구분해 줍니다.

이는 단순한 제안이 아니라 시스템적 실패에서 비롯된 필수 요구 사항입니다. 2025년 말 27,000개 이상의 미처리 취약점으로 불어난 NIST NVD의 적체 현상은 기만 행위가 발생하기 쉬운 환경을 조성했습니다. 신원 확인이나 개념 증명이 부족한 제출 시스템은 가짜 권고 사항이 그대로 통과되도록 방치합니다.

업계의 합의는 이제 취약점 분류를 위한 완전 자동화된 AI 에이전트에서 크게 벗어나고 있습니다. 미래에는 인간 전문가가 AI가 발견한 위협을 검증하고, 존재하지 않는 코드에 9.8점의 치명적 점수를 부여할 수 있는 정교한 디지털 기만에 맞서 중요한 필터 역할을 하는 하이브리드 모델이 요구됩니다.

AI가 생성한 '슬롭(slop)'은 공개 피드의 신호 대 잡음비를 점점 더 저하시켜 조직이 보안 태세를 조정하도록 강요할 것입니다. 모든 새로운 보고서는 증명되기 전까지는 가짜일 가능성이 있다고 가정하고, 공급업체가 확인한 위협을 최우선으로 처리하십시오. 보안 운영은 본질적으로 회의적인 태도를 갖추어야 하며, 실제 위협과 AI가 만든 유령을 구분할 수 있는 인간의 전문성에 투자해야 합니다. 이제 검증 비용은 속았을 때 발생하는 운영 비용에 비하면 미미한 수준입니다.

AI가 생성한 가짜 CVE란 무엇인가요?

이는 실제 보안 결함을 모방하기 위해 AI가 만든 가짜 취약점 보고서입니다. 이러한 가짜 보고서는 그럴듯하게 들리지만 완전히 거짓인 기술적 세부 정보를 포함하고 있으며, 공식 데이터베이스에 등록되도록 설계되었습니다.

가짜 CVE가 어떻게 9.8점의 치명적 점수를 받을 수 있었나요?

해당 가짜 권고 사항이 공식 CVE 프로그램에 제출되었습니다. 엄청난 적체 현상으로 인해 NIST의 NVD는 심층 분석을 덜 수행하게 되었고, 검증되지 않은 보고서가 처리될 수 있었습니다. 그 결과 Red Hat과 같은 하위 공급업체들이 결함이 있는 데이터를 기반으로 초기 점수를 부여했습니다.

가짜 CVE가 주요 보안 위협인 이유는 무엇인가요?

가짜 CVE는 자동화된 보안 도구와 보안 팀을 오도하여 존재하지 않는 위협에 중요한 자원을 낭비하게 만듭니다. 이러한 '양치기 소년' 시나리오는 신뢰를 무너뜨리고 팀이 실제 취약점을 놓치게 만들 수 있습니다.

가짜 CVE로부터 조직을 어떻게 보호할 수 있나요?

조치를 취하기 전에 항상 공식 공급업체의 보안 권고 페이지에서 중요한 CVE를 확인하십시오. 자동화된 시스템의 경고를 검증하기 위해 인간이 개입하는 프로세스를 구현하고 CVE를 액면 그대로 절대 신뢰하지 마십시오.