이 질문에 대한 답은 복잡하고 빠르게 진화하고 있으며 아직 불확실하다. 공격으로부터 컴퓨터를 방어하는 일에 AI가 도움이 되는 반면, AI로는 물론 인간 지능으로도 결코 해결할 수 없는 부분이 있다. 이 두 가지를 구분하는 것은 어렵다. 새로운 모델이 빠르게 진화하기 때문에 AI가 어디에 도움이 될지 아닐지 단언할 수는 없다. “AI는 절대로 하지 않을 것이다”는 말이 가장 위험할 수도 있다.
인공지능 및 머신러닝의 정의
“인공지능”과 “머신러닝”은 자주 서로 혼용되지만 같은 말이 아니다. AI는 인간 행동을 모방하고 그 이상을 가능케 하는 기술을 말한다. 머신러닝은 인간의 개입 없이 인사이트를 얻도록 알고리즘을 사용해 데이터 내의 패턴을 파악하는 AI 하위집합이다. 머신러닝의 목적은 인간이나 컴퓨터가 더 나은 의사결정을 하도록 돕는 것이다. 오늘날 상용 제품에서 AI라고 하는 것의 많은 부분은 사실 머신러닝이다.AI는 시스템 방어나 침투를 하는 사람들에게 즉각적으로 유용한 강점을 갖고 있다. 대량의 데이터에서 패턴을 검색할 수 있고 새로운 이벤트를 기존 이벤트와 연관시키는 방법을 자주 찾아낸다.
머신러닝 기법에는 매우 통계적인 것이 많다. 컴퓨터 시스템과 암호 알고리즘에 대한 공격도 그렇다. 새로운 머신러닝 툴킷이 널리 보급되면서 공격자와 방어자가 알고리즘을 시험해볼 수 있게 되었다. 공격자는 약점을 찾기 위해, 방어자들은 공격자의 징후를 살피기 위해 알고리즘을 사용한다.
AI는 기대에 못 미치기도 하고 실패할 때도 있다. 훈련 데이터 집합 내에 있는 것만 표현할 수 있으며, 컴퓨터가 자주 그러하듯이 지나치게 문자 그대로 해석한다. 또한 무작위성을 사용하기 때문에 예측불가능하고 비결정적인 특성을 “온도”라고 부르기도 한다.
사이버보안에서의 인공지능 활용 사례
컴퓨터 보안도 여러 측면을 다루며 시스템을 방어하려면 난해한 수학 분야와 네트워크 분석, 소프트웨어 엔지니어링에 관심을 기울여야 한다. 상황이 더 복잡한 것은 인간이 시스템의 큰 부분을 차지하기 때문이며, 인간의 약점을 이해하는 것이 필수적이다.
또한, 컴퓨터 보안 분야는 서로 많이 다른 여러 하위 전문분야가 혼합되어 있다. 예컨대 악성 패킷을 탐지하여 네트워크 계층을 안전하게 보호하는 방법이 해시 알고리즘을 강화하는 데는 무용지물일 수도 있다.
새로운 기술을 사용하여 암호 알고리즘을 해독하는 방법을 탐색한 바 있는 레질리안(Resilian) CEO 폴 코처는 “분명 AI로 진전을 이룰 수 있는 분야가 있다. 버그 사냥과 코드 재확인 같은 경우에는 퍼징(fuzzing, 결함을 유발하기 위해 작은 무작위 오류를 도입하는 과정)보다 AI가 더 나을 것이다”라고 말했다.
이와 같은 방식으로 이미 성공을 거두고 있는 사례도 있다. 가장 간단한 예는 예전의 지식을 정형화하여 다시 사용하는 것이다. 코인베이스(Coinbase) 책임자 코너 그로건은 챗GPT에게 이더리움 블록체인에서 실행 중인 실시간 계약을 확인할 것을 요청했고 그 결과 AI는 약점들과 수정에 필요한 권장 사항을 간결한 목록으로 제시했다.
AI는 이 작업을 어떻게 수행했을까? 메커니즘은 불분명하지만, 아마도 과거에 있었던 비슷한 약점에 대한 공개적인 토론을 어떤 형태로든 활용했을 것이다. 전문가의 지도나 맞춤형 프로그래밍 없이도 이전의 인사이트를 새로운 코드와 결합하여 해결할 문제를 정리한 유용한 목록을 작성했다.
마이크로소프트는 이 방식을 상업화하기 시작했다. 프로토콜과 암호 알고리즘의 기본 지식을 갖춘 챗GPT4의 보안 버전인 AI 보안 코파일럿(Security Copilot)을 훈련시켜 프롬프트에 응답하고 인간을 지원할 수 있도록 했다.
대형언어모델에 내장된 깊고 광범위한 지식 저장소를 활용하는 사례도 있다. 클라로티(Claroty) 연구진은 코딩에 대한 백과사전식 지식을 갖춘 챗GPT를 활용하여 시간을 절약했고 여러 약점을 일제히 악용하는 코드도 작성하여 해킹 대회에서 우승했다.
공격자도 AI의 코드 작성 및 재작성 능력을 이용할 수 있다. 릴리아퀘스트(ReliaQuest) CTO 조 파틀로는 우리는 사실 AI가 실제로 어떻게 “생각”하는지 모르는데 이러한 불투명성이 유용하게 활용될 수 있다면서 “코덱스(Codex)나 깃허브 코파일럿(Github Copilot)와 같은 코드 완성모델이 이미 소프트웨어 작성을 돕고 있고 AI로 생성된 맬웨어 변이도 이미 확인되었다. 예를 들어, 부정직한 C 대회 우승자에 대해 모델을 훈련시키면 효과적인 뒷문을 고안할 수 있다”라고 말했다.
이미 자리잡은 일부 기업은 AI를 사용하여 기업 환경 내 네트워크 이상 등의 문제를 탐색하고 있다. 머신러닝과 통계적 추론을 결합하여 수상한 행동을 감지하는 것이다.
함께 보면 좋은 콘텐츠
Sponsored
Surfshark
“유료 VPN, 분명한 가치 있다” VPN 선택 가이드
ⓒ Surfshark VPN(가상 사설 네트워크, Virtual Private Network)은 인터넷 사용자에게 개인 정보 보호와 보안을 제공하는 중요한 도구로 널리 인정받고 있다. VPN은 공공 와이파이 환경에서도 데이터를 안전하게 전송할 수 있고, 개인 정보를 보호하는 데 도움을 준다. VPN 서비스의 수요가 증가하는 것도 같은 이유에서다. 동시에 유료와 무료 중 어떤 VPN을 선택해야 할지 많은 관심을 가지고 살펴보는 사용자가 많다. 가장 먼저 사용자의 관심을 끄는 것은 별도의 예산 부담이 없는 무료 VPN이지만, 그만큼의 한계도 있다. 무료 VPN, 정말 괜찮을까? 무료 VPN 서비스는 편리하고 경제적 부담도 없지만 고려할 점이 아예 없는 것은 아니다. 보안 우려 대부분의 무료 VPN 서비스는 유료 서비스에 비해 보안 수준이 낮을 수 있다. 일부 무료 VPN은 사용자 데이터를 수집해 광고주나 서드파티 업체에 판매하는 경우도 있다. 이러한 상황에서 개인 정보가 유출될 우려가 있다. 속도와 대역폭 제한 무료 VPN 서비스는 종종 속도와 대역폭에 제한을 생긴다. 따라서 사용자는 느린 인터넷 속도를 경험할 수 있으며, 높은 대역폭이 필요한 작업을 수행하는 데 제약을 받을 수 있다. 서비스 제한 무료 VPN 서비스는 종종 서버 위치가 적거나 특정 서비스 또는 웹사이트에 액세스하지 못하는 경우가 생긴다. 또한 사용자 수가 늘어나 서버 부하가 증가하면 서비스의 안정성이 저하될 수 있다. 광고 및 추적 위험 일부 무료 VPN은 광고를 삽입하거나 사용자의 온라인 활동을 추적하여 광고주에게 판매할 수 있다. 이 경우 사용자가 광고를 보아야 하거나 개인 정보를 노출해야 할 수도 있다. 제한된 기능 무료 VPN은 유료 버전에 비해 기능이 제한될 수 있다. 예를 들어, 특정 프로토콜이나 고급 보안 기능을 지원하지 않는 경우가 그렇다. 유료 VPN의 필요성 최근 유행하는 로맨스 스캠은 인터넷 사기의 일종으로, 온라인 데이트나 소셜 미디어를 통해 가짜 프로필을 만들어 상대를 속이는 행위다. 이러한 상황에서 VPN은 사용자가 안전한 연결을 유지하고 사기 행위를 방지하는 데 도움이 된다. VPN을 통해 사용자는 상대방의 신원을 확인하고 의심스러운 활동을 감지할 수 있다. 서프샤크 VPN은 구독 요금제 가입 후 7일간의 무료 체험을 제공하고 있다. ⓒ Surfshark 그 외에도 유료 VPN만의 강점을 적극 이용해야 하는 이유는 다음 3가지로 요약할 수 있다. 보안 강화 해외 여행객이 증가함에 따라 공공 와이파이를 사용하는 경우가 늘어나고 있다. 그러나 공공 와이파이는 보안이 취약해 개인 정보를 노출할 위험이 있다. 따라서 VPN을 사용하여 데이터를 암호화하고 개인 정보를 보호하는 것이 중요하다. 서프샤크 VPN은 사용자의 개인 정보를 안전하게 유지하고 해킹을 방지하는 데 유용하다. 개인정보 보호 인터넷 사용자의 검색 기록과 콘텐츠 소비 패턴은 플랫폼에 의해 추적될 수 있다. VPN을 사용하면 사용자의 IP 주소와 로그를 숨길 수 있으며, 개인 정보를 보호할 수 있다. 또한 VPN은 사용자의 위치를 숨기고 인터넷 활동을 익명으로 유지하는 데 도움이 된다. 지역 제한 해제 해외 여행 중에도 한국에서 송금이 필요한 경우가 생길 수 있다. 그러나 IP가 해외 주소이므로 은행 앱에 접근하는 것이 제한될 수 있다. VPN을 사용하면 지역 제한을 해제해 해외에서도 한국 인터넷 서비스를 이용할 수 있다. 따라서 해외에서도 안전하고 편리하게 인터넷을 이용할 수 있다. 빠르고 안전한 유료 VPN, 서프샤크 VPN ⓒ Surfshark 뛰어난 보안 서프샤크 VPN은 강력한 암호화 기술을 사용하여 사용자의 인터넷 연결을 안전하게 보호한다. 이는 사용자의 개인 정보와 데이터를 보호하고 외부 공격으로부터 사용자를 보호하는 데 도움이 된다. 다양한 서버 위치 서프샤크 VPN은 전 세계 곳곳에 여러 서버가 위치하고 있어, 사용자가 지역 제한된 콘텐츠에 액세스할 수 있다. 해외에서도 로컬 콘텐츠에 손쉽게 접근할 수 있음은 물론이다. 속도와 대역폭 서프샤크 VPN은 빠른 속도와 무제한 대역폭을 제공하여 사용자가 원활한 인터넷 경험을 누릴 수 있도록 지원한다. 온라인 게임, 스트리밍, 다운로드 등 대역폭이 필요한 활동에 이상적이다. 다양한 플랫폼 지원 서프샤크 VPN은 다양한 플랫폼 및 디바이스에서 사용할 수 있다. 윈도우, 맥OS, iOS, 안드로이드 등 다양한 운영체제 및 디바이스에서 호환되어 사용자가 어디서나 안전한 인터넷을 즐길 수 있다. 디바이스 무제한 연결 서프샤크 VPN은 무제한 연결을 제공하여 사용자가 필요할 때 언제든지 디바이스의 갯수에 상관없이 VPN을 사용할 수 있다.