초고속 자동 AI 해킹 확산...보안업계 대응 분주

정부와 민간 모두에 공히 AI를 활용한 사이버 공격에 대한 경계령이 고조되는 모양새다. 이에 대응하려는 보안업계의 행보도 빨라지고 있다.
AI 기반 해킹은 최근 중국 국가 지원을 받은 해커들이 주요 기업과 해정부들을 겨냥한 침입을 자동화하기 위해 앤트로픽 AI 기술을 활용했다는 사실이 알려지면서 더욱 관심을 끌고 있다.

ㆍ앤트로픽 클로드 AI, 中 해커 공격에 악용…30곳 공격 성공

이번 해킹 공격의 경우 앤트로픽 사이버 보안 조사관들도 이전에는 보지 못한 자동화 수준을 보여줬다. 그동안 해커들은 AI를 사용해 피싱 메일을 다듬거나 인터넷에 걸쳐 취약 시스템 스캐닝 등 개별 작업들을 수행하기 위해 AI를 사용해왔는데, 이번 공격은 프로세스 80~90% 가까이가 자동화돼 이뤄졌다는 분석이다. 사람은 몇몇 의사 결정에만 개입한 것으로 전해진다.

구글도 최근  AI 기반 악성코드를 사용하는 해킹 사례를 확인했다. 구글 위협 인텔리전스 그룹 연구원들은 거대 언어 모델(LLM)을사용해 공격 도중에 행동을 바꾸는 신종 악성코드 변종들인 프롬프트플럭스(PromptFlux)와 프롬프트스틸(PromptSteal)을 발견했다.
구글이 발견한 프롬프트플럭스(PromptFlux)와 프롬프트스틸(PromptSteal은 역동적으로 악의적인 스크립트를 생성하는 것은 물론 탐지를 피하기 위해 코드를 모호하게 하는 역량도 갖추고 있다. AI 모델을 활용해 악의적인 기능들을 온디맨드로 생성할 수 있다.
ㆍAI 기반 악성코드 본격 등장...공격자가 프롬프트도 활용 가능

 

AI 기반 해킹과 관련해 보안 업계는 AI 기반 방어로 맞불을 놓고 있다. 글로벌 대형 보안 업체인 팔로알토 네트웍스는 AI를 활용한 공격을 AI로 막아야 한다며 자사 플랫폼 전반에 걸쳐 AI 역량을 강화하고 있음을 강조했다. 마이크로소프트도 주요 보안 제품군을 업데이트하고 AI에이전트 취약점에 대한 대응 역량을 끌어올렸다.
ㆍ"AI 활용 공격은 AI로 막아야...레거시 방화벽·VPN과 결별하라"
ㆍ마이크로소프트, AI에이전트 겨냥 간판 보안 제품군 업글

AI를 직접 개발하거나 활용하려는 국내외 테크 기업들 행보는 이번 주에도 계속됐다.
마이크로소프트는 기업용 AI 에이전트 관리 플랫폼 에이전트365(Agent 365)를 공개했다. 이전트365는 기업 내 AI 에이전트들을 중앙에서 관리할 수 있는 제어 센터로, 텔레메트리, 대시보드, 경고 기능을 통합 제공한다. 마이크로소프트 플랫폼, 오픈소스 프레임워크, 서드파티 플랫폼에서 구축된 에이전트까지 지원한다. 마이크로소프트가  파운드리(Foundry) AI 개발 플랫폼도 업데이트하고  AI 에이전트 개발·배포·관리를 단순화하고, 기업이 AI를 비즈니스 애플리케이션에 보다 깊숙하게 통합할 수 있도록 지원한다.

마이크로소프트는 AI 모델 개발 기업 앤트로픽과도 협력한다. 앤트로픽은 마이크로소프트와 300억달러 규모 애저 클라우드 용량 구매 계약을 맺었고 마이크로소프트는 앤트로픽에 50억달러를 투자하기로 했다. 이번 협력으로 마이크로소프트 애저 클라우드 고객들은 클로드 소넷 4.5, 클로드 오푸스 4.1, 클로드 하이쿠 4.5 등 앤트로픽 최신 AI 모델에도 접근할 수 있게 된다. 

ㆍ마이크로소프트, 통합 AI에이전트 관리 플랫폼 에이전트365 공개
ㆍ마이크로소프트, 엔터프라이즈 AI에이전트 개발 간소화...개발 플랫폼 업글
ㆍMS, 앤트로픽과도 자본 동맹...50억달러 투자·300억달러 클라우드 인프라 공급

구글은 최신 AI 모델 ‘제미나이 3’를 공개했다. 제미나이3는 구글이 선보인 가장 강력한 거대 언어 모델(LLM)로 오픈AI GPT-5.1, 앤트로픽 소넷 4.5와 어떻게 경쟁할지 주목된다. 제미나이 3는 독립 벤치마크 ‘휴먼리티 라스트 이그잼(Humanity’s Last Exam)’에서 37.4점을 기록하며 최고 점수를 경신했다. 이는 기존 GPT-5 프로(31.64점)를 넘어서는 성과다. 사용자 만족도를 측정하는  LM아레나(LMArena)에서도 1위를 차지했다. 제미나이3가 선전할 경우 오픈AI가 주도하는 거대 언어 모델(LLM) 시장 판세에도 큰 변화가 있을 것으로 보여 구글 행보가 특히 주목된다. 구글은 AI 기반 쇼핑 기능 강화 일환으로 대화형 검색과 AI가 매장에 직접 전화해 제품 재고를 확인하는 기능도 선보였다

ㆍ구글 제미나이3 공개...거대 AI 모델 판세 뒤흔드나
ㆍAI 모델 시장 새국면...구글·앤트로픽 '오픈AI 아성' 위협
ㆍ구글, AI 쇼핑 확 키운다...AI가 매장에 전화 거는 기능도 투입

 

오픈AI는 GPT-5를 업그레이드한 GPT-5.1 인스턴트, GPT-5.1 씽킹 모델을 공개했다 같은 대화창 안에서 다수 사용자가 챗GPT와 함께 대화를 나누며 협업할 수 있는 그룹 채팅(Group Chat) 기능도 한국에 시범 선보였다. 링크드인은 AI 기반 검색 기능을 선보였다. 사용자들은 자연어로 검색 쿼리를 입력해 원하는 사람들을 보다 쉽게 찾을 수 있게 됐다.

ㆍ오픈AI, GPT-5.1 출시...고급 추론 모델 GPT-5.1 씽킹도 공개
ㆍ오픈AI, 챗GPT ‘그룹 채팅’ 기능 국내에 시범 도입
ㆍ링크드인, AI 기반 검색 도입… 인재 쉽게 찾는다

 

LG CNS는 마케팅 업무를 AI로 자동 수행하는 CDP 에이전틱 AI 서비스 ‘클레어보(Clairvo)’를 출시했다. 커머스 AX 전문 기업 인덴트코퍼레이션은 AI 기반 글로벌 크로스보더 커머스 플랫폼 ‘보부샵(vovu.shop)’을 정식 출시했다

ㆍLG CNS, AI마케터 'CDP 에이전틱 AI' 출시
ㆍ인덴트, AI 기반 글로벌 D2C 커머스 SaaS 플랫폼 ‘보부샵’ 출시

AI 기반 온라인 평가 솔루션 모니토를 운영하는 그렙은 생성형 AI 기반 부정행위 증가에 대응하기 위해 응시자의 기기 환경에서 비허용 프로그램과 외부 기기를 자동 차단하는 기능을 추가한 '모니토 플러스(Monito+)'를 출시했다.
ㆍ그렙, 생성형 AI 부정행위 차단 '모니토플러스' 출시

클라우드 기반 데이터베이스 플랫폼 데이터브릭스가 1300억달러 규모 가치에 투자 유치 협상을 진행 중이라는 소식이다. 국내 AI 전환(AX, AI Transformation) 전문 스타트업 바이버스(Vibers)는  카카오벤처스와 서울대기술지주로부터 11억원 규모 시드 투자를 유치했다. 일본 AI 스타트업 사카나 AI가 1억3500만달러 규모 시리즈B 투자를 받았다.
ㆍ데이터브릭스, 1300억달러 가치에 추가 투자 유치 추진
ㆍAX 스타트업 ‘바이버스’, 카카오벤처스·서울대기술지주서 시드 투자 유치
ㆍ사카나AI, 1억3500만달러 투자 유치...일본 특화 AI 모델로 승부

AI 버블 우려가 제기되고 있다고 있는 가운데서도 코딩 AI를 주특기로 하는 주요 스타트업들의 몸값도 치솟고 있다. AI 코딩 툴 커서(Cursor)는 최근 283억달러 가치를 인정 받고 23억달러 규모 투자를 유치했다. 스웨덴 코딩 AI 스타트업 러버블도 60억달러 가치에 추가 투자 유치를 추진하고 있다는 소식이다.
ㆍ커서·러버블까지...AI 버블론에도 코딩 AI 스타트업 몸값 고공 행진

구독이나 사용량 기반 과금이 대세인 AI 서비스 수익모델이 광고로 확대되는 모양새다. 주류로 부상할지는 두고봐야겠지만 광고를 수익모델도 삼아 보려는 관련 업계의 행보가 구체화되고 있다.
ㆍ구독·종량제를 넘어서...AI 서비스 업계, 광고 기반 수익모델 '꿈틀'

유력 테크기업들부터 신생 스타트업들까지 기업용 AI 에이전트를 선보이면서 쓰는 쪽 입장에서 헷갈릴 만한 장면들도 여기저기에서 연출되고 있다. 주특기가 다른 소프트웨어 회사 AI 에이전트들인데 제공하는 기능은 데이터 탐색, 매출 전망, 대고객 커뮤니케이션 등 비슷해지면서 기업들 간 경계가 희미해지는 모양새다. 그러다 보니 예전에는 경쟁하지 않았던 기업용 소프트웨어 업체들이 AI 에이전트를 내놓으면서 처음으로 맞대결을 펼치는 사례가 늘고 있다.

ㆍAI 에이전트發 '경계의 파괴' 탄력... B2B SW 경쟁 구도 재편

AI 산업에서 GPU 감가상각을 둘러싼 논쟁도 고조되는 모양새다. 오라클, 마이크로소프트, 구글은 AI 칩 감가상각 기간을 6년으로 설정하고 있지만, 현실성에 대한 의문이 커지고 있다.

 

[출처 : 디지털투데이 ]