삼성전자가 AI에 보안을 강조하는 이유

삼성전자가 심혈을 기울이는 AI에 보안을 강조하고 나서 이목이 집중되고 있다.

이제는 모든 가전에 AI기능이 추가되고, 인터넷 연결로 보안이 더욱 중요해졌기 때문이다.

삼성전자는 지난 9월5일(현지시간) 독일에서 개최된 가전 전시회 'IFA 2024'에서 '모두를 위한 AI(AI for All)' 비전을 제시한 바 있다.

삼성전자 구주 총괄 최고마케팅책임자 벤자민 브라운은 "삼성은 AI기술이 사람을 돕는 '보이지 않는 손' 역할을 할 것으로 기대한다"며 "개방형 스마트싱스 생태계와 삼성 AI기술로 세계를 선도하고, AI가 서로 연결되도록 도울 것"이라고 말했다.

그러면서 이날 선보인 2024년형 삼성AI TV에 대해 삼성전자는 "최대 7년간 타이젠 OS업그레이드를 지원하겠다"고 밝히며 "삼성 녹스(Knox)를 통해 승인되지 않은 악성 앱이나 외부의 해킹 등으로부터 사용자 정보를 지켜주는 안전한 플랫폼"이라고 소개했다.

 

10일 삼성전자 서울 R&D 캠퍼스에서 개최한 '제8회 삼성 보안 기술 포럼(Samsung Security Tech Forum. SSTF)' 에서는 '생성형 AI와 함께하는 보안 : 생성형 지능과 함께 안전한 미래로 (Security with GenAI:Safeguarding the Future with Generative Intelltgence)' 라는 주제로 보안 기술 분야의 최신 기술과 동향을 공유하며 AI보안의 중요성을 강조했다.

삼성전자 DX부문 최고기술책임자겸 삼성리서치장 전경훈 사장은 환영사에서 "AI는 단순히 우리의 삶을 편리하게 만드는 것을 넘어, 보안 분야에서도 혁신적인 변화를 가져올 것"이라며 "AI기술을 활용한 대규모 사이버 공격과 개인정보보호 이슈 등이 부각되고 있는 가운데, AI의 안전성을 확보하기 위한 노력을 하고 있다"고 말했다. 특히, 내년 8월 AI 챌린지 결선대회 참가할 예정인 삼성리서치팀의 성과를 예로 들며 AI와 보안 기술을 융합해 미래를 더 안전하게 만들고자 하는 '삼성전자의 비전과 도전'에 대해 소개했다. 또한 포럼을 통해 생성형 AI보안과 관련된 세계적인 전문가들과 정보를 교류하며  생성형 AI가 가져다 줄 혁신, 변화, 경험을 공유하고 앞으로의 방향을 논의하길 바란다고 덧붙였다.

 

삼성전자 삼성리서치 시큐리티 & 프라이버시팀 김태수 상무는 기조강연에서 '생성형 AI시대에 더 안전한 세상을 만들기 위한 도전과 기회'에 대한 견해를 공유했다. 또 최근 미국 정부에서 주최한 AI 보안기술 경진대회인 'AI 사이버 챌린지(AIxCC)'에서 선보인 AI 보안 시스템 개발과정과 그 성과에 대해 발표했다.

김태수 상무는 "현존하는 AI에는 문제가 많다"며 "인풋을 주는 데 있어 작은 인풋만 받아들이는 경향이 있고, 실제 동작 여부에 대해 예측이 어렵다"고 분석했다.

특히 대규모 언어 모델인 LLM의 근본적 문제점으로는 #Limited Context Windows #Non-Deterministic Behaviors # Recalls #Hallucination #Memoryless 등을 꼽았다.

AIxCC 성과와 관련해서는 세미 파이널에서 팀애틀란타가 CC++과 자바 취약점을 가장 많이 발견했다고 밝혔다. 이어 미국 뉴욕대학교 컴퓨터공학부 브렌든 돌란 가빗교수는 "AI활용이 취약점 탐지 등에 효과적이지만 새로운 위험요소가 존재한다"고 밝히며, AI보안의 중요성을 강조했다.

 

KAIST 전기및전자공학부 윤인수 교수는 사이버 공격을 불특정 다수를 노린 사이버 공격과 특정 목적의 타깃 공격으로 양분화해 설명했다. 윤 교수는 "다수를 노린 대중적인 공격으로 사람을 속이는 피싱, 알려진 취약점을 채피하지 않아 공격하는 N-DAY어택, 칩 제로데이 어택"을 꼽으며, "LLM을 어떻게 잘 활용할지 등 소통할 수 있는 방법을 찾아야 한다"고 밝혔다.

포스텍 컴퓨터공학과 박상돈 교수는 "LLM에도 바이러스가 있고, 생성한 내용을 보면 버퍼오버플로우를 생성한다"며 :GEN AI에러가 다른 부분에도 영향을 미칠 수 있어 이러한 에러를 콘트롤 할 수 있어야 한다"고 말했다.

 

 

 

(출처 : 보안뉴스)