"딥시크 대량살상무기 정보 한가득", 정보AI안전연구소장 위험 우려

17일 과총 등 '딥시크 파장과 미래 전망' 긴급포럼 개최
김명주 소장, 오픈소스 딥시크의 '히든 코드' 문제 등 지적

딥시크 홈페이지 캡처.

최근 개인정보 유출 등 보안상의 문제로 국내에서 사용이 차단된 중국 인공지능(AI) 모델 딥시크에서 보안뿐만 아니라 살상 무기 정보 등 위험 정보가 많이 포함된 것으로도 알려져 우려를 낳고 있다.

17일 한국과학기술단체총연합회와 한국과학기술한림원, 국민생활과학자문단이 온라인으로 '딥시크 파장과 미래 전망'을 주제로 연 긴급 공동포럼에서 이 같은 내용의 주제발표가 있었다. 이날 김명주 AI 안전연구소장은 포럼 발제를 통해 중국 인공지능(AI) 모델 딥시크에서 대량 살상 무기 제작이나 사이버 공격 방법에 대한 지식을 상당히 찾아볼 수 있었다고 밝혔다.

그는 "지난달 말 딥시크가 세계적인 파장을 몰고 온 이후 이 AI 모델의 위험성을 연구하며 대량 살상 무기를 만드는 생물학, 화학 등에 관한 정보가 얼마나 들어있는지 확인했는데 상당히 들어있었다"고 전했다. 그러면서 "중국은 국가 보안을 위해 필요하면 중국에 있는 기업에 대한 정보는 거의 무제한 접근할 수가 있고 가입자 개인 정보를 모두 가져다 쓸 수 있어 소위 '프로파일링'을 통해 당성 검사를 할 수도 있다"고 덧붙였다.

김 소장은 또 딥시크와 같은 오픈 소스 소프트웨어가 일반적으로 가진 보안 취약성인 '히든 코드' 문제에 대해서도 언급했다.

그는 "히든 코드는 사용자가 평상시에는 인식할 수 없다가 특별한 상황에서 활성화되는 코드를 말한다"며 "오픈 소스는 히든 코드를 통해 나중에 그 위에서 고쳐 쓰는 모든 것들에 백도어가 생길 수도 있다고 생각하고 있다"고 말했다.

딥시크는 최근 이용자의 키보드 입력 패턴을 수집하던 관행을 변경한 것 역시 김 소장은 지적했다. 그는 "이탈리아 등 국가에서 딥시크 사용 금지령을 내리니까 중국 측이 개인 정보에 대한 상당히 많은 부분에서 물러서 현지 법에 따르겠다고 입장을 바꿨다"고 전했다.

도널드 트럼프 미국 대통령이 AI 관련 규제를 완화할 것이라는 예상에 대해서는 회의적인 입장을 보였다.

김 소장은 "평소 AI 안전에 대해 걱정하던 제이컵 헬버그 국무부 차관보와 같은 인물이 현재 트럼프 정부의 요직을 다수 차지하고 있다"며 "취임 뒤 몇개월의 허니문 기간이 지나면 이들이 실질적인 AI 안전에 대한 목소리를 내기 시작할 것"이라고 예상했다.

한편, 이날 포럼에서 이상근 고려대 정보보호대학원 인공지능 연구실 교수는 시스코 블로그 내용을 인용해 딥시크 모델의 탈옥 취약성이 주요 AI 모델 중 1위를 차지했다고 밝혔다.

AI 모델에 대한 탈옥이란 기본적으로 설정된 가이드라인을 뚫고 모델 개발 시 의도하지 않았던 작업이 가능한지 공격을 시도했을 때 성공하는 것을 말한다.

시스코에 따르면 딥시크 모델의 탈옥 성공률이 100%에 달했고 메타의 라마 3.1 모델(96%), 오픈AI의 GPT-4o(86%)가 뒤를 이었다.

이 교수는 국가별로 개발한 LLM 모델 개수 등으로 AI 역량을 평가하는 데 대해 "팔란티어라는 기업이 잘 알려져 있는데 이 기업은 자체 LLM이 없고 만들 계획조차 없는데도 전 세계에서 가장 유망한 AI 기업으로 평가받고 있다. 이를 어떻게 생각할지 고민이 필요하다"고 제안했다.