과기정통부는 외교부, 국가정보원, 금융위원회, 인공지능 안전연구소(AISI), 한국인터넷진흥원(KISA), 금융보안원과 함께 지난 11일 앤트로픽과 AI·사이버보안 협력 방안을 논의하는 간담회를 열었다고 밝혔다. 간담회에는 류제명 과기정통부 제2차관, 김명주 AISI 소장, 오진영 KISA 본부장 등이 참석했다. 앤트로픽에서는 마이클 셀리토 글로벌 정책 총괄 등 관계자들이 참석했다.
이번 간담회는 지난 2월 인도에서 열린 ‘2026 인도 AI 영향 정상회의’에서 배경훈 부총리 겸 과기정통부 장관과 다리오 아모데이 앤트로픽 최고경영자(CEO)가 논의한 AI 분야 협력의 후속 조치로 마련됐다. 당시 논의가 포괄적 협력 가능성을 확인하는 자리였다면, 이번 간담회는 AI 안전성과 사이버보안이라는 구체 의제를 놓고 실무 논의를 시작했다는 점에서 의미가 있다.
앤트로픽은 챗봇 ‘클로드’를 개발한 미국 AI 기업이다. 오픈AI, 구글 딥마인드 등과 함께 프론티어 AI 모델 개발 경쟁을 주도하는 기업으로 꼽힌다. 정부가 앤트로픽과 협력 논의에 나선 것은 국내 AI 산업 육성뿐만 아니라 고성능 AI 모델이 초래할 수 있는 보안 위험과 사회적 파장을 사전에 관리해야 한다는 판단이 작용한 것으로 보인다.
과기정통부는 간담회에서 앤트로픽에 사이버보안 관련 국내 기업·기관과의 협력을 제안했다. 한국이 취약점 공개에 사전 대비할 수 있도록 정보공유도 요청했다. 고성능 AI 모델은 악성코드 분석, 취약점 탐지, 보안 자동화 등 방어 분야에 활용될 수 있다. 반대로 공격자가 악용하면 사이버 공격 역량을 높이는 도구가 될 수 있다. 정부가 협력 의제에 사이버보안을 전면에 둔 이유다.
양측은 AI 모델의 사이버보안 분야 활용에 대해 실무 논의를 이어가기로 했다. 이는 AI 기술을 보안 위협으로만 볼 것이 아니라, 국가 차원의 사이버 방어 역량을 높이는 도구로 활용하겠다는 방향을 담고 있다. 다만 기술 협력이 실질 성과로 이어지려면 정보공유 범위, 취약점 공개 절차, 민간 기업 참여 방식, 보안 책임 소재 등을 구체화해야 한다는 과제가 남는다.
AI 기본법 등 국내 AI 법·제도와 관련한 협력도 논의됐다. 과기정통부는 AI 기본법이 AI 산업 혁신과 국민 신뢰 기반 조성을 위한 제도적 근거를 마련한 사례라고 설명했다. 또 앤트로픽에 글로벌 AI 선도기업으로서 축적한 경험을 공유해 달라고 요청했다. AI 모델의 안전성 확보를 위한 AISI와 앤트로픽 간 협력 방안도 함께 논의됐다.
AI 안전성 평가는 앞으로 국내 AI 정책의 핵심축이 될 가능성이 크다. 생성형 AI가 검색, 교육, 금융, 공공서비스, 보안 업무로 빠르게 확산되면서 환각, 개인정보 유출, 편향, 저작권 침해, 사이버 악용 가능성이 동시에 커지고 있기 때문이다. 특히 프론티어급 모델은 성능이 높을수록 사회적 파급력도 커진다. 정부가 산업 진흥과 규제 완화를 말하면서도 안전·신뢰 정책을 병행해야 하는 이유다.
류제명 차관은 “프론티어급 AI 모델의 성능이 급격하게 증가하고 활용 범위도 확대되고 있다”며 “AI 혁신과 더불어 국민·기업이 AI를 안전하게 활용할 수 있는 환경을 조성하는 것은 중요한 과제”라고 말했다.
이어 “AI 모델의 안전성 확보, 사이버보안 역량 강화 등 AI 위험에 대한 예방·대응 체계 강화를 위해 세계적인 AI 선도기업들과 적극 협력해 나가겠다”고 밝혔다.
이번 협력 논의는 정부의 AI 인프라 확충 정책과도 맞물려 있다. 과기정통부는 같은 날 국가 AI 컴퓨팅 센터 구축 사업의 민간 참여자로 삼성SDS 컨소시엄을 최종 확정했다고 밝혔다. 이 사업은 ‘AI 고속도로’의 핵심 인프라로 추진된다. 정부는 올해 2분기 안에 민관 합작 특수목적법인(SPC)을 설립하고 3분기 중 센터 착공에 들어갈 계획이다. 목표는 2028년까지 첨단 AI 반도체 1만5000장 규모의 국가 AI 컴퓨팅 센터를 구축하는 것이다.
삼성SDS 컨소시엄에는 삼성SDS, 네이버클라우드, 삼성물산, 카카오, 삼성전자, 클러쉬, KT, 전라남도, 서남해안기업도시개발 등이 참여한다. 공공 1160억원과 민간 2840억원을 합친 총 4000억원 규모의 민관 출자가 확정됐다. 이후 SPC를 중심으로 추가 자금을 조달해 총 2조5000억원 규모로 센터를 구축한다는 계획이다.
정부는 국가 AI 컴퓨팅 센터가 구축되면 중소기업, 스타트업, 학계, 연구계가 고성능 AI 컴퓨팅 자원을 비교적 낮은 비용으로 이용할 수 있을 것으로 기대한다. 기술 자문, 사업화 지원, 교육, 성과 공유도 병행할 방침이다. 국산 AI 반도체 활성화도 주요 목표다. 연구개발 구역을 조성해 국산 AI 반도체 설계와 시제품 검증 환경을 제공하고, 신경망처리장치(NPU) 시범 운영과 상용 서비스 도입을 단계적으로 추진한다.
AI 데이터센터의 전력 공급 문제도 병행 과제로 떠올랐다. 과기정통부와 기후에너지환경부는 12일 정부서울청사에서 AI 데이터센터에 안정적으로 전력을 공급하기 위한 업무협약을 체결했다고 밝혔다. 두 부처는 국가적으로 중요한 AI 데이터센터에 국가 전력 계통을 통한 신속하고 안정적인 전력을 공급하고, 기가와트급 대규모 AI 데이터센터 구축 수요가 생기면 공동 태스크포스를 구성하기로 했다.
정부의 최근 행보는 AI 정책의 무게중심이 단순한 기술 개발 지원에서 인프라, 전력, 보안, 안전 규범을 포괄하는 종합 정책으로 이동하고 있음을 보여준다. 앤트로픽과의 협력은 이 가운데 안전·신뢰 분야의 국제 협력 축에 해당한다. 국내 기업과 연구기관이 글로벌 프론티어 모델 기업과 접점을 넓히면 기술 이해도와 위험 대응 역량을 높일 수 있다.
다만 정부가 풀어야 할 숙제도 적지 않다. 글로벌 AI 기업과의 협력이 국내 산업 생태계 강화로 이어지려면 단순한 의견 교환을 넘어 공동 연구, 평가 도구 개발, 보안 데이터 공유, 국내 인력 양성 등 구체 사업으로 연결돼야 한다. 해외 기업의 경험을 받아들이되 국내 기업이 종속적 위치에 머물지 않도록 기술 주권과 산업 경쟁력 확보 전략도 병행해야 한다.
과기정통부 인공지능데이터진흥과 장기철 과장은 “AI 안전 정책과 관련해 고성능 모델의 위험 평가 기준, 사고 발생 시 책임 구조, 공공 부문 도입 기준, 민간 기업의 자율점검 체계 등을 구체화할 필요가 있다”고 설명했다.
이어 “사이버보안 분야에서는 취약점 정보 공유의 속도와 신뢰가 중요하다”며 “취약점 공개 전 사전 대응 체계를 갖추는 것이 AI 악용 공격을 막기 위한 핵심 과제”라고 덧붙였다.
정부는 앤트로픽과의 간담회를 계기로 AI 안전성과 사이버보안 협력을 확대할 방침이다. AI 컴퓨팅 센터 구축, 데이터센터 전력 공급 협력, AI 기본법 후속 제도 정비가 동시에 추진되는 만큼 정책 간 정합성이 향후 성패를 가를 것으로 보인다. 정부의 AI 3강 전략이 성과를 내려면 산업 육성 속도와 함께 위험을 통제할 제도적 완성도가 뒷받침돼야 한다.
안혜린 기자 rin7961@naver.com
<저작권자 © 공유경제신문, 무단 전재 및 재배포 금지>
