Anthropic의 Mythos는 테스트 중 몇 시간 만에 미국 기밀 시스템에서 보안 결함을 발견했다고 관계자가 밝혔습니다.

미국 관계자는 화요일 AP 통신과의 인터뷰에서 Anthropic의 인공 지능 모델 중 하나가 테스트 과정에서 매우 민감하고 안전한 미국 정부 컴퓨터 시스템의 취약점을 식별했다고 말했습니다.

이 문제를 논의하기 위해 익명을 요구한 관계자는 Anthropic이 미국 정보 기관과 협력하여 회사의 Mythos 모델을 사용하여 테스트를 수행했다고 말했습니다. 관계자는 “몇 시간 내에 특정 취약점을 식별했지만 이것이 해당 모델이 그 시간 내에 해당 취약점을 악용할 수 있었다는 의미는 아니다”라고 말했습니다.

관계자는 Mythos 모델이 공공 안전, 국가 안보 및 경제에 미칠 수 있는 “심각한” 낙진으로부터 세계의 중요한 소프트웨어를 보호하기 위해 거대 기술 기업과 기타 기업을 한자리에 모은 Project Glasswing이라는 인류애적 이니셔티브를 통해 테스트가 수행되었다고 말했습니다.

솔로몬 장관은 캐나다가 이제 Anthropic의 Mythos AI 미리보기 프로그램에 포함되어 있음을 확인했습니다.

버지니아주 민주당 상원의원 마크 워너(Mark Warner)는 6월 11일 상원 은행, 주택 및 도시 문제 위원회 청문회에서 이 테스트에 대해 간략하게 언급했습니다. Warner는 “이 도구는 몇 주가 아니라 몇 시간 만에 거의 모든 기밀 시스템에 침입했습니다.”라고 말했습니다. 그는 그 정보가 국가안보국(National Security Agency)과 미국 사이버 사령부의 수장인 조슈아 러드(Joshua Rudd) 장군의 것이라고 밝혔습니다.

NSA는 이메일을 통해 이 문제에 대한 논평을 거부했습니다. Anthropic 대변인도 논평을 거부했습니다.

취약점 테스트를 위해 최근 Anthropic과 미국 기관 간의 협력에도 불구하고 캘리포니아 회사와 Trump 행정부 간의 긴장은 고조되고 있습니다. Anthropic은 미군이 자사의 AI를 어떻게 사용할 것인지에 대한 우려를 제기한 반면, 행정부는 Anthropic의 일부 모델 사용을 제한했습니다.

행정부는 이달 초 Anthropic에게 외국인이 Fable 5 및 Mythos 5로 알려진 최신 인공 지능 모델을 사용하는 것을 방지하도록 요구하는 지침을 발표했습니다. Anthropic은 이달 초 Fable을 널리 출시했습니다. 해당 모델은 회사가 사이버 보안에 대한 우려로 인해 액세스를 엄격히 제한한 고급 Mythos의 제한된 버전입니다.

이 명령은 도널드 트럼프 대통령이 연방 정부가 가장 진보된 AI 시스템이 공개되기 전 최대 한 달 동안 국가 안보 위험을 조사할 수 있는 프레임워크를 구축하라는 행정 명령에 서명한 지 10일 만에 나왔습니다. AI 개발자의 참여는 자발적일 것이라고 명령은 밝혔다.

Anthropic은 행정부의 지시를 준수하기 위해 모든 고객의 모델을 비활성화했다고 말했습니다. AI 대기업은 정부가 취한 조치가 잠재적인 보안 문제에 대해 제기한 우려로 인해 보장되지 않는다고 말했습니다.

우화 5(Fable 5)와 신화 5(Mythos 5) 복원을 위한 거래를 위해 노력하는 인류학, 트럼프 관리들

Anthropic의 AI 모델에 대한 접근권 상실은 미국 기술에 의존하는 위험을 강조한다고 캐나다 전문가들은 말합니다.

사이버 보안 임원 그룹은 또한 이번 조치가 미국의 적들에게 해를 끼치기보다는 도움이 될 수 있다며 트럼프 행정부에 지시를 철회해 줄 것을 요청했습니다. Adobe와 Nvidia를 포함한 기업의 사이버 보안 전문가와 리더 100명 이상이 정부에 보낸 서한에서 Anthropic의 Mythos 모델은 소프트웨어의 결함을 찾아내고 익스플로잇을 무기화하는 데는 “아주 훌륭하지만” “이러한 작업에는 그다지 능숙하지 않습니다”라고 말했습니다.

서한에 서명한 많은 사람들은 보안 감사 및 교육을 위해 정기적으로 다른 재단 및 오픈 소스 모델을 사용한다고 말했습니다. 서한에는 미국의 적들이 급속히 진군하고 있을 때 “합당한 이유 없이” 최고의 사이버 방어 능력을 빼앗는 것은 위험하다고 적혀 있습니다.