OpenAI의 악성 에이전트가 두 번째 AI 스타트업의 계정을 손상했다고 경영진이 밝혔습니다.

Modal 임원과 이 문제에 정통한 다른 두 소식통에 따르면 OpenAI에서 탈출하여 AI 회사인 Hugging Face에서 며칠 동안 연속 해킹을 펼친 이 악성 에이전트는 두 번째 기술 회사인 뉴욕에 본사를 둔 Modal Labs의 고객도 손상시켰습니다.

모달 경영진은 회사 자체가 해킹당한 것은 아니라고 강조했다. Hugging Face가 화요일에 발표한 타임라인에 따르면, 이 악성 에이전트는 샌드박스, 즉 “제3자 제공업체의 인프라에서 호스팅되는” 격리된 테스트 환경에 침입한 후 이를 더 광범위한 해킹을 위한 발사대로 전환했습니다.

블로그 게시물에는 제3자 제공업체의 이름이 명시되지 않았지만 Modal의 최고 기술 책임자인 Akshat Bubna는 해당 에이전트가 Modal의 플랫폼에서 호스팅되는 고객이 작성한 취약한 코드를 악용했다고 밝혔습니다.

Modal은 고객이 “인터넷의 모든 사람이 코드 실행을 위해 샌드박스를 사용할 수 있도록 허용하는 인증되지 않은 엔드포인트를 게시했습니다”라고 말했습니다. 이는 인터넷에 문을 열어 두는 것과 디지털 방식으로 동일합니다.

Bubna는 “Modal의 플랫폼이나 격리는 어떤 식으로든 손상되지 않았습니다.”라고 말했습니다.

미국 국회의원, OpenAI 사건 발생 며칠 만에 AI ‘킬 스위치’ 법안 제안

Modal 고객의 타협은 Hugging Face를 대상으로 한 광범위한 해킹 캠페인의 첫 번째 단계에 불과했지만 이는 해당 악성 에이전트가 이전에 알려진 것보다 더 멀리 돌아다녔음을 보여줍니다. OpenAI는 Modal 고객 중 한 명의 해킹에 대해 구체적으로 논평하는 것을 거부하고 대신 로이터에 자사의 악성 에이전트가 4개의 개별 서비스에서 4개의 계정으로 침입했다고 말한 업데이트를 언급했습니다.

OpenAI는 해당 서비스를 식별하지 않았지만 해당 문제에 정통한 사람은 Modal을 해당 서비스로 식별했습니다. 회사는 “플랫폼 수준의 손상이 포함된 Hugging Face와 관련하여 우리가 공유한 것의 심각도나 규모 수준의 다른 활동”을 확인하지 못했다고 말했습니다.

OpenAI가 테스트하고 있는 통제 불능 에이전트에 의해 수행된 7월 초 Hugging Face 침입은 인공 지능이 미쳐 날뛰는 SF 시나리오를 연상시키며 전 세계의 관심을 끌었습니다. 지난 주 로이터 통신은 OpenAI가 위협이 억제되고 FBI에 경고가 전달될 때까지 해당 에이전트가 문제를 일으켰다는 사실을 알아차리지 못했다고 보도했습니다. OpenAI는 당시 로이터의 보도에 부정확성이 있다고 밝혔지만 자세히 설명하지는 않았습니다.

회사는 화요일 업데이트에서 테스트 중인 AI 모델을 비활성화하고 암호화하여 연구 접근을 제한했다고 밝혔습니다.