AI 인재의 가장 큰 과제는 속도가 아니라 회복력입니다.

작성자: Sumeet Vaidya

프론티어 연구소와 하이퍼스케일러는 세상을 바꾸는 혁신을 약속합니다. 그리고 대부분은 그것을 배달합니다. 그러나 인류 정책의 반전과 진화하는 Hugging Face 및 OpenAI 보안 사고를 통해 볼 수 있듯이 안정성 없이 작동합니다.

Anthropic, OpenAI 및 기타 유료 모델을 기반으로 전체 AI 운영 및 비즈니스를 구축하는 기술 조직은 신뢰성에 의존할 수 있어야 하기 때문에 이는 매우 우려되는 일입니다.

한편 OpenClaw 및 DeepSeek와 같은 오픈 소스 조직은 비슷한 품질의 무료 모델을 제공합니다. 가격 차이가 극명합니다. 그리고 기업을 방해하는 유틸리티, 안전 및 접근성의 격차가 빠르게 줄어들고 있습니다.

이러한 진화하는 역학으로 인해 CTO, CIO 및 엔지니어링 리더는 다음과 같은 질문을 갖게 됩니다. 하이퍼스케일러가 다음 모델의 가격을 낮추거나 올릴지 예측하는 것이 불가능할 때 어떻게 신뢰성을 높이고 비용을 낮출 수 있습니까?

대답은 아직 명확하지 않습니다. 그러나 엔지니어링 리더에게는 팀이 신속하게 모델을 교환하고 AI 에이전트가 사람들과 작업하고 실제 데이터 및 도구에 액세스하는 방식을 전환할 수 있는 시스템이 필요하다는 것이 그 어느 때보다 분명해졌습니다. 올바른 기반 계층을 구축하면 조직은 최신 트렌드를 쫓으면서 한계를 뛰어넘지 않고도 업계와 함께 발전할 수 있을 만큼 민첩하게 유지됩니다.

토큰은 시간과 돈보다 더 많은 비용이 듭니다

거대 기술 기업과 기업 내 엔지니어링 리더들은 조직의 장기적인 안정성을 구축하는 것이 지속 불가능한 지출과 팀 피로를 초래하는 “tokenmaxxing”과 같은 트렌드를 쫓는 것보다 훨씬 더 나은 계획이라는 것을 뼈저리게 배웠습니다.

회사 계정과 경영진의 평판이 상당히 손상되었지만 추세는 이미 토큰 최대화에서 좀 더 냉정한 접근 방식으로 되돌아가고 있습니다. 동시에 팀 전체의 AI 사용에 공개적으로 올인한 Meta와 같은 회사는 엔지니어링 팀 문화에 재투자하는 방향으로 전환하고 있습니다.

목표는 토큰 사용에 대한 경쟁을 제거하면서 사기를 높이는 것입니다.

다음 번 과대 광고에 뛰어들어 피할 수 없는 병목 현상을 만드는 대신 조직은 인프라 현대화에 투자하여 팀이 AI 도구를 대규모로 지속 가능하게 반복하고 실험할 수 있도록 지원해야 합니다.

엔터프라이즈 AI의 미래는 사람과 에이전트가 원활하게 함께 작업할 수 있도록 지원합니다. 이 모습은 다음과 같습니다.

• 에이전트가 사람과 대부분 동일한 기능을 가지고 있다는 점을 인정하고 신속하고 대규모로 “실제” 데이터에 액세스하여 실제 인프라에 대해 테스트할 수 있다는 부가 가치를 인정합니다.
• 필요한 경우에만 자격 증명과 권한이 부여되도록 하는 것을 포함하여 상담원이 팀과 동일한 가드레일을 갖도록 보장합니다. 올바른 상황에서 상황이 잘못되었을 때 취해진 조치에 대한 완전한 가시성을 확보합니다.
• 최신 AI 모델 및 프레임워크를 교체하여 내부에서 수행한 맞춤형 작업을 잃지 않고 새로운 발전을 활용할 수 있는 시스템을 구축합니다.
• 가동 중단, 값비싼 계약 또는 오래된 제품으로 인한 위험을 줄이기 위해 회사가 장기적으로 단일 공급자에 묶여 있지 않도록 합니다.

모델이 변경됩니다. 아키텍처 업데이트

회복력 구축은 모델과 모델 사용 방식이 바뀔 것이라는 사실을 받아들이는 것부터 시작됩니다. 엔지니어링 리더는 때로는 최신 하이퍼스케일러 모델을 사용하는 것이 합리적이라는 사실을 받아들여야 합니다. 어떤 경우에는 무료로 실행되지만 사람들이 협업하는 방식을 바꾸는 새로운 하네스를 갖춘 오픈 소스 모델을 도입하는 것이 합리적일 것입니다.

한편 에이전트는 장난감 문제나 합성 환경에만 국한되어서는 안 됩니다. 실제 인프라를 테스트하고, 실제 데이터 세트와 상호 작용하고, 실제 비즈니스 워크플로에 의미 있게 참여할 수 있는 능력이 필요합니다.

승리하는 접근 방식: 에이전트와 엔지니어 간의 공평한 경쟁의 장을 조성합니다.

사람들이 사용하고 팀이 따르는 동일한 가드레일 하에서 운영하도록 위임하는 것과 동일한 환경에 에이전트에 대한 액세스 권한을 부여하세요. 필요한 경우에만 권한을 부여해야 합니다. 자격 증명은 엄격하게 통제되어야 합니다. 모든 작업은 관찰 및 감사가 가능해야 합니다. 문제가 발생하면 무슨 일이 일어났고 왜 발생했는지에 대한 명확한 가시성과 함께 책임이 뒤따라야 합니다.

양 당사자 모두에게 가장 높은 기준을 적용하십시오. 팀과 함께 탄력성을 구축하세요.

유연성에는 힘이 있다

단일 공급업체 관계 뒤에 갇혀 있는 맞춤형 워크플로우, 자동화 및 운영 지식의 시대는 끝났습니다. 우리는 유연성, 탄력성, 적응성을 중심으로 시스템과 팀 구축을 요구하는 AI 에이전트와 엔지니어가 결합된 시대로 진입하고 있습니다.

즉, 장기적 락인을 영원히 제거해야 할 때입니다.

새로운 모델을 채택하고, 새로운 도구를 통합하고, 모든 것을 처음부터 다시 구축하지 않고도 변화하는 시장 상황에 대응할 수 있는 유연성을 유지하는 조직은 모든 ​​모델 출시 시 복원력을 구축합니다. 그것은 미래의 길입니다. 엔지니어링 리더는 지금 이 접근 방식을 채택해야 합니다.

Sumeet Vaidya는 자율 에이전트와 엔지니어에게 기업 수준의 인프라를 제공하는 것을 목표로 하는 Crafting의 CEO이자 공동 창립자입니다. 그는 이전에 Meta, Uber 및 Discord의 초기 엔지니어링 리더였습니다.

일러스트: 돔 구즈만