AI 에이전트 구현에 대해 생각하는 잘못된 방법

Sagihu에 의해

최근 Gartner의 분석가들은 기업에서 에이전트 AI의 미래에 대한 대담한 예측을 발표했습니다. 2027 년 말까지 진행되지 않은 에이전트 AI 프로젝트의 40% 이상이 취소 될 것입니다.

이는 기업의 AI 에이전트에 대한 관련 연구에서 최근의 다른 결과를 뒷받침하는 것으로 보입니다. 예를 들어, 올해 초, Carnegie Mellon University의 연구원들은 흥미 진진한 실험을 수행했습니다. 그들은 가짜 소프트웨어 회사 인 TheagentCompany를 전적으로 AI 에이전트와 함께 근무했습니다. 그들은 특정 LLM에 의해 구동되는 에이전트들에게 현대 소프트웨어 회사의 일상 업무를 수행하도록 요청했습니다. 그들은 에이전트 작업을 할당했으며, 이는 지시 나 오케스트레이션에 관한 것이 었습니다. 그 후, 그들은 그들에게 일을하도록 요청했습니다.

AI 요원은 Mark Benioff, Jensen Huang, Satya Nadella 및 Mark Zuckerberg와 같은 저명한 CEO와 함께 기업에서 열광적 인 흥분의 대상이되었습니다.

따라서 CMU의 실험은 많은 관심을 끌었습니다. 그러나 Business Insider와 같은 아울렛이보고 한 것처럼 결과는 좋지 않았습니다. 가장 성과가 좋은 대리인은 할당 된 작업의 24% 만 완료했습니다. 대부분 10%만 완료되었습니다. 개별 작업을 완료하는 데 평균 6 달러의 비용이 들었습니다. 팝업 광고를 무시하는 것과 같은 예기치 않은 도전을 극복 할 수없는 에이전트의 무능력으로 인해 간단한 작업이 중단되었습니다.

관찰자들은 AI 요원이 기술 CEO만큼이나 능력이 없다는 증거로 지난 1 년 동안 더 많은 연구 결과와 함께 이러한 결과를 신속하게 해석했습니다.

Futurism의 Joe Wilkins는“(AI 요원)은 인간이 탁월한 복잡한 공연을 할 준비가되어 있지 않습니다.

Business Insider의 Shubham Agarwal은 다음과 같이 말합니다.“AI 요원에 대한 다른 신흥 연구와 함께 AI 요원 인력이 모퉁이에 있다는 생각을 복잡하게 만듭니다. 단순히 잘하지 못하는 작업이 많이 있습니다.”

Agarwal은 실험이“총 재난”이라고 결론 지었다.

그러나 이것은 기껏해야 불완전하고 그 핵심과 관련이없는 잘못된 결론입니다.

보강, 교체하지 마십시오

그것은 결함이있는 전제에서 비롯된 것입니다. 특히 AI 요원은 인간을 완전히 대체 할 것으로 예상됩니다. 그들은 아닙니다. 그들은 그들을 증강시키기위한 것입니다.

다시 말해 CMU 실험의 에이전트는 실패하도록 설정되었습니다. 실험의 범인은 에이전트 자체의 능력이 아니라 목적의 잘못된 적용이었습니다.

흥미롭게도 이것은 기업의 AI 요원에 대한 가트너의 최근 연구를 뒷받침하는 것입니다. Gartner의 수석 이사 분석가 인 Anushree Verma에 따르면, 많은 진행중인 AI 에이전트 배포는 궁극적으로“과대 광고에 의해 주도되고 종종 잘못 적용되기 때문에 실패 할 것”이라고한다.

CMU의 실험이 궁극적으로 보여주는 것은 정확히 다음과 같습니다. 에이전트 AI 롤아웃이 그러한 오해에서 가장 중요한 일이 발생할 때 발생합니다. 에이전트가 복잡한 작업을 완료 할 수 없다는 것이 아니라 CMU가 단순히 AI 에이전트를 완전히 잘못 구현하려고 시도했음을 증명합니다.

더 좋은 방법은 무엇입니까? 우선, 우리는이 기술을 마법으로 취급해서는 안됩니다.

간단히 말해서 AI 요원은 도구입니다. 그들은 인간 대체물이 아닙니다. 그들은 인간이 사용하기위한 것입니다.

그리고 어떤 도구와 마찬가지로, 인간이 에이전트에서 얻는 가치는 똑똑하거나 강력한 개별 에이전트뿐만 아니라 전략적으로 우리가 자신의 용량을 향상시키기 위해 전략적으로 활용하는 방법으로 내려집니다.

서로 다른 부서, 시스템 및 정책 센터에 연결하지 않고는 언급하지 않고는 서로 협력하는 방법을 제외하고는 구조없이 조직 내부의 전문 AI 요원을 조직 내부에서 느슨하게 설정하여 단순히 전략적이지 않습니다.

실제로, 그것은 도구, 자원 또는 지능형 엔티티, 인간을 포함하는 전략적 방법이 아닙니다. 동일한 실험을 시도하지만 AI 요원을 매우 지능적인 인간 근로자로 대체하십시오. 역할, 책임, 조직 또는 프로토콜없이 근로자가 조직 내에서 느슨해지면 시끄럽고 비효율적이며 비싼 혼란과 같은 결과를 얻을 수 있습니다.

LLM은 다른 지원 기술이나 인프라없이 일련의 목표를 향해 일관되게 좋은 작업이나 효과적으로 함께 제공 할 수 없습니다.

그렇다면 대신 더 유용한 것은 무엇입니까? 목표가 궁극적으로 AI 에이전트가 엔터프라이즈 컨텍스트에서 무엇을 할 수 있는지 결정하는 것이라면 엔터프라이즈 컨텍스트와 일치하는 조건을 사용하여 실험해야합니다. 또한 엔드 투 엔드 오케스트레이션 인프라와 같은 무대 뒤에서 적절한 구조가 있어야 AI 에이전트가 진정한 엔터프라이즈 가치를 제공 할 수 있도록해야합니다.

구조 및 전략 문제

AI 요원이 인간을 대체 할 것이기 때문에 AI 요원이 흥미 진진하다고 믿는 사람들은 모든 것이 잘못되기 때문에 흥미 진진합니다. AI 에이전트는 인간을 대체 할 것이기 때문에가 아니라 전통적인 엔터프라이즈 소프트웨어를 대체하기 때문에 흥미 롭습니다.

이런 식으로 AI 요원은 인간 주도 조직의 능력뿐만 아니라 그 경험에 따라 인간 근로자를 제공함으로써 기업을 변화시킬 수 있습니다.

그러나 우리가 그렇게 할 경우에만. TheeagentCompany에서 알파벳에 이르기까지 Gartner가 조사한 것에 이르기까지 모든 종류의 조직의 경우, 대리인으로부터 혁신적 가치를 얻는 것은 한 가지 일로 달라질 것입니다. 전략적으로 우리는 일상적인 운영의 인프라에 어떻게 통합하고, 어떤 종류의 구조를 지배 할 수 있는지.

이것은 인간을 포함하여 기업 내에서 활용하는 다른 종류의 지능형 엔티티와 마찬가지로 AI 에이전트의 경우에 해당됩니다. 지능형 엔티티는 효과적으로 작동하기 위해 구조가 필요합니다. 당신은 지능형 엔티티가 당신이 설정 한 목표를 추구하기 위해 자율적이고 창의적으로 일할 수 있기를 원합니다. 그러나 이러한 목표를 효과적으로 추구하려면 방향과 계층 구조, 거버넌스 및 조직 차트, 프로세스 및 규칙도 필요합니다.

그것은 우리가 AI 요원들과 주변에 어떤 구조를두고, 인간에게 영향을 최대화하기 위해 반복하고 실험해야합니다.

이것은 결국 전략과 성과뿐만 아니라 보안의 문제입니다. 예를 들어, 우리가 기업에 AI 에이전트를 구성하고 배포하는 방법에 대해 신중하게 생각하는 것은 로그인 자격 증명, 민감한 데이터 또는 특정 조치와 같이 내부적으로 건드리지 말아야 할 것들에서 AI를 내부에서 벗어나는 방법입니다.

그러나 그것은 또한 우리 가이 기술이 무엇을 할 수 있는지 진정으로 알 수있는 유일한 방법입니다. 다른 것은 시간 낭비입니다.

Sagi Eliyahu는 조달, 법률, IT 및 HR과 같은 엔터프라이즈 공유 서비스 팀이 사람들이 실제로 따르는 프로세스를 만드는 데 도움이되는 AI 기반 흡기 및 오케스트레이션 플랫폼 인 Tonkean의 공동 설립자이자 CEO입니다. Tonkean의 에이전트는 AI를 사용하여 직원의 요구를 예상하고 요청을 안내합니다.

관련 독서 :