AI 에이전트의 '들쭉날쭉한 지능'에 속지 마세요. 세일즈포스가 다시 고전적 방식을 택한 이유와 2025년 액셔너블 AI 도입을 위한 현실적 전략을 지금 확인하세요.
AI가 인간 업무를 통째로 삼킬 거라는 기대가 컸죠. 현장 분위기는 딴판입니다. 2025년 테크 업계의 화두는 AI의 지능 수준이 아닙니다. “예측 불가능한 지능을 어떻게 통제할 것인가”로 무게중심이 옮겨갔죠.
오픈AI 공동 창립자 안드레이 카르파시는 최근 LLM 지능을 ‘유령’에 비유했습니다. 유기적인 생명체의 지능이 아니라는 뜻입니다. 특정 영역에서만 기괴하게 발달한 비유기적 존재일 뿐이죠.
천재와 바보 사이, 지능의 구멍이 생기는 이유
AI가 경험을 통해 균형 있게 성장할 거라는 믿음은 환상이었습니다. 카르파시가 지적한 ‘들쭉날쭉한 지능(Jagged Intelligence)’이 이를 증명합니다. 국제 수학 올림피아드 난제를 풀던 AI 에이전트가 초등학생 수준의 논리 문제에서 처참히 무너집니다. 지능의 파편화입니다.
보상에만 집착하는 기계적 진화
최근 LLM 훈련의 핵심인 RLVR(검증 가능한 보상을 활용한 강화 학습)이 이런 불균형을 만듭니다.
1. 데이터 학습: 인간 피드백 대신 수학이나 코딩처럼 정답이 명확한 보상 함수를 따릅니다.
2. 자기 최적화: 인간의 추론 과정을 배우는 게 아닙니다. 오직 보상을 극대화하는 최단 경로만 찾아내죠.
3. 지능의 파편화: 검증 가능한 도메인에선 초인적이지만, 보상 체계가 없는 일반 상식에선 지능 공백이 생깁니다.
범용적인 적응력을 갖춘 생명체가 아닙니다. 목적 함수에 극단적으로 최적화된 유령일 뿐이죠. 관련 커뮤니티에서는 “천재적인 계산기지만 문 손잡이도 못 돌리는 아이 같다”는 냉소가 나옵니다.
세일즈포스의 회군, 확률보다 확신을 택하다
도입에 가장 앞장섰던 세일즈포스가 전략을 수정한 지점은 의미심장합니다. LLM의 무작위성에 한계를 느끼고 ‘결정론적(Deterministic)’ 자동화 방식을 다시 결합하기 시작했으니까요.
기업이 다시 고전적 방식을 찾는 이유
비즈니스 현장에서 매번 답이 바뀌는 AI는 시한폭탄입니다. 세일즈포스 마케팅 부사장 산즈나 파룰레카르는 모델의 출력을 미리 정의된 지침에 따라 조절한다고 밝혔습니다.
– 신뢰성 확보: 고전적인 프로그래밍 구조를 AI에 덧씌웁니다. 워크플로우가 항상 동일한 결과를 내도록 강제하는 거죠.
– 비용 효율: 불필요한 추론을 제한해 운영 효율을 높입니다. 상담 건당 2달러가 넘던 비용을 줄이려는 고육지책이기도 합니다.
모든 걸 알아서 하는 자율 주행 단계에서 인간이 설계한 궤도를 달리는 가이드형 지능으로 돌아가는 모양새입니다.
2025년, 껍데기를 벗는 액셔너블 AI의 실체
단순 챗봇을 넘어 ‘액셔너블 AI(Actionable AI)’로 진화 중입니다. 구글의 ‘A2UI’나 제논의 ‘원에이전트’는 AI가 직접 브라우저를 제어하는 단계를 보여주죠. 생산성의 판도를 바꿀 기술이지만 한계는 여전합니다.
놓치지 말아야 할 3가지 변화
1. 하이브리드 아키텍처: LLM의 유연함과 전통적 소프트웨어의 엄격한 제어권을 섞은 구조가 표준이 됩니다.
2. 벤치마크의 무력화: 특정 테스트에만 최적화된 모델이 쏟아지면서 기존 점수는 신뢰를 잃었습니다. 실질적인 적응력을 평가할 새 기준이 필요합니다.
3. 피지컬 AI 확장: 가상 세계의 지능이 로봇이나 관제 시스템 같은 물리적 세계로 뻗어 나가는 시도가 본격화될 전망입니다.
현실적인 도입 전략, 길들여야 할 도구로 보라
업무 전체를 맡기는 건 도박입니다. 지능의 들쭉날쭉함을 인정하고 보완 장치를 설계해야 하죠.
지금 당장 실행해야 할 핵심 체크포인트:
– 업무 성격의 분리: 논리적 검증이 가능한 업무와 맥락이 중요한 업무를 철저히 나눠 테스트하십시오.
– 결정론적 트리거 설정: 핵심 비즈니스 규칙은 AI 판단에 맡기지 말고 확정적 트리거로 묶어둬야 합니다.
– 비판적 리터러시 확보: AI의 편향성과 무작위성을 걸러낼 사고력 없이 도입하면 조직의 자율성만 해칠 뿐입니다.
완성된 지능이 아닙니다. 길들여야 할 도구입니다. 유령 같은 기술을 비즈니스 궤도 안으로 끌어들이는 설계 역량이 곧 경쟁력입니다. 조직의 운명을 확률에 거시겠습니까, 아니면 시스템의 확신을 설계하시겠습니까?
AI 도입, 비용과 성능 사이에서 길을 잃으셨나요?
막연한 기대보다 현실적인 데이터가 필요할 때입니다. 아래 글들이 명쾌한 해답이 될 거예요.
- AI 에이전트 도입 1년의 기록 – 화려한 데모 뒤에 숨겨진 현장의 진짜 고민과 해결책을 확인하세요.
- 비즈니스에 필요한 진짜 AI 선별법 – 덩치만 큰 모델 대신 실전에 즉시 투입 가능한 효율적 모델을 고르는 기준입니다.
- LLM 투자의 함정 피하기 – ‘똑똑한 앵무새’에 속지 않고 모델의 진짜 한계를 꿰뚫어 보는 안목을 길러줍니다.
