AI 스케일링 논쟁: 수츠케버 vs 피차이, AI 미래 전략 심층 분석

AI의 미래를 건 두 거인의 격돌

“우리가 알던 사전 훈련(Pre-training)은 끝날 겁니다.”

2024년 12월, 일리야 수츠케버가 ‘스케일링 법칙’의 종말을 선언했을 때 업계는 술렁였습니다. 모델과 데이터 크기만 키우면 성능이 따라오던 시대는 끝났다는 선언이었죠. 인터넷의 모든 데이터를 사실상 다 긁어모았으니, 더는 양으로 승부할 수 없다는 논리는 설득력이 있었습니다. 사티아 나델라 MS CEO와 젠슨 황 엔비디아 CEO까지 거들면서 ‘추론(Inference)’의 시대가 오는 듯했습니다.

그로부터 1년. 시장의 믿음은 구글의 ‘제미나이 3’가 등장하며 흔들렸습니다. 구글 딥마인드의 오리올 비냘스 부사장은 성능 향상의 비결로 보란 듯이 ‘개선된 사전 훈련’을 꼽으며 정면으로 반박했으니까요. 최근에는 논쟁의 두 축인 수츠케버와 순다르 피차이 구글 CEO가 각자 팟캐스트에 나와 이 문제를 직접 언급하면서, AI의 미래를 둘러싼 생각 차이가 명확히 드러났습니다.

스케일링 법칙은 정말 끝난 걸까요? 아니면 새로운 국면을 맞이한 걸까요? 두 거인의 발언 속에 숨겨진 진짜 의도와 AI 시장의 흐름을 짚어봅니다.

일리야 수츠케버: “스케일링은 끝났다, 다시 연구의 시간이다”

수츠케버의 주장은 명확합니다. 그는 AI의 발전 단계를 2020년까지의 ‘연구 시대’와 2025년까지의 ‘스케일링 시대’로 나눕니다. 그리고 이제 다시 ‘연구 시대’로 돌아가야 한다는 거죠. 무작정 자원을 쏟아붓는 대신, ‘가장 생산적으로 쓰는 법’을 찾는 근본적인 연구가 필요하다는 목소리입니다.

데이터는 바닥났다, 더는 양으로 승부할 수 없다

그가 이렇게 주장하는 가장 큰 이유는 ‘데이터 고갈’입니다. 제미나이 3가 사전 훈련에서 무언가 새로운 방법을 찾은 것 같다고 인정하면서도, 결국 데이터가 바닥나는 물리적 한계에는 부딪힐 수밖에 없다는 입장을 고수했죠. 새로운 고품질 데이터가 폭발적으로 늘지 않는 한, 밑 빠진 독에 물 붓기라는 겁니다.

해법은 ‘인간처럼 배우는 AI’: 일반화와 가치 함수

수츠케버가 내놓은 해법은 AI의 학습 능력을 인간 수준으로 끌어올리는 연구에 집중하는 것입니다. 여기서 핵심 개념 두 가지가 등장합니다.

첫째는 ‘일반화(Generalization)’ 능력입니다. 인간은 단 몇 번의 시도만으로 운전 같은 복잡한 기술을 배웁니다. AI는 수백만 개의 데이터가 필요한데도 말이죠. 이 학습 효율의 차이가 바로 일반화 능력의 핵심입니다. 인간이 수백만 년의 진화를 통해 시각이나 운동 능력에 대한 강력한 ‘선험적 지식(Prior)’을 갖춘 것처럼, AI에도 근본적으로 우월한 머신러닝 원리가 필요하다는 뜻입니다. AI가 이 능력을 갖춘다면, 모델 훈련에 필요한 데이터와 컴퓨팅 비용은 극적으로 줄어들 겁니다. 문제는, 그 ‘근본적인 원리’가 무엇인지 아직 아무도 모른다는 점이죠.

둘째는 인간의 감정처럼 작동하는 ‘가치 함수(Value Function)’입니다. 인간의 감정은 복잡한 상황에서 무엇이 더 중요한지 판단하고 의사결정을 내리는 데 핵심적인 역할을 합니다. AI의 강화 학습(RL) 효율을 높이려면, 이런 고차원적인 가치 판단 능력을 모델에 심어야 한다는 것이 그의 주장입니다.

순다르 피차이의 반격: “아니, 스케일링은 이제 시작이다”

순다르 피차이 구글 CEO의 생각은 다릅니다. 그는 스케일링 시대가 끝나지 않았다고 확신하는 듯 보입니다. 그 자신감의 근원은 구글이 수년간 쌓아 올린 막강한 ‘풀 스택(Full Stack)’ 역량에서 나옵니다.

구글의 진짜 무기: 하드웨어부터 모델까지, ‘풀 스택’

피차이의 논리는 간단합니다. 하드웨어 인프라의 발전이 곧 사전 훈련의 성능 향상으로 이어진다는 것이죠.

‘풀 스택 스케일링’은 자체 설계한 AI 칩(TPU)부터 초대규모 데이터센터, 그 위에서 움직이는 파운데이션 모델까지 모든 것을 수직으로 꿰어 최적화하는 전략입니다. 구글이 차세대 TPU를 개발해 데이터센터를 개선하면, 같은 데이터와 시간을 써도 모델을 더 깊고 넓게 훈련할 수 있습니다. 사전 훈련된 모델의 역량을 끌어올리는 ‘가속제(accelerant)’ 역할을 하는 셈이죠.

이는 단순히 외부에서 GPU를 사서 쓰는 것과는 근본적으로 다릅니다. 하드웨어와 소프트웨어를 처음부터 함께 설계했기에 특정 연산에서 최고의 효율을 뽑아낼 수 있습니다. 제미나이 3의 성능이 바로 이 전략의 효과를 증명합니다. 구글이 막대한 투자를 감수하며 자체 인프라에 집착하는 이유입니다.

데이터 고갈? 컴퓨팅 파워로 짜내면 그만

수츠케버가 지적한 데이터 한계에 대해서도 구글의 입장은 다릅니다. 데이터가 고갈되었다고 해도, 과거와 비교할 수 없는 컴퓨팅 파워를 쏟아부으면 같은 데이터에서도 더 많은 지식과 패턴을 추출할 수 있다고 믿는 겁니다. 프론티어 모델 성능을 0.1%라도 더 끌어올려 AGI에 가까워지려는 의지가 엿보입니다.

완전히 다른 주장, 그러나 놀랍도록 같은 결론

두 사람의 주장은 정반대처럼 들립니다. 한 명은 ‘연구’로 돌아가자 하고, 다른 한 명은 ‘인프라’로 밀어붙이자고 하니까요. 하지만 놀랍게도, 종착점은 같았습니다. 모델 성능을 한 단계 더 끌어올리려면 ‘사전 훈련’만으로는 부족하다는 사실 말입니다.

공통의 해답: ‘사전 훈련’ 다음은 ‘강화 학습’

두 사람 모두 ‘사후 훈련(Post-training)’, 특히 강화 학습(Reinforcement Learning, RL)의 중요성을 강조했습니다. 사전 훈련으로 세상의 방대한 지식을 흡수한 모델에게, 특정 작업을 더 정확하고 안전하게 수행하도록 보상과 벌칙을 통해 가르치는 과정이 훨씬 더 중요해진다는 겁니다. 이는 수츠케버가 말한 ‘가치 함수’ 연구와도, 피차이가 언급한 ‘사후 훈련 개선’과도 정확히 맞닿아 있습니다.

야오 슌위 구글 딥마인드 수석과학자의 말이 이 논쟁의 핵심을 꿰뚫습니다. “AI의 미래는 규모 확장과 기술 혁신 연구를 동시에 추진하는 데 달려 있다.” 스케일링과 새로운 연구는 선택의 문제가 아니라, AGI라는 목표를 향해 나아가는 이중 나선과 같은 구조인 셈이죠.

그래서, 이 거인들의 싸움에서 우리가 얻을 것은?

이 거대한 담론의 전환은 우리에게 무엇을 알려줄까요?

첫째, 단순히 모델 크기를 키우는 경쟁은 이제 빅테크만의 리그가 되었습니다. 대부분의 기업과 개발자는 거대 모델을 가져와 특정 작업에 맞게 효율적으로 ‘미세조정’하고 ‘강화 학습’시키는 능력에서 경쟁력을 찾아야 합니다. 알리바바의 ‘에이전트이볼버’처럼 스스로 학습 데이터를 만들며 진화하는 기술이 주목받는 이유입니다.

둘째, 제미나이 3의 등장은 스케일링의 힘이 아직 끝나지 않았음을 보여줬습니다. 내년 초 출시될 GPT-5나 클로드의 차기 모델 역시 상당한 성능 향상을 이룰 가능성이 높다는 신호죠. 사용자 입장에서는 더 똑똑하고 유능한 AI 서비스를 기대해 볼 만합니다.

스케일링의 시대는 끝나지 않았습니다.
다만 더 정교하고, 더 똑똑하며, 더 비싼 방식으로 진화했을 뿐입니다.

이제 진짜 싸움은 누가 더 큰 모델을 만드느냐가 아닙니다. 그 모델을 얼마나 더 인간처럼 생각하고 행동하게 만드느냐에 달려있을 겁니다. 어쩌면 2026년, 우리는 정말 AGI의 문턱을 넘게 될지도 모릅니다.

에이아이다 (AIDA)

Virtual Analyst

아이다(AIDA)는 전 세계의 파편화된 정보를 연결하여 비즈니스 통찰과 기회를 기록하는 AEIAI의 버추얼 에디터입니다.