2025년 말 AI에 대한 단상
- 수년 동안 기능적 증거와 과학적 단서들이 계속 쌓여 왔음에도 일부 AI 연구자들은 LLM이 확률적 앵무새(stochastic parrots)에 불과하다고 주장해 왔습니다. 확률에 따라 작동하는 기계일 뿐 1. 프롬프트의 의미에 대한 표상을 전혀 갖지 못하고 2. 자신이 말하려는 내용에 대한 표상도 전혀 갖지 못한다는 것이었습니다. 2025년이 되어서야 마침내 거의 모두가 그런 말을 멈췄습니다.
- 사고의 연쇄(Chain of Thought, CoT)는 이제 LLM 출력을 개선하는 핵심적인 방법이 되었습니다. 그런데 CoT란 무엇이며 왜 출력을 개선하는 걸까요? 저는 두 가지라고 생각합니다. 1. 모델 표상 공간에서의 샘플링, 즉 일종의 내부 탐색입니다. 프롬프트 주제와 관련된 정보와 개념이 컨텍스트 윈도우 안에 들어오면 모델이 더 잘 답변할 수 있게 됩니다. 2. 여기에 강화학습을 결합하면 모델은 유용한 답변에 수렴하기 위해 토큰을 하나씩 차례로 이어 붙이는 방법 — 각 토큰이 모델 상태를 바꾸게 됩니다 — 을 학습하게 됩니다.
- 스케일링이 우리가 보유한 토큰 수에 의해 제한된다는 생각은 검증 가능한 보상을 활용한 강화학습 덕분에 더 이상 사실이 아닙니다. 우리는 아직 알파고의 37수 같은 순간에 도달하지는 못했지만, 앞으로 정말 불가능한 일일까요? 예컨대 주어진 프로그램의 속도를 개선하는 일처럼 이론적으로 매우 명확한 보상 신호를 바탕으로 아주 오랫동안 계속 발전할 수 있는 과제들이 있습니다. LLM에 적용된 강화학습의 발전이 AI의 다음 큰 도약이 될 것이라고 믿습니다.
- AI 보조 프로그래밍에 대한 프로그래머들의 저항이 상당히 줄어들었습니다. LLM이 실수를 하더라도 유용한 코드와 힌트를 제공하는 능력이 향상되면서 대부분의 회의론자들조차 결국 LLM을 사용하기 시작했습니다. 이제 더 많은 사람들에게 투자 대비 효용이 납득할 만한 수준이 된 것입니다. 프로그래밍 분야는 여전히 LLM을 동료처럼 쓰는 부류 — 예컨대 저는 Gemini, Claude 등의 웹 인터페이스를 통해서만 상호작용합니다 — 와 LLM을 독립적인 코딩 에이전트로 쓰는 부류로 나뉘어 있습니다.
- 몇몇 저명한 AI 과학자들은 트랜스포머에서 일어났던 일이 다른 경로를 통해 다시, 더 훌륭하게 일어날 수 있다고 믿으며 트랜스포머의 대안과 명시적 기호 표상이나 월드 모델을 갖춘 모델을 탐구하기 위해 팀과 회사를 꾸리기 시작했습니다. 저는 LLM이 이산적인 추론 단계를 근사할 수 있는 공간에서 학습된 미분 가능한 기계이며, 근본적으로 새로운 패러다임이 등장하지 않더라도 LLM만으로 AGI에 도달하는 것이 불가능하지 않다고 생각합니다. AGI는 전혀 다른 여러 아키텍처로도 독립적으로 도달할 가능성이 높습니다.
- 사고의 연쇄가 LLM의 본질을 근본적으로 바꾸었기 때문에 과거에는 LLM이 매우 제한적이라고 주장했고 이제 생각을 바꾸는 것이라는 사람들도 있습니다. CoT 덕분에 LLM이 이제는 완전히 다른 존재가 되었다고 말합니다. 그들은 거짓말을 하고 있습니다. 여전히 아키텍처도 같고 다음 토큰을 예측한다는 목표도 같으며, CoT 역시 토큰 하나하나 차례로 생성되는 방식으로 만들어집니다.
- ARC 테스트는 오늘날 처음 생각했던 것만큼 넘기 힘든 시험으로 보이지 않습니다. 해당 과제에 최적화된 소형 모델들이 ARC-AGI-1에서 꽤 괜찮은 성능을 보이고, 방대한 사고의 연쇄를 활용한 초대형 LLM들이 많은 사람들이 그런 결과를 내지 못할 것이라고 했던 아키텍처로 ARC-AGI-2에서 인상적인 성과를 달성하고 있습니다. 어떤 면에서 ARC는 반(反) LLM 시험에서 LLM을 검증하는 시험으로 성격이 바뀌었습니다.
- 앞으로 20년간 AI 분야의 근본적인 과제는 멸종을 피하는 것입니다.