2025년 연말, AI에 대한 단상
원문은 Salvatore Sanfilippo님이 에 게재했습니다. 이 블로그 구독하기
- 수년 동안 기능적 증거와 과학적 단서들이 계속 쌓였음에도 일부 AI 연구자들은 LLM이 확률적 앵무새(stochastic parrots)에 불과하다고 계속 주장했다. 프롬프트의 의미를 표상하지도 않고, 자신이 무슨 말을 할지에 대해서도 아무런 표상을 갖지 않는 확률적 기계라는 것이다. 2025년이 되어서야 마침내 거의 모두가 그런 말을 멈췄다.
- 사고의 연쇄(CoT)는 이제 LLM 출력을 개선하는 핵심적인 방법이 되었다. 그런데 CoT란 무엇이며 왜 출력을 개선하는가? 내 생각에는 두 가지 때문이다. 1. 모델 표상 공간에서의 샘플링, 즉 일종의 내부 탐색이다. 프롬프트 주제와 관련된 정보와 개념이 컨텍스트 윈도우 안에 들어오면 모델은 더 잘 답변할 수 있게 된다. 2. 여기에 강화학습이 결합되면 모델은 유용한 답변으로 수렴하기 위해 토큰 하나하나가 모델 상태를 바꾸며 다음 토큰을 이어 붙이는 법을 학습하게 된다.
- 스케일링이 우리가 가진 토큰 수에 의해 제한된다는 생각은 더 이상 사실이 아니다. 검증 가능한 보상을 활용한 강화학습 덕분이다. 우리는 아직 알파고의 37수 같은 순간에 도달하지는 못했지만, 앞으로 정말 불가능할까? 예컨대 주어진 프로그램의 속도를 개선하는 일처럼 이론적으로는 매우 명확한 보상 신호를 바탕으로 아주 오랜 기간 계속 발전할 수 있는 과제들이 있다. LLM에 적용된 강화학습의 발전이 AI의 다음 큰 도약이 될 것이라고 믿는다.
- AI 보조 프로그래밍에 대한 프로그래머들의 저항은 상당히 줄어들었다. LLM이 여전히 실수를 하긴 하지만 유용한 코드와 힌트를 제공하는 능력이 좋아져 대부분의 회의론자들조차 결국 LLM을 쓰기 시작했다. 이제 더 많은 사람들에게 투자 대비 효과가 납득할 만한 수준이 된 것이다. 프로그래밍 업계는 여전히 LLM을 동료처럼 쓰는 사람들 — 예를 들어 나는 Gemini, Claude 등의 웹 인터페이스를 통해서만 상호작용한다 — 과 LLM을 독립적인 코딩 에이전트로 쓰는 사람들로 나뉘어 있다.
- 몇몇 저명한 AI 과학자들은 트랜스포머에서 일어났던 일이 다른 경로를 통해 다시, 더 나은 형태로 일어날 수 있다고 믿고, 트랜스포머의 대안과 명시적인 기호적 표상이나 월드 모델을 갖춘 모델을 연구하기 위해 팀과 회사를 꾸리기 시작했다. 나는 LLM이 이산적인 추론 단계를 근사할 수 있는 공간에서 훈련된 미분 가능한 기계이며, 근본적으로 새로운 패러다임이 등장하지 않아도 AGI에 도달할 가능성이 없지 않다고 본다. AGI는 전혀 다른 여러 아키텍처로도 각각 독립적으로 도달할 수 있을 가능성이 높다.
- 사고의 연쇄가 LLM의 본질을 근본적으로 바꿨기 때문에 과거에 LLM이 매우 제한적이라고 주장했던 사람들이 이제 생각을 바꾸는 것이라고 말하는 이들이 있다. CoT 덕분에 LLM은 이제 다른 무언가가 되었다는 것이다. 그들은 거짓말을 하고 있다. 아키텍처도, 다음 토큰을 예측한다는 목표도 그대로이며, CoT 역시 토큰 하나씩 차례로 생성될 뿐이다.
- ARC 테스트는 오늘날 처음 생각했던 것만큼 넘을 수 없는 벽처럼 보이지 않는다. 해당 과제에 최적화된 소형 모델들이 ARC-AGI-1에서 꽤 괜찮은 성능을 보이고, 방대한 CoT를 활용하는 초대형 LLM들이 ARC-AGI-2에서 인상적인 결과를 달성하고 있다. 많은 사람들이 그런 결과를 내지 못할 것이라던 아키텍처로 말이다. 어떤 면에서 ARC는 반(反) LLM 테스트에서 LLM을 검증하는 테스트로 바뀌었다.
- 향후 20년간 AI 분야의 근본적인 과제는 멸종을 피하는 것이다.
댓글
로그인하고 댓글 남기기