NVIDIA 수석 연구 매니저 짐 팬, Deepseek R1 극찬: "오픈소스 AI 미션의 진정한 구현체"

전문가의 인정

NVIDIA 수석 연구 매니저 짐 팬(Jim Fan)이 최근 소셜 미디어에서 Deepseek R1에 대한 심층 평가를 공유했습니다. GEAR Lab의 공동 창립자이자 Project GR00T의 리드, 스탠퍼드 박사, 그리고 OpenAI의 첫 인턴으로서 팬의 관점은 업계에서 상당한 영향력을 지니고 있습니다. 그는 특히 비미국 기업인 DeepSeek이 AI 오픈소스 발전에 기여한 탁월한 성과를 강조했습니다.

오픈소스 정신의 계승자

팬은 그의 논평에서 다음과 같이 언급했습니다: "우리는 비미국 기업이 OpenAI의 원래 미션을 유지하고 있는 타임라인에 살고 있습니다 - 진정한 개방성과 모든 사람에게 힘을 주는 첨단 연구입니다. 이는 말이 되지 않지만, 가장 재미있는 결과가 가장 가능성 높은 결과입니다." 그는 DeepSeek이 다양한 모델을 오픈소스로 공개할 뿐만 아니라 모든 훈련 비밀까지 공개하는 점을 특히 높이 평가했습니다.

기술 혁신에 대한 심층 분석

Deepseek R1의 기술 논문을 꼼꼼히 읽어본 후, 팬은 몇 가지 주요 기술적 돌파구를 강조했습니다:

1. 순수 강화학습 접근법:

   • "콜드 스타트" 방식을 사용하며, 순수하게 RL로 구동되며 SFT를 전혀 사용하지 않음
   • AlphaZero가 바둑, 쇼기, 체스를 처음부터 마스터한 돌파구를 연상시킴
   • 논문에서 가장 중요한 핵심 내용으로 평가됨

2. 혁신적인 보상 메커니즘:

   • 하드코딩된 규칙으로 계산된 groundtruth 보상을 사용
   • RL이 쉽게 해킹할 수 있는 학습된 보상 모델을 피함

3. 사고 시간의 진화:

   • 모델의 사고 시간이 훈련이 진행됨에 따라 꾸준히 증가함
   • 이는 예정된 동작이 아닌 emergence property(창발적 속성)임

4. GRPO 알고리즘 혁신:

   • PPO에서 critic net을 제거
   • 대신 여러 샘플의 평균 보상을 사용
   • 메모리 사용량을 줄이는 간단한 방법
   • 특히 GRPO는 2024년 2월 DeepSeek에 의해 발명됨

기술적 영향력의 새로운 패러다임

팬은 특히 AI에서의 영향력이 다양한 방식으로 달성될 수 있음을 지적했습니다: "영향력은 '내부적으로 달성된 ASI'나 'Project Strawberry'와 같은 신화적인 이름으로도 달성될 수 있습니다. 영향력은 단순히 원시 알고리즘과 matplotlib 학습 곡선을 공개함으로써도 달성될 수 있습니다." 이 관점은 개방성과 투명성의 중요성을 강조합니다.

지속적 혁신의 사례

팬의 관점에서 DeepSeek은 아마도 주요하고 지속적인 RL 플라이휠 성장을 보여주는 첫 번째 오픈소스 프로젝트일 것입니다. 이러한 지속적인 기술 진보와 개방적인 태도는 전체 AI 커뮤니티에 중요한 기준을 제시합니다.

결론

짐 팬의 평가는 Deepseek R1의 기술적 성과를 인정할 뿐만 아니라 AI 민주화와 오픈소스 정신에 대한 중요한 기여를 강조합니다. 업계 권위자로서 그의 인정은 DeepSeek이 글로벌 AI 환경에서 차지하는 중요한 위치를 더욱 확고히 합니다.

Deepseek R1의 혁신을 직접 체험하려면 Deepseek R1 Chat을 방문하세요.