Large Language Models

주요 뉴스

1. 1

   Gemini 3.5 Pro 수개월 지연, 알파벳 주가 최고점에서 15% 하락

   무슨 일이 있었나: 알파벳은 5월 Gemini 3.5 Pro가 6월에 출시될 것이라고 밝혔지만, 플래그십 AI 모델은 현재 수개월 뒤처진 상태로 테스트 중이다. 블룸버그 보도에 따르면 구글은 코딩 능력을 개선하기 위해 학습 데이터를 업데이트했으나 결과가 부진했다. 회사는 아직 새로운 출시 일정을 공고하지 않았다. 중요한 이유: 코딩은 AI 연구소들의 주요 전장이며 엔터프라이즈 고객들이 비용을 지불하는 핵심 서비스다. 알파벳은 Gemini가 최첨단 기술에서 경쟁력을 유지할 것이라는 내기로 올해 AI 인프라에 최대 1,900억 달러(약 30조 원)를 투자하고 있다. 모델 지연은 우려스러운데, OpenAI와 Anthropic이 구글 내부에서 일부 사람들이 Gemini를 뛰어넘었다고 걱정하는 모델들을 출시하고 있기 때문이다.

   주목할 점: 알파벳은 7월 22일 수요일 2분기 실적을 발표한다. 주요 지표는 Google Cloud의 성장률과 Gemini 3.5 Pro의 출시 일정 관련 경영진 발언이다. 지금까지는 사업이 건강한 것으로 보인다—Google Cloud 매출은 1분기에 전년 동기 대비 63% 증가하여 200억 달러(약 3.2조 원)를 기록했으며, 회사의 클라우드 백로그는 전 분기 대비 거의 2배 증가하여 4,600억 달러(약 74조 원)를 넘었다.

2. 2

   Claude Code의 진정한 경쟁력: 모델이 아닌 하네스

   무엇이 일어났는가: 한 개발자가 Claude Code의 에이전트 아키텍처를 오픈소스 프레임워크인 CrewAI로 재구축했고, 기본 에이전트 루프와 Claude Code의 성능 차이가 기저 언어 모델이 아닌 계획, 메모리, 샌드박싱, 서브에이전트 위임, 승인 시스템 등 주변 인프라에서 나온다는 것을 발견했다. 왜 중요한가: 대부분의 팀은 모델 외부에 있는 엔지니어링의 양을 과소평가한다. 기본 에이전트 루프는 실제 코드베이스에서 실패하지만(잘못된 파일을 읽고, 컨텍스트를 잃으며, 메모리를 오래된 결과로 채운다), Claude Code는 정상 작동한다. 모델을 "판단하는 뇌", 하네스를 "실행하는 손"으로 보는 이 구분은 프로덕션 환경에서 신뢰할 수 있는 코딩 에이전트를 실제로 구축하기 위해 필요한 것이 무엇인지 보여준다.

   주목할 점: 재구축은 두 개의 실제 버그와 5개의 테스트가 있는 작은 BankAccount 클래스를 대상으로 테스트했다. 하네스는 프로젝트를 3개 실패, 2개 통과에서 5개 모두 통과로 끌어올렸으며, 계획, 서브에이전트, 샌드박싱이 함께 테스트 편집 같은 지름길 없이 에이전트가 코드를 올바르게 수정할 수 있게 한다는 것을 입증했다.

3. 3

   공개 가중치 AI 모델, 훈련 방법으로 스웨덴 의학 시험 통과

   무슨 일이 있었는가: 연구진이 공개 가중치 대형 언어 모델(텍스트를 이해하고 생성하는 AI 시스템)이 지도학습 미세조정(SFT)과 검증 보상 강화학습(RLVR)이라는 두 가지 훈련 기법을 사용해 스웨덴 의료 면허 시험에 통과할 수 있음을 입증했다. 중요한 이유: 공개 가중치 모델(내부 작동 원리가 공개되어 있으며, 폐쇄형 상용 시스템과 다름)은 역사적으로 전문 업무에서 폐쇄형 상용 모델보다 성능이 뒤떨어져 왔다. 이 결과는 올바른 훈련 접근 방식을 통해 공개적으로 이용 가능한 모델이 고위험 의료 지식에서 전문가 수준의 성능에 도달할 수 있음을 보여주며, 이는 폐쇄형 시스템을 통제하는 기업들 너머로 고급 AI 역량을 더욱 접근 가능하게 만들 수 있다.

   주목할 점: 이는 학술 커뮤니티(Reddit의 r/MachineLearning)에 게시된 연구 결과다. 어떤 모델이 사용되었는지, 정확한 통과율, 이전 벤치마크와의 비교, 의료 교육이나 면허에서의 실질적 배포 일정 등이 명시되어 있지 않다.

4. 4

   CS 학생, AI 시대 기술 습득 방향 고민

   무엇이 일어났는가: 파키스탄 컴퓨터과학 4학년 학생이 Java, Spring Boot, LeetCode 등 전통적인 소프트웨어 엔지니어링 스킬에 집중할지, 아니면 AI와 자동화에 중점을 둘지 진로 결정을 두고 고민하고 있습니다. 왜 중요한가: 형이 AI가 코드 생성을 충분히 할 수 있다며 깊은 코딩 학습이 가치가 떨어진다고 지적한 반면, 학생은 소프트웨어 엔지니어로서 기초를 탄탄히 하고 해외 석사 진학과 FAANG 같은 대기업 입사를 목표로 하고 있어, 많은 CS 학생들이 직면한 AI 시대 커리어 경로의 실질적 난제를 반영합니다.

   주목할 점: 학생은 로직, 문제 해결, 디버깅, 내부 동작 원리 이해를 즐기며 실제로 프로그래밍을 좋아한다고 밝혔으므로, 자신의 흥미와 시장 수요 사이의 균형을 찾는 것이 핵심입니다.

5. 5

   GPT-2의 32,070개 토큰 어휘를 쌍곡 공간의 인터랙티브 시각화로 매핑

   일어난 일: 한 연구자가 GPT-2-small의 32,070개 토큰 전체 어휘를 모델의 원본 토큰 임베딩을 사용하여 푸앵카레 볼(쌍곡 공간의 수학적 표현) 내에 시각화했으며, 모바일 기기에서 실행되는 인터랙티브 3D 탐색기를 만들었다. 중요한 이유: 어휘의 기저 구조는 숲처럼 나타나는데, 약 2,300개 토큰의 하나의 큰 나무, 수백 개의 작은 계열 나무, 약 6,700개의 고립된 토큰으로 구성되어 있다. 이는 거리에 따라 공간이 지수적으로 확장되는 쌍곡 기하학에 자연스럽게 들어맞지만, 나무들이 왜곡되는 평면 2D 공간에는 적합하지 않다.

   주목할 점: 사용자는 핸드폰 브라우저에서 드래그로 회전하고 핀치로 확대하며 토큰을 탭하여 중심에 맞추고 이웃 관계를 탐색할 수 있으며, 이는 쌍곡 기하학의 정규 네비게이션 방법인 뫼비우스 변환이다.