Large Language Models

주요 뉴스

1. 1

   Kroger, AI 식사 계획 보조 도구로 쇼핑 촉진

   일어난 일: Kroger가 고객들이 식사를 계획하고 장바구니에 물품을 추가할 수 있도록 도와주는 인공지능(AI) 쇼핑 보조 도구를 출시했으며, 이는 식료품 쇼핑을 위한 AI 기반 커머스 도구 시장에 진출한 것을 의미한다. 중요한 이유: 이 AI 보조 도구는 식사 계획과 쇼핑을 간소화함으로써 Kroger의 평균 구매액과 고객 참여도를 높이는 데 도움이 될 수 있으며, 이는 전자상거래 대안이 증가하는 가운데 소매업체들이 오프라인 및 디지털 경험을 향상시키고 경쟁력을 확보하기 위해 AI에 의존하고 있음을 시사한다.

   주목할 점: 출시 규모, 가격, Kroger 앱과 웹사이트에서의 이용 가능성, 그리고 이 도구가 고객 지출 및 충성도의 실질적인 증가를 이끌어내는지 여부는 AI 기반 식사 계획이 표준적인 식료품 소매 기능이 될지를 나타내는 지표가 될 것이다.

2. 2

   법무팀에 필요한 것은 기술 중심 도구가 아닌 문제 중심 AI

   일어난 일: Altria의 소송 지원 및 기술 담당 선임이사 Kimberly Harlowe가 기업 법무부서의 전략적 AI 도입 프레임워크를 제시했다. 이 방식은 도구 선택 전에 구체적인 비즈니스 문제를 먼저 파악하고, AI 진화에 따라 솔루션을 교체할 수 있도록 모듈식 인프라를 설계하며, 내부 자동화만이 아닌 외부 변호사 파트너십을 통해 확대하는 것을 우선시한다. 중요한 이유: 일반법무이사의 87%에 가까운 수가 능동적인 AI 사용을 보고하고 있지만, 절반도 안 되는 비율만이 공식적인 도입 로드맵을 갖추고 있다. 문제 중심의 전략—레거시 문서 정리 같은 저위험 내부 과제로 시작한 후 외부 변호사 업무 흐름으로 확대—은 법무 지도자들이 소프트웨어 기능이 아닌 비용 절감이나 확보된 역량을 기반으로 경영진의 지지를 얻는 데 도움이 된다.

   주목할 점: 이 프레임워크는 6개월마다 변하는 AI 솔루션들로 인해 단일 벤더 생태계에 갇히지 않도록 '플러그 앤 플레이 아키텍처'를 구축하는 것을 강조한다. 외부 변호사를 위한 높은 영향력의 사용 사례로는 자동화된 증거 신청서 요약과 소송 증거개시 초안이 있으며, 성공 여부는 표준화된 도구를 중심으로 법률 회사들의 조율과 각 단계에서의 인적 검토 유지에 달려 있다.

3. 3

   월마트, AI로 악천후 예측해 폭풍 전에 재고 경로 변경

   무엇이 일어났는가: 월마트는 역사적 기후 패턴과 실시간 데이터를 반영한 예측 AI와 머신러닝 모델을 배치해 악천후가 공급망에 미치는 영향을 예측한다. 이 시스템은 계획자들이 재고를 재배치하고, 운송 시간을 조정하며, 혼란이 발생하기 전에 영향을 받지 않은 지역으로 출하를 변경하도록 돕는다. 소매업체는 또한 악천후 발생 시 배송 경로를 재계산하는 '지능형 이행 엔진'을 사용하며, 캐나다에서는 10일 예보와 고속도로 및 페리 폐쇄를 교차 확인하는 폭풍 경로 변경 에이전트를 운영한다. 중요한 이유: 악천후는 필수품 수요를 급증시키고(폭우 시 우산 등), 이행 센터 용량을 감소시키며, 페리 운항 중단이 유일한 접근 수단일 수 있는 외딴 지역에서 주요 경로를 폐쇄할 수 있다. 월마트는 이러한 영향에 반응하는 대신 예측함으로써 정시 배송을 유지하고 매장을 재고로 충분히 유지하면서 동시에 캘리포니아와 콜로라도의 산불과 같은 긴급 상황 중 운전자 안전을 보호할 수 있다.

   주목할 점: 월마트는 단기 악천후 위기를 처리하는 것뿐만 아니라 장기적으로 네트워크 설계를 최적화하기 위해 동일한 AI 접근 방식을 사용하고 있다. 공급망 기술 담당 SVP인 Indira Uppuluri는 회사가 네트워크 운영 방식의 구조적 변화를 드러낼 수 있는 시뮬레이션을 통해 '장기적으로 공급망을 개선하는 방법을 배우고' 있다고 언급했다.

4. 4

   HR Tech Startup PeopleX, AI 기반 조직 구조 개편에 눈길

   일어난 일: HR 기술 회사 PeopleX가 향후 5년 전망에 대한 경영진의 언급에 따르면, 조직 구조를 재편할 AI 에이전트 중심으로 자리 잡으려 하고 있다. 중요한 이유: HR에 AI를 통합하려는 움직임은 전통적으로 행정 업무로 여겨져 온 HR 기능이 기업의 운영과 경쟁력의 핵심으로 부상하고 있음을 시사한다. 이는 인재 관리와 조직 설계가 비용 센터가 아닌 전략적 우선순위로 인식되는 광범위한 추세를 반영한다.

   주목할 점: PeopleX의 AI 에이전트 배포에 관한 구체적인 기능과 일정은 아직 상세히 공개되지 않았지만, 이 회사의 비전은 향후 5년 내 HR 팀들이 채용, 조직 구조, 인력 계획을 다시 생각해야 할 것임을 시사한다.

5. 5

   Meta와 Microsoft, 증가하는 AI 비용으로 인한 엇갈린 수익성 추세 직면

   일어난 일: Microsoft와 Meta가 수요일 실적 보고서를 발표했으며, 두 회사 모두 AI 인프라에 막대한 비용을 지출하고 있는 것으로 나타났다. Microsoft는 높아진 비용에도 불구하고 이익을 증가시킨 반면, Meta는 수익이 급락했다고 보고했다. 중요한 이유: 두 기술 대기업 간 AI 투자 수익률의 차이를 보여주는 수익성 격차는 투자자와 AI 배포 추세를 지켜보고 있는 비즈니스 리더들에게 의미가 있다. Microsoft가 AI 지출을 수익 성장으로 상쇄할 수 있다는 것은 AI 업무의 더 강력한 수익화를 시사할 수 있는 반면, Meta의 수익 감소는 회사가 AI 투자로부터 아직 이에 필적하는 재정적 수익을 실현하지 못하고 있음을 의미한다.

   주목할 점: 두 회사의 지속적인 AI 지출 궤적과 그 지출을 수익 성장으로 전환하는 능력이 엔터프라이즈 AI 및 클라우드 서비스 시장에서의 경쟁 위치를 결정할 것이다.

6. 6

   6가지 LLM 배포 형식 비교: 속도 대 하드웨어 유연성

   무엇이 일어났는가: 추론 속도와 하드웨어 호환성 간의 상충관계를 각각 다르게 안고 있는 여섯 가지 프로덕션 LLM 배포 형식—Pickle, safetensors, GGUF, ONNX, MLX, TensorRT—에 대한 기술적 분석. Pickle과 safetensors는 Python이 실행되는 모든 곳에서 작동하고, GGUF는 가중치와 토크나이저를 번들로 묶어 CPU 전용 머신을 지원하며, ONNX는 모델이 프레임워크를 전환할 수 있게 하고, MLX는 Apple 실리콘에 최적화되며, TensorRT는 최대 속도를 위해 특정 NVIDIA GPU에 컴파일된다. 왜 중요한가: 더 빠른 모델은 하드웨어별 선택이 파일에 고정되어야 하므로 단일 모델도 지원해야 하는 각 칩이나 런타임마다 별도로 재구성되어야 한다. 팀은 속도와 호환성 척도에서 얼마나 아래로 내려갈 것인지 선택해야 하는데, 이는 추론 지연 시간과 프로덕션에서 실제로 모델을 실행할 수 있는 하드웨어 유형 간의 trade-off다.

   주목할 점: 이 기사는 지연 시간 예산이 허용하는 범위 내에서 배포 형식을 속도-호환성 차트의 최대한 높은 수준으로 유지할 것을 강조한다. LLM을 배포하는 팀은 응답 시간을 최소화하는 것과 이식성을 최대화하는 것 사이에서 끊임없는 균형을 맞춰야 한다.