Large Language Models

주요 뉴스

1. 1

   AI 환각 현상 차단: 기업을 위한 3단계 방어 프레임워크

   무엇이 일어났는가: 기초(프롬프트 설계), 워크플로우(구조화된 프롬프트), 최종 검증(검증) 등 3단계 프레임워크를 통해 기업 환경에서 AI 환각 현상을 줄이는 실무 가이드가 나왔다. 이 프레임워크는 범위 제한, 명명된 출처와 연계된 증거 요구, 절대값 대신 범위 제시, 행동 전 주장 검증 등을 강조한다. 왜 중요한가: 중소기업의 경우 신뢰할 수 없는 AI 결과물은 낭비적 지출, 결함 있는 전략, 거짓에 기반한 의사결정으로 이어질 수 있다. AI 환각은 세련되고 자신감 있게 나타나므로 오류를 드러내지 않는 경우가 많아 특히 위험하다. 이 가이드는 설득력뿐 아니라 책임성을 위해서는 체계가 필요하며, AI 지원이 전략, 지출, 경영진 의사결정을 좌우할 때는 인간의 판단이 (AI로 대체되지 않고) AI와 함께 작동해야 한다고 주장한다.

   주목할 점: 가이드는 5가지 실용적인 프롬프트 전략을 제시한다. 과제를 사실 기반으로 구성하기, 거짓 정보 생성 명시적 차단, 실제 지표에 답변 고정, 발견 사항 분류(검증된 연구, 모범 사례, 신흥 트렌드), 실패 양식을 식별하는 자가 검증으로 마무리하기 등이다. 또한 SaaS 같은 분야의 벤치마크는 세그먼트와 지역에 따라 크게 달라지므로 범위와 세분화가 중요하며, '전환율은 항상 5%'처럼 획일적인 답변은 의심의 여지가 있다는 점을 경고한다.

2. 2

   Abbott와 Google, AI 코칭과 결합된 혈당 센서 출시

   무엇이 일어났는가: Abbott와 Google이 Abbott의 Lingo 혈당 센서를 Google의 AI 및 Health 앱과 통합하는 다년간 파트너십을 발표했다. 올해 말부터 Lingo가 Google Health에 통합되며, 두 회사는 지속적인 혈당 측정, 웨어러블, 실험실 검사, 설문조사 데이터를 결합한 대규모 대사 건강 연구를 출범할 계획이다. 중요한 이유: 이번 파트너십은 대사 건강을 관리하는 사람들을 위해 혈당 정보에 더 쉽게 접근하고 실행 가능하게 만든다. Google Health 프리미엄 구독자를 위한 Google의 AI 기반 건강 코치가 통합된 데이터를 활용하여 식단과 운동 같은 일상적인 습관이 혈당 수치에 미치는 영향에 기반한 맞춤형 권장사항을 제공할 것이다. Abbott의 Lingo 센서는 2024년 미국에 출시된 의약품이 아닌 기기로, 인슐린을 복용하지 않으면서 자신의 대사 패턴을 이해하고 싶어 하는 성인층에 도달한다.

   주목할 점: 혈당 수치, 웨어러블, 실험실 검사, 설문조사 데이터를 통합하는 계획된 대사 건강 연구의 결과. 이러한 발견은 더욱 맞춤형 지침을 알리고 두 회사가 제품을 개선하는 데 도움이 될 것으로 예상된다. Abbott는 연구 등록 규모를 공개하지 않았다.

3. 3

   Amex Ventures, AI 금융 자동화 플랫폼 Fazeshift에 투자

   무엇이 일어났는가: 자율 에이전트를 통해 금융 운영을 자동화하는 AI 플랫폼 Fazeshift는 미국 샌프란시스코에 본사를 두고 있으며, 미국 금융사 American Express의 기업 벤처캐피털 부문인 Amex Ventures로부터 투자를 받았다. 이 투자는 2026년 8월 11일 발표되었으며, 2026년 5월 완료된 Series A 펀딩(F-Prime 주도, Gradient, Y Combinator, Wayfinder, Pioneer Fund, Ritual Capital 참여)에 이어 진행되었다. Series A에서 $17 million을 모금했으며, 누적 자금 조달액은 $22 million에 달한다. 왜 중요한가: Fazeshift의 에이전트는 문제를 단순히 지적하는 것이 아니라 송장 생성, 결제 조정, 채권 관리, 기존 금융 소프트웨어 전반의 커뮤니케이션 조정 등 엔드투엔드 업무를 수행한다. 이는 기업 금융의 오랫동안 지속된 비효율성 문제를 해결한다. 미수금 업무는 오랫동안 스프레드시트, 이메일 체인, 단편화된 시스템에 의존해왔고, 이로 인해 결제가 지연되고 직원 시간이 상당히 소비되어 왔다. Amex의 투자는 AI 네이티브 도구가 핵심 금융 기능을 의미 있게 현대화하고 현금 흐름을 개선할 수 있다는 신뢰를 나타낸다.

   주목할 점: 회사는 "자율 금융을 위해 구축된 완전한 CFO 스위트"로 진화하려는 노력을 계속하면서 제품 강화 및 팀 확대에 자금을 사용할 계획이다. Fazeshift는 미수금 역량을 계속 정제하면서 금융 운영의 추가 영역으로 에이전트 플랫폼을 확대하는 것을 목표로 한다.

4. 4

   OpenAI와 Visa, 쇼핑과 결제를 수행하는 AI 에이전트로 협력

   무슨 일이 일어났는가: OpenAI와 Visa가 AI 에이전트가 사용자를 대신해 쇼핑하고 결제할 수 있도록 하는 파트너십을 체결했다. 중요한 이유: 이 파트너십은 AI 시스템이 구매 작업을 자동으로 처리할 수 있게 함으로써 소비자가 전자상거래 플랫폼 및 결제 서비스와 상호작용하는 방식을 간소화할 수 있다.

   주목할 점: 이 기능이 사용자에게 제공되는 시점과 어떤 판매처 또는 플랫폼이 AI 에이전트 거래를 지원할 것인지에 대한 세부 사항.

5. 5

   미국 정보기관, 에이전트형 AI로의 신중한 전환 추진

   무슨 일이 있었나: 국방정보국(DIA), 국가지공간정보국(NGA), FBI 관계자들이 이번 주 DoDIIS 정상회담에서 자신들의 기관이 작업을 자율적으로 수행하는 에이전트형 AI 시스템으로 신중하게 이동 중이라고 밝혔다. DIA는 첫 번째 엔터프라이즈 AI 플랫폼 구축을 위해 90일 스프린트를 진행 중이며, AI를 외부 시스템에 연결하기 위한 오픈소스 표준인 Model Context Protocol을 채택하고 있다. DIA는 에이전트를 지원하도록 ChatDIA 기능을 개선하고 있다. NGA는 AI 및 데이터 투자수익률 추적 태스크포스를 구성했다. FBI는 AI 검토위원회의 감시를 받는 139개의 AI 사용 사례를 보고했다. 중요한 이유: 정보기관들은 에이전트형 AI를 챗봇을 넘어서기 위해 필수적이라고 보지만, 상당한 장애물에 직면해 있다. 조달 문제, 보안 위험, 속도와 철저함 사이의 균형 필요성이 그것이다. DIA는 자신들이 "초기 단계"에 있으며 기반 인프라를 먼저 구축하지 않고는 "무작정 에이전트 배포로 뛰어들 수 없다"고 강조했다. NGA는 데이터 준비 태세가 중요하다고 지적하면서 "데이터와 AI는 불가분의 관계"라고 설명했다. FBI 관계자들은 AI를 운영 업무에 배포하기 전에 인간의 감시 하에서 충분한 테스트를 거쳐야 한다는 점을 인정했다. 이러한 신중한 일정은 이 분야가 시기상조의 배포가 규정 준수, 보안, 신뢰 문제를 야기할 수 있다는 것을 인식하고 있음을 시사한다.

   주목할 점: DIA는 기타 거래 합의를 활용해 조달 절차를 가속화했으며, 몇 개월이나 몇 년이 아닌 몇 주일이나 며칠 만에 8~9개를 완료했다. FBI는 광범위한 기관 공시와 협력 연구개발 협약을 활용해 기술 전문가들과 연결하고 더 빠르고 정보에 기반한 계약 결정을 내리고 있다. 두 접근 방식 모두 감시를 유지하면서 배포를 가속화하려는 의도를 나타낸다. 성공 여부는 기관들이 파일럿에서 미션 크리티컬 용도로 나아가면서 이러한 균형이 유지될 수 있는지에 달려 있다.

6. 6

   Amazon Quick, Microsoft 365에 AI 어시스턴트로 Word, Excel, PowerPoint, Outlook 확대

   무엇이 일어났는가: 기업 데이터 소스를 연결하는 AI 어시스턴트 Amazon Quick이 이제 Microsoft 365 애플리케이션 내에서 확장 프로그램으로 직접 이용 가능해졌다. Word, Excel, PowerPoint, Outlook의 데스크톱 및 웹 버전에서 확장 프로그램을 현재 일반 공급 중이며, Plus, Professional 또는 Enterprise 요금제 고객을 위해 추가 라이선스는 필요하지 않다. 중요한 이유: 대부분의 조직은 Microsoft 365, AWS 인프라, Salesforce, Jira, Slack 및 기타 시스템에 업무를 분산시켜 운영한다. Quick을 팀이 매일 사용하는 앱에 내장함으로써, 이 통합을 통해 사용자는 도구 간에 전환하지 않고도 연결된 데이터에 접근하고 AI가 문서, 스프레드시트, 이메일에 직접 조치를 취하도록 할 수 있다. 예를 들어 내부 지식 기반 및 실시간 고객 데이터에서 정보를 끌어와 고객 제안서를 몇 주가 아닌 몇 시간 만에 작성할 수 있다.

   주목할 점: 확장 프로그램은 7개의 AWS 리전(US East N. Virginia, US West Oregon, Ireland, London, Frankfurt, Sydney, Tokyo)에서 이용 가능하며, 데이터는 각 선택된 리전 내에 유지된다. 설정을 위해서는 활성 Quick 애플리케이션이 필요하고 Quick 기본 인증을 사용하므로 별도의 Entra 앱 구성이 필요하지 않으며, Outlook은 Graph API 제한으로 인해 일반적으로 관리자 승인이 필요하다.