스노우플레이크, 데이터 클라우드 내 LLM 관측 기능 제공 위해 트루에라 인수

트루에라 인수를 통해 스노우플레이크는 데이터 클라우드로 AI 앱을 구축하기 위한 엔드투엔드 기능을 제공한다는 목표를 강화할 것으로 예상됩니다.

2024년 5월 22일 오후 11:00- 4달 전VENTUREBEAT.COM- Shubham Sharma

스노우플레이크, 데이터 클라우드 내 LLM 관측 기능 제공 위해 트루에라 인수

요약생성

바쁠 때는 리얼라이즈가 내용을 요약해 드려요.

2024년 5월 22일 오후 4시

향상된 스노우플레이크 관측 기능

향상된 스노우플레이크 관측 기능

이미지 출처: Venturebeat, Ideogram으로 제작

오늘 데이터 생태계 거대 기업 스노우플레이크는 프로덕션 환경에서 머신러닝(ML) 모델과 대규모 언어 모델(LLM) 앱을 테스트, 디버깅 및 모니터링하는 도구를 제공하는 AI 스타트업 트루에라를 인수하기 위한 최종 계약을 체결했다고 발표했습니다.

거래 조건은 아직 공개되지 않았지만, 이번 인수를 통해 스노우플레이크는 고객에게 스노우플레이크 데이터 클라우드에서 호스팅되는 데이터를 사용하여 생성형 및 예측형 AI 애플리케이션을 구축하기 위한 엔드투엔드 플랫폼을 제공하려는 노력을 강화할 것으로 예상됩니다. 스노우플레이크는 이미 생성형 AI 앱을 구축하기 위한 모델과 도구를 제공하고 있으며, 이제 구축된 앱이 효과적이고 신뢰할 수 있는지 확인하는 기능을 추가하려고 합니다.

이는 스노우플레이크가 데이터 클라우드에서 제공되는 기능을 강화하기 위한 여섯 번째 주요 투자이며, 관측 가능성 분야에서의 세 번째 주요 움직임입니다. 이전에는 모니터링 솔루션인 옵저브메타플레인에 투자했습니다.

트루에라가 제공하는 가치

2019년 William Uppington, Shayak Sen, Anupam Datta가 설립한 트루에라는 개발부터 프로덕션까지 전체 라이프사이클에 걸쳐 머신러닝 모델을 평가, 디버깅 및 모니터링하는 포괄적인 관측 가능성 플랫폼을 제공하여 머신러닝의 “블랙박스” 문제를 해결합니다.

트루에라는 기존 머신러닝 관측 가능성으로 시작했지만 지난 몇 년 동안 대규모 언어 모델을 포괄하도록 발전하여 사용자가 LLM의 입력, 출력 및 중간 결과를 평가할 수 있도록 지원합니다. 기본적으로 정확하고 관련성 있는 결과를 생성하는지 확인하고 환각, 불공정한 편견, 유해성 등의 위험을 방지합니다. 또한 팀이 모델 성능을 개선하는 데 도움이 되도록 구체적인 근본 원인 분석을 통해 자세한 인사이트를 제공하기 시작했습니다.

이제 이번 인수를 통해 스노우플레이크에 합류함으로써 트루에라의 기술은 데이터 클라우드에 힘을 실어 질문 답변, 요약, RAG 챗봇을 포함한 차세대 AI 앱을 구축하는 사용자에게 성능 격차를 확인할 수 있는 검증된 솔루션을 제공합니다. 세 명의 공동 설립자를 포함한 트루에라의 엔지니어링 및 경영진도 Sridhar Ramaswamy가 이끄는 데이터 거대 기업에 합류합니다.

“트루에라의 기능은 AI 데이터 클라우드에서 이미 제공하고 있는 AI 및 ML 데이터 거버넌스 기능을 보완합니다. 스노우플레이크는 모델을 보완하고 학습하는 데 사용되는 데이터의 정확성과 신뢰성을 보장하는 심층적으로 통합된 기능을 제공하며, 트루에라가 개발한 관측 가능성 기술은 AI에 대한 이러한 스토리를 보완하고 완성할 것입니다.”라고 스노우플레이크는 블로그 게시물에서 밝혔습니다.

트루에라 설립자들은 별도의 게시물에서 세계 최고의 AI 연구, ML 구축 및 배포에 대한 실무 경험, 특정 분야에 대한 도메인 전문 지식, AI 도입을 효과적이고 안전하게 만들기 위한 공통된 열정 등 회사의 핵심 요소가 스노우플레이크와 함께하는 다음 여정에서도 중요하게 유지될 것이라고 덧붙였습니다.

AI를 위한 엔드투엔드 기능 구축 경쟁

스노우플레이크가 트루에라의 AI 관측 가능성 기능을 플랫폼에 정확히 어떻게 통합할지는 아직 불분명하지만, 이번 거래를 통해 데이터 클라우드에 저장된 데이터로 고성능 AI 앱을 구축하기 위한 엔드투엔드 기능을 제공한다는 회사의 목표가 더욱 강화될 것으로 예상됩니다.

스노우플레이크는 트루에라를 통해 AI의 안정성 측면에 집중하기 전에 데이터 클라우드에서 LLM 앱 개발을 간소화하기 위한 몇 가지 조치를 취했습니다. 스노우플레이크는 작년에 LLM 앱을 구축하기 위한 완전 관리형 서비스인 스노우플레이크 코텍스를 출시했으며, 이후 레카와 미스트랄의 모델을 포함한 여러 오픈 모델로 이를 개선했습니다. 몇 주 전에는 SQL 생성, 코드 생성, 지침 따르기와 같은 복잡한 엔터프라이즈 워크로드를 위해 설계된 오픈 LLM인 Arctic에 대한 지원을 통해 코텍스를 확장했습니다.

스노우플레이크의 AI에 대한 관심은 Ramaswamy가 CEO로 취임한 이후 더욱 커졌습니다. 특히 AI 우선 접근 방식을 통해 스노우플레이크는 AI 앱에 중점을 두고 시작하여 엔드투엔드 기능 구축이라는 유사한 사고방식으로 데이터 인텔리전스 플랫폼을 계속 구축하고 있는 경쟁업체 Databricks에 더 잘 대응할 수 있습니다. Databricks는 작년에 MosaicML을 인수했으며, 이후 이를 중심으로 AI 제품을 개발해 왔습니다.