마이크로소프트가 보는 Models-as-a-Service 기능의 AI 접근성 민주화

요약생성

바쁠 때는 리얼라이즈가 내용을 요약해 드려요.

2024년 5월 22일 오후 5:42

Microsoft의 AI 플랫폼 수석 프로그램 관리자인

2024년 5월 22일 Microsoft Build에서 Microsoft의 AI 플랫폼 수석 프로그램 관리자인 Seth Juarez가 무대에서 데모를 하고 있다. 사진 제공: Ken Yeung/VentureBeat

오늘날의 도구를 사용하면 AI 기반 애플리케이션을 쉽게 구축할 수 있습니다. 그러나 거의 모든 개발자가 피하고 싶어 하는 복잡한 영역은 사용 중인 모델을 호스팅하는 방법을 찾는 것입니다. OpenAI의 GPT-4o, Meta의 Lllama 3, Google의 Gemini 또는 시중에 나와 있는 많은 오픈 소스 모델 중에서 선택하는 것과 이를 배포하는 것은 별개의 문제입니다.

이러한 필수적이지만 골치 아픈 작업은 개발자를 좌절시켜 기업가적 아이디어를 포기하게 만들 수 있습니다. 그러나 Microsoft는 모델 관리보다 창의적인 프로세스에 더 집중할 수 있도록 지원하는 솔루션을 제공합니다. Models-as-a-Service(MaaS)라고 하는 이 솔루션은 클라우드 서비스와 동일한 AI로, 인프라가 아닌 액세스에 대한 요금을 부과하며 회사의 AI Azure Studio 제품을 통해 사용할 수 있습니다.

간단하게 유지

“모델을 배포하려고 시도해 본 적이 있다면 Pytorch 버전, CPU 및 GPU와 관련된 일련의 주문과 조합이 있습니다.'라고 Microsoft AI 플랫폼의 수석 프로그램 관리자인 Seth Juarez는 VentureBeat에 말합니다. “Models-as-a-Service는 이 모든 것을 추상화하므로 사용하려는 모델이 있고 오픈 소스이거나 OpenAI에서 구축한 것이라면 카탈로그에서 제공합니다. 버튼을 누르면 이제 사용할 엔드포인트가 생깁니다.”

개발자는 종량제 플랜을 통해 추론 API를 임대하고 미세 조정을 호스팅할 수 있으며, 이 모든 것이 가상 머신을 사용할 필요가 없습니다. Juarez는 Microsoft에 다양한 작업을 수행하는 1,600개 이상의 모델이 있지만 개발자가 AI 기능을 소프트웨어에 쉽게 활용할 수 있도록 지원하고자 하며 MaaS가 이를 달성하는 방법이라고 설명합니다.

2023년 시작부터 오늘날까지 Microsoft는 이 프로그램을 통해 선택된 모델을 제공했습니다. 처음에는 Mistral-7B와 Meta의 Llama 2를 사용할 수 있었습니다. 이번 주에는 Nixtla의 TimeGen-1과 Core42 JAIS가 추가되었으며 AI21, Bria AI, Gretel Labs, NTT Data, Stability AI 및 Cohere의 모델이 곧 출시될 예정입니다. AI Azure Studio에서 사용할 수 있는 것의 일부에 불과하므로 어떻게 MaaS 모델이 될 수 있을까요?

Juarez는 자신이 어떻게 이루어지는지 알 수 없다고 인정하는 회사 파트너십의 결과입니다. 다른 것들은 해당 모델의 함수 서명을 Models-as-a-Service의 일부가 될 수 있을 만큼 균일하게 만드는 API 작업이 수행되었기 때문에 지원됩니다. 이러한 모델에 액세스하는 통합된 방법이 있습니다. 안타깝게도 더 전문화된 모델은 자격이 없으며 다른 방식으로 배포해야 합니다. “그렇기 때문에 Models-as-a-Service로 활성화된 것도 있고, 자신의 컨테이너에 푸시하여 관리형 추론이라고 하는 방식으로 실행할 수 있는 것도 있습니다.”라고 그는 말합니다.

모델을 '임대'하거나 '소유'하려면

그는 미래에 개발자가 주택 소유자 또는 임차인이 되는 것과 유사한 방식으로 모델을 선택하게 될 것이라는 분기 패러다임을 보게 될 것이라고 믿습니다. Juarez는 “기본적으로 컨테이너, 모델, Azure ML을 소유하고 임대료를 지불하고 유지 관리를 하고 있는 것입니다.”라고 말합니다. “Models-as-a-Service에서는 저희가 유지 관리를 합니다. 그리고 그곳에서 더 많은 모델을 밝힐수록 임대하고 싶다면 좋습니다. 하지만 가상 네트워크 뒤에 있고 그 위에서 물건을 실행해야 하는 사람들이 있습니다.”

MaaS는 독특한… 모델이 아닙니다. 그렇다면 AI가 클라우드 컴퓨팅 비즈니스를 복제하는 가장 눈에 띄는 기술이 된 이유는 무엇일까요? Juarez는 현재 상태가 역전되었다고 제안합니다. 더 이상 기술 회사가 우리에게 필요하다고 생각하는 기술을 내놓지 않습니다. 이제 우리는 기술 회사에 기능과 서비스를 요구하고 있습니다. 이는 연구와 AI의 상용화가 서로 거의 긴밀하게 진행되고 있기 때문입니다. “적어도 제 생각에는 ChatGPT 사용량을 통해 이러한 종류의 경험을 요구하는 소비자가 늘어나고 있기 때문에 이러한 이상한 역전 현상이 나타나는 이유입니다. 그리고 이제 기업은 따라잡으려고 노력하고 있습니다... 사용자는 오늘날의 연구 경험을 요구하고 있습니다.”