미스트랄, 모델 미세 조정 위한 새로운 서비스 및 SDK 출시

프랑스 AI 스타트업 미스트랄이 개발자와 기업이 특정 사용 사례에 맞게 생성 모델을 미세 조정할 수 있도록 유료 플랜을 포함한 새로운 AI 모델 사용자 정의 옵션을 도입했습니다.

첫 번째는 셀프 서비스입니다. 미스트랄은 워크스테이션, 서버 및 소규모 데이터센터 노드에서 모델을 미세 조정하기 위한 소프트웨어 개발 키트(SDK)인 Mistral-Finetune을 출시했습니다.

미스트랄은 SDK GitHub 저장소의 readme에서 SDK가 멀티 GPU 설정에 최적화되어 있지만 Mistral 7B와 같은 더 작은 모델을 미세 조정하기 위해 단일 Nvidia A100 또는 H100 GPU로 축소할 수 있다고 언급했습니다. 미스트랄에 따르면 OpenAI의 ChatGPT와의 140만 건의 대화 모음인 UltraChat과 같은 데이터 세트에 대한 미세 조정은 8개의 H100에서 Mistral-Finetune을 사용하여 약 30분이 걸립니다.

더욱 관리된 솔루션을 선호하는 개발자와 기업을 위해 회사 API를 통해 사용할 수 있는 새로운 미세 조정 서비스도 있습니다. 현재 미스트랄의 두 가지 모델(Mistral Small 및 앞서 언급한 Mistral 7B)과 호환되는 미세 조정 서비스는 향후 몇 주 내에 더 많은 모델을 지원할 예정이라고 미스트랄은 밝혔습니다.

마지막으로 미스트랄은 엄선된 고객에게만 제공되는 맞춤형 학습 서비스를 출시하여 조직의 앱에 맞게 데이터를 사용하여 모든 미스트랄 모델을 미세 조정합니다. 회사는 공식 블로그 게시물에서 “이러한 접근 방식을 통해 특정 도메인에 맞게 고도로 전문화되고 최적화된 모델을 만들 수 있습니다.”라고 설명합니다.

저의 동료인 Ingrid Lunden이 최근 보도한 바와 같이 DST, General Catalyst, Lightspeed Venture Partners를 포함한 투자자로부터 60억 달러의 가치로 약 6억 달러를 모금하려는 미스트랄은 생성 AI 분야에서 상당하고 증가하는 경쟁에 직면하면서 수익을 창출하려는 것은 당연합니다.

2023년 9월에 첫 번째 생성 모델을 공개한 이후 미스트랄은 코드 생성 모델을 포함한 여러 모델을 출시했으며 유료 API를 출시했습니다. 그러나 사용자 수나 수익이 어떻게 되는지는 공개하지 않았습니다.