이제 Google의 Cloud Run 서비스는 L4 GPU에서 Gemma 2 및 Llama 3.1과 같은 오픈 소스 AI 모델을 지원합니다. 개발자는 하이엔드 하드웨어 없이도 오픈 소스 모델에서 고급 AI 애플리케이션을 실행할 수 있습니다. Cloud Run을 활용하면 개발자는 애플리케이션의 프론트엔드 및 백엔드를 모두 유연하게 제어할 수 있으며 추론에 필요한 컴퓨팅 성능에 쉽게 액세스할 수 있어 로컬에서 AI 모델을 실행하거나 Google의 Colab과 같은 다른 플랫폼에서 독점 모델을 사용하는 것보다 비용 효율적인 옵션을 제공할 수 있습니다.
구글, 오픈소스 LLM으로 클라우드 GPU 서비스 제공
—