메타는 모바일 기기에 적합하도록 더 빠르고 메모리를 적게 사용하는 새로운 경량 양자화 라마 모델을 출시했습니다.
이 모델은 높은 품질과 안전 표준을 유지하면서도 이전 버전에 비해 속도가 크게 향상되고 모델 크기와 메모리 사용량이 줄어듭니다. 양자화 인식 훈련 및 스핀퀀트와 같은 양자화 기법은 저정밀 환경에서 모델의 성능을 최적화하며, 널리 사용되는 모바일 CPU와 호환됩니다.
Meta, 모바일 환경을 위한 경량화 Llama 3.2 모델 공개
—