프롬프트 캐싱을 통해 고객은 더 많은 예제를 제공하여 성능을 개선하고 비용을 최대 90%, 지연 시간을 최대 85%까지 줄일 수 있습니다. 이 기능은 여러 도구를 호출하고 반복적으로 변경하는 시나리오는 물론, 책이나 팟캐스트와 같은 긴 형식의 콘텐츠와 상호 작용하고 질문을 할 때에도 효과적입니다. Notion AI는 프롬프트 캐싱을 통합하여 전체 지식 기반부터 대화형 상호작용에 이르기까지 다양한 용도에 걸쳐 향상된 속도와 비용 절감 효과를 보여주고 있습니다.
클로드(Claude) API 프롬프트 캐싱 기능
—