#암호화폐 속보

OpenAI API, 12시간 프롬프트 캐싱 기능 도입

24x7 뉴스 속보

OpenAI API가 12시간 프롬프트 캐싱(prompt caching)을 지원한다. 개발자는 공유 지침과 컨텍스트를 더 오래 캐시하여 요청 간 시간이 지나도 낮은 입력 가격으로 청구받을 수 있다. Tibo(@thsottiaux)는 Codex 및 Work 로그인 사용자의 캐시는 영구 보관된다고 밝혔다.

관련 속보