AI 추구하는 방향
프롬프트 캐싱
Prompt Caching
프롬프트 캐싱은 AI 요청에서 반복되는 앞부분을 캐시해, 비용과 응답 속도를 줄이는 기법이다.
대화·도구 호출에서 같은 맥락이 반복되면, 그 부분을 매번 새로 계산하지 않고 재사용한다. 잘 쓰면 비용이 크게 준다.
findGIL에서는
findGIL이 적극적으로 고민하는 최적화 과제다. 다만 실시간 컨텍스트(예: 현재 시각)가 매번 바뀌면 캐시가 무효화되는 트레이드오프가 있어, 단순 적용이 아니라 구조적으로 풀어야 효과가 난다고 본다. 비용을 아껴 "쓴 만큼만" 약속을 더 싸게 지키려는 방향.
관련 기능
관련 용어
자주 묻는 질문
- 왜 아직 전면 적용 안 했나요?
- 단순 적용으로는 매번 바뀌는 맥락 때문에 효과가 제한적이라, 제대로 된 구조로 푸는 것을 추구하고 있습니다.
지금 이메일을 연결하고, AI 직원을 들이세요
신용카드 없이, 무료 100건으로 시작하세요. 연결은 1분이면 충분하고, 나머지는 findGIL이 알아서 합니다.