
Prompt caching во OpenAI или Claude: динамичната содржина ја јаде заштедата
Кај OpenAI и Claude заштедата зависи од стабилниот почеток на барањето. Ако алатките или резултатите често се менуваат, новите записи во кешот можат да ја намалат заштедата и да го продолжат чекањето.


