Wie entscheidest du, was du cachest, und wie handhabst du Invalidierung?

Cache Daten, die weit öfter gelesen als geändert werden und teuer zu erzeugen sind. Für die Invalidierung bevorzuge eine kurze Time to Live für alles, was leicht veraltet sein darf, und explizite Invalidierung beim Write für alles, was das nicht darf. Nimm alles in den Cache Key auf, was das Ergebnis verändert, inklusive Tenant und Berechtigungen, und behandle den Cache als wegwerfbar: Das System muss korrekt bleiben, wenn er leer ist.

Ich suche nach drei Eigenschaften: weit öfter gelesen als geschrieben, teuer zu berechnen und tolerant gegenüber leichter Veraltung. Wenn es an der letzten scheitert, etwa ein Kontosaldo, ist es mir lieber langsam und richtig. Bei der Invalidierung ist mein Default eine kurze Time to Live, weil sie sich selbst heilt; wenn ein Bug eine Invalidierung verpasst, löst sich das Problem in sechzig Sekunden statt für immer zu bleiben. Wo Veraltung wirklich nicht akzeptabel ist, invalidiere ich im selben Codepfad wie den Write und nehme die zusätzliche Kopplung in Kauf. Am vorsichtigsten bin ich beim Key. Alles, was das Ergebnis verändert, kommt hinein, vor allem Tenant- oder User-id, denn der schlimmste Caching-Bug, den ich gesehen habe, war eine im CDN gecachte Antwort, die einen personalisierten Header enthielt, und ein Kunde hat kurz den Namen eines anderen Kunden gesehen. Und ich teste immer mit geleertem Cache, denn wenn das System kalt umfällt, ist es kein Cache, sondern eine Abhängigkeit.