Nowy standard. Twoje centrum tworzenia inteligentnego, szybkiego i zrównoważonego oprogramowania AI

Zobacz teraz
Słownik/Architektura i dostarczanie oprogramowania

Strategie cachowania

Strategie cachowania to zestaw reguł, według których system przechowuje kopie danych w szybszej warstwie pamięci: określają, które dane są kopiowane i jak długo można ufać każdej kopii.

Czym są strategie cachowania?

Jeśli cena produktu jest odczytywana z bazy danych 10 000 razy na godzinę, a zmienia się raz dziennie, system wykonuje niemal całą tę pracę zupełnie niepotrzebnie. Strategia cachowania określa, jak dużą część tej powtarzalnej pracy można pominąć i ile nieaktualnych danych produkt może w zamian zaakceptować.

Każdy cache zamienia aktualność danych na szybkość działania. Kopia przechowywana w pamięci odpowiada znacznie szybciej niż zapytanie do bazy danych, ale może przestać nadążać za źródłem w chwili, gdy źródło się zmieni. Strategia to zestaw decyzji, które pozwalają zarządzać tą różnicą: od momentu trafienia danych do cache po ich wygaśnięcie.

Cachowanie odbywa się jednocześnie na kilku warstwach. Przeglądarka przechowuje pliki, które już pobrała, CDN trzyma strony i zasoby blisko użytkowników, cache aplikacyjny, taki jak Redis, przechowuje w pamięci wyniki zapytań do bazy danych, a sama baza danych trzyma ostatnio używane dane we własnej pamięci. Każda z tych warstw potrzebuje własnych reguł, a użytkownik zobaczy właśnie tę nieaktualną kopię, która pozostała na którejkolwiek z nich.

Dlaczego strategie cachowania są ważne?

  • To one decydują, jak daleko system może się skalować, zanim będzie potrzebował dodatkowego sprzętu. Gdy większość odczytów jest obsługiwana z cache, baza danych zajmuje się tylko chybionymi odczytami i zapisami, więc ta sama baza może obsłużyć znacznie więcej użytkowników.

  • Pozwalają odciążyć najwolniejsze części systemu od powtarzalnej pracy. Zapytania do bazy danych i wywołania zewnętrznych API są zwykle najwolniejszymi i najdroższymi operacjami, jakie wykonuje aplikacja. Cache ustawiony przed nimi przejmuje powtarzające się żądania, także skoki ruchu, które w przeciwnym razie mogłyby je przeciążyć.

Jak działają strategie cachowania?

  • Cache-aside (lazy loading). Aplikacja najpierw sprawdza cache. Przy braku trafienia odczytuje dane z bazy i zapisuje wynik w cache na kolejny raz. AWS opisuje to jako najczęściej spotykaną formę cachowania.

  • Write-through. Każdy zapis do bazy danych aktualizuje też cache, więc dane zapisane przed chwilą są już w nim dostępne, gdy ktoś je odczyta.

  • Write-behind (write-back). Zapisy najpierw trafiają do cache, a dopiero potem są asynchronicznie zapisywane do bazy danych, często partiami. Sam zapis staje się szybki, ale przez krótki czas cache i baza danych nie są ze sobą zgodne, a zapisane w kolejce operacje są zagrożone, jeśli cache ulegnie awarii, zanim zdąży je zapisać.

  • Time to live (TTL). Każdy wpis w cache dostaje czas wygaśnięcia. AWS zaleca ustawienie TTL dla każdego klucza poza tymi, które są aktualizowane przez write-through, jako zabezpieczenie na wypadek danych, które w innym przypadku pozostałyby nieaktualne.

  • Eviction. Gdy cache się zapełni, usuwa wpisy zgodnie z przyjętą polityką. Jedna z popularnych metod, least recently used (LRU), usuwa wpisy, o które nikt nie pytał od najdłuższego czasu.

  • HTTP caching. W przypadku przeglądarek i CDN-ów serwer ustawia reguły w nagłówkach odpowiedzi. Cache-Control: max-age określa, jak długo kopia pozostaje aktualna, a ETag pozwala przeglądarce zapytać, czy jej kopia nadal jest prawidłowa, zamiast ponownie pobierać plik.

Z jakich narzędzi zespoły korzystają do cachowania?

Magazyny danych w pamięci. Redis, Valkey i Memcached przechowują dane aplikacji w pamięci, by zapewnić bardzo szybkie wyszukiwanie. Valkey to alternatywa dla Redisa na licencji BSD, uruchomiona pod egidą Linux Foundation w marcu 2024 roku po zmianie licencji Redisa.

Sieci dostarczania treści. Cloudflare, Fastly i Amazon CloudFront cachują strony oraz pliki statyczne w lokalizacjach blisko użytkowników, zgodnie z nagłówkami HTTP caching wysyłanymi przez serwer źródłowy.

Cachowanie po stronie klienta. Service workery pozwalają aplikacji internetowej zarządzać własnym cache na potrzeby działania offline, a biblioteki takie jak TanStack Query cachują odpowiedzi API wewnątrz aplikacji.

Jakie są najważniejsze cechy strategii cachowania?

  • Ograniczony rozmiar. Cache jest celowo mniejszy niż dane, które za nim stoją, dlatego każda strategia musi określać, co usunąć, gdy zabraknie miejsca.

  • Współczynnik trafień jako główny sygnał kondycji. Udział żądań obsłużonych z cache pokazuje, czy strategia działa. Spadający współczynnik trafień zwykle oznacza, że wpisy wygasają zbyt wcześnie albo cache jest za mały.

  • Współdzielony albo prywatny. MDN rozróżnia cache prywatny, przypisany do przeglądarki jednego użytkownika, i cache współdzielony, taki jak CDN, który obsługuje wielu użytkowników. Spersonalizowane odpowiedzi powinny trafiać wyłącznie do cache prywatnego, oznaczonego nagłówkiem Cache-Control: private.

  • Wersjonowane adresy URL dla plików statycznych. Zmiana adresu URL pliku za każdym razem, gdy zmienia się jego zawartość, jak w bundle.v123.js, pozwala przeglądarkom przechowywać go przez długi czas bez ryzyka podania starej wersji. MDN uznaje to za powszechną dobrą praktykę.

Jakie korzyści dają strategie cachowania?

  • Szybsze odpowiedzi. Dane serwowane z pamięci lub z pobliskiego CDN pomijają zapytanie do bazy danych albo długą podróż sieciową do serwera źródłowego.

  • Niższe koszty infrastruktury. Mniejsza liczba zapytań do bazy danych i mniejszy ruch do źródła oznaczają mniejsze instancje bazy danych i niższe rachunki za transfer.

  • Większa odporność. CDN lub cache można skonfigurować tak, by dalej serwował ostatnią poprawną kopię, gdy serwer źródłowy działa wolno albo jest niedostępny, więc incydent po stronie backendu nie zawsze zamienia się w awarię widoczną dla użytkownika.

  • Mieszczenie się w limitach usług zewnętrznych. Cachowanie odpowiedzi z API rozliczanych za wywołanie albo objętych limitami pozwala aplikacji nie przekraczać przyznanego limitu i utrzymać przewidywalne koszty.

Jakie wyzwania wiążą się ze strategiami cachowania?

  • Unieważnianie. Gdy dane źródłowe się zmieniają, każda ich kopia w cache musi zostać zaktualizowana albo usunięta. Usuwanie kluczy cache przy każdym zapisie utrzymuje aktualność danych, ale wiąże każdą ścieżkę zapisu z cache, a jedna pominięta ścieżka wystarczy, by pozostawić nieaktualne dane, których nikt nie zauważy, dopóki nie zgłosi ich użytkownik.

  • Thundering herd. Gdy wygasa popularny wpis, wiele żądań może jednocześnie nie trafić do cache i wszystkie naraz uderzyć w bazę danych. AWS sugeruje wstępne rozgrzewanie cache i dodawanie losowości do TTL-i, co rozkłada wygaśnięcia w czasie, ale utrudnia przewidywanie i testowanie zachowania cache.

  • Wyciek danych osobowych. Współdzielony cache, który przechowuje spersonalizowaną stronę, może pokazać dane jednego użytkownika innemu. Oznaczenie takich odpowiedzi jako prywatne zapobiega wyciekowi, ale wtedy te strony tracą odciążenie przez CDN, z którego korzysta reszta serwisu.

  • Trudniejsze debugowanie. Przy kilku warstwach cache zgłoszenie błędnych danych może prowadzić do każdej z nich. Nagłówki cache-status i logowanie pozwalają prześledzić źródło problemu, ale wymagają dodatkowej instrumentacji na każdej warstwie.

Jaka jest różnica między cache-aside a write-through?

Aspekt

Cache-aside (lazy loading)

Write-through

Kiedy dane trafiają do cache

Przy pierwszym odczycie zakończonym brakiem trafienia

Przy każdym zapisie do bazy danych

Co znajduje się w cache

Tylko dane, o które ktoś już pytał

Wszystkie ostatnio zapisane dane, także te, których nikt nie odczytuje

Aktualność po zapisie

Nieaktualne, dopóki wpis nie wygaśnie albo aplikacja go nie usunie

Aktualizowane w ramach zapisu

Koszt braku trafienia w cache

Sprawdzenie cache plus zapytanie do bazy danych

Rzadkie w przypadku niedawno zapisanych danych

Wpływ na zapisy

Żaden

Każdy zapis aktualizuje zarówno bazę danych, jak i cache

FAQ o strategiach cachowania

Strategie cachowania: potrzebujesz wsparcia ekspertów?

Monterail tworzy oprogramowanie na zamówienie z wykorzystaniem najnowszych technologii. Porozmawiajmy o tym, jak możemy pomóc w Twoim projekcie.

EXPLORE WEB DEVELOPMENT SERVICES