Các Chiến lược Bộ nhớ Đệm Phân tán (Distributed Caching)

Nguyên lý tối ưu hóa bậc cao nhất đối với tầng trạng thái là tránh truy cập vào cơ sở dữ liệu gốc ngay từ đầu. Một hệ sinh thái web hiện đại triển khai bộ nhớ đệm xuyên suốt qua các tầng:

1. Client Cache: HTTP Cache trình duyệt, Service Worker, localStorage, IndexedDB.
2. Mạng Phân phối Biên (CDN): Đệm nội dung tĩnh (ảnh, video, JS/CSS) và trang HTML tĩnh gần vị trí người dùng nhất (Cloudflare, Akamai).
3. Reverse Proxy Caching: Varnish, Nginx, Squid nằm trước cụm ứng dụng, phục vụ hàng chục nghìn RPS từ RAM.
4. Application Distributed Cache: Cụm Redis, Memcached, Hazelcast, Oracle Coherence lưu trữ cấu trúc đối tượng, token phiên và kết quả truy vấn.
5. Database Internal Cache: Buffer pool, Query plan cache của chính hệ quản trị RDBMS.
6. Hệ điều hành: OS Page Cache trong nhân Linux.

Jonas Bonér phân tích chi tiết cơ chế tương tác giữa Ứng dụng, Bộ nhớ đệm và Cơ sở dữ liệu gốc (Service of Record):

Mối quan hệ giữa Cache Hit Ratio và lưu lượng thực tế đè nặng lên cơ sở dữ liệu gốc:

Vì bộ nhớ RAM có giới hạn, việc quản lý vòng đời khóa đòi hỏi các chiến lược chặt chẽ:

• TTL (Time-To-Live): Tự động hết hạn sau một khoảng thời gian cố định. Thích hợp cho dữ liệu có tính biến động thấp.
• Trục xuất khi đầy RAM (Eviction Policies):
  • LRU (Least Recently Used): Trục xuất phần tử lâu nhất không được truy cập.
  • LFU (Least Frequently Used): Trục xuất phần tử có tần suất truy cập thấp nhất.
  • Bounded FIFO / LIFO: Trục xuất theo hàng đợi hoặc ngăn xếp có giới hạn kích thước.
• Vô hiệu hóa Tường minh (Explicit Invalidation):
  • Version-based Keys: Đổi tên khóa dạng post:123:v1 sang post:123:v2 khi có cập nhật, đặc biệt hiệu quả trên CDN vì tránh phải purge cache.
  • Event-based: Lắng nghe sự kiện từ hàng đợi EDA để xóa khóa ngay khi bản ghi tương ứng bị sửa.

Hiện tượng Cache Stampede / Dog-piling xảy ra khi một khóa nóng (hot key) hết hạn đột ngột, khiến hàng nghìn yêu cầu đồng thời cùng chọc thẳng vào database để tính toán. Đoạn mã dưới đây sử dụng khóa phân tán nguyên tử (atomic lock) để đảm bảo chỉ 1 tiến trình được nạp dữ liệu:

import redis
import json
import time

r = redis.Redis(host='localhost', port=6379, db=0)

def get_user_profile(user_id):
    cache_key = f"user:profile:{user_id}"
    
    # 1. Kiểm tra trong Cache
    cached_data = r.get(cache_key)
    if cached_data:
        return json.loads(cached_data)  # Cache Hit!
    
    # 2. Cache Miss: Khóa phân tán chống Cache Stampede (Dog-piling)
    lock_key = f"lock:{cache_key}"
    if r.set(lock_key, "1", nx=True, ex=5):
        try:
            # 3. Đọc từ Database gốc
            profile = db_query_user(user_id)
            
            # 4. Ghi ngược vào Cache kèm TTL (Time To Live = 15 phút)
            r.setex(cache_key, 900, json.dumps(profile))
            return profile
        finally:
            r.delete(lock_key)
    else:
        # Chờ luồng đầu tiên nạp xong và thử lại từ cache
        time.sleep(0.05)
        return get_user_profile(user_id)

• Nền tảng Thiết kế Hệ thống và Các Đánh đổi Cốt lõi — Đánh đổi giữa Độ trễ và Thông lượng.
• Định lý CAP, Mô hình ACID và BASE — Mô hình nhất quán Read-Your-Writes và PACELC.
• Phân mảnh RDBMS, DHT và Hệ sinh thái NoSQL — Tầng lưu trữ gốc (Service of Record) phía sau lớp đệm.
• Các Mẫu Thiết kế Độ Ổn định Hệ thống — Mẫu Steady State giúp tự động giới hạn dung lượng bộ nhớ đệm, chống tràn RAM (OOM).