Как реализовать ограничение скорости в API Express.js?

Стратегии ограничения ставок:

• Корзина токенов: токены добавляются по фиксированной ставке и расходуются за каждый запрос.
• Фиксированное окно: счетчик сбрасывается через фиксированные промежутки времени.
• Скользящее окно: более точная, но сложная реализация.
• Дырявое ведро: запросы обрабатываются с постоянной скоростью независимо от ввода.
• Ограничения на пользователя: разные ограничения для разных типов пользователей.
• Ограничения на маршрут: разные ограничения для разных конечных точек API.

Подходы к реализации:

// Using express-rate-limit middleware
const rateLimit = require('express-rate-limit');

const limiter = rateLimit({
  windowMs: 15 * 60 * 1000, // 15 minutes
  max: 100, // limit each IP to 100 requests per windowMs
  message: 'Too many requests from this IP',
  standardHeaders: true,
  legacyHeaders: false,
});

app.use('/api/', limiter);

// Custom Redis-based rate limiter
const redis = require('redis');
const client = redis.createClient();

const rateLimitMiddleware = (limit, window) => {
  return async (req, res, next) => {
    const key = `rate_limit:${req.ip}`;
    const current = await client.incr(key);
    
    if (current === 1) {
      await client.expire(key, window);
    }
    
    if (current > limit) {
      return res.status(429).json({ error: 'Rate limit exceeded' });
    }
    
    next();
  };
};

Варианты хранения:

• В памяти: быстро, но не распределяется между экземплярами.
• Redis: распределенный, постоянный, с поддержкой истечения срока действия.
• База данных: постоянно, но медленнее, чем Redis.
• Memcached: вариант быстрого распределенного кэширования.
• Файловая система: простая, но не подходит для рабочей среды.

Расширенные возможности:

• Внесение в белый список: освобождение определенных IP-адресов или пользователей от ограничений скорости.
• Динамические ограничения: настраивайте ограничения в зависимости от уровня пользователя или нагрузки на систему.
• Обработка пакетов: разрешайте короткие пакеты, сохраняя при этом долгосрочные ограничения.
• Распределенное ограничение скорости: ограничения координат на нескольких серверах.
• Аналитика: отслеживайте и анализируйте закономерности ограничения скорости.
• Мягкое ухудшение: снижение качества обслуживания вместо блокировки.

Лучшие практики:

• Используйте соответствующие коды состояния HTTP (слишком много запросов 429).
• Включайте заголовки ограничения скорости в ответы
• Реализуйте разные ограничения для разных конечных точек.
• Учитывайте пользовательский опыт с информативными сообщениями об ошибках.
• Отслеживайте и корректируйте лимиты в зависимости от структуры трафика
• Внедрить правильную обработку и ведение журнала ошибок.

14. Каковы общие стратегии кэширования в приложениях Node.js? (Продолжение)

Кэширование в памяти:

// Simple memory cache with TTL
class MemoryCache {
  constructor() {
    this.cache = new Map();
    this.timers = new Map();
  }
  
  set(key, value, ttl = 60000) {
    // Clear existing timer
    if (this.timers.has(key)) {
      clearTimeout(this.timers.get(key));
    }
    
    this.cache.set(key, value);
    
    // Set expiration timer
    const timer = setTimeout(() => {
      this.cache.delete(key);
      this.timers.delete(key);
    }, ttl);
    
    this.timers.set(key, timer);
  }
  
  get(key) {
    return this.cache.get(key);
  }
}

Кэширование Redis:

const redis = require('redis');
const client = redis.createClient();

// Cache with Redis
async function getCachedData(key) {
  const cached = await client.get(key);
  if (cached) {
    return JSON.parse(cached);
  }
  
  const data = await fetchFromDatabase(key);
  await client.setex(key, 300, JSON.stringify(data)); // 5 min TTL
  return data;
}

Шаблоны кэширования:

• Cache-Aside: приложение управляет кешем напрямую.
• Сквозная запись: одновременная запись в кэш и базу данных.
• Запись: запись в кэш немедленно, в базу данных позже.
• Упреждающее обновление: активное обновление кэша до истечения срока его действия.
• Иерархия кэша: несколько уровней кэша с разными значениями TTL.

Стратегии аннулирования кэша:

• На основе срока жизни: автоматическое истечение срока действия по истечении определенного периода времени.
• На основе событий: недействительно при определенных событиях или изменениях данных.
• Вручную: явная очистка кеша посредством вызовов API.
• На основе тегов: групповые записи кэша для массовой аннулирования.
• На основе версии: используйте управление версиями, чтобы сделать устаревшие данные недействительными.

Итог

Ключевой вывод для интервью: как реализовать ограничение скорости в API Express.js?