需求：通过全球分布的节点缓存静态资源，降低延迟与带宽消耗，提升访问体验

节点分布：

• 全球化部署，覆盖用户密集区域，靠近ISP与IXP
• 分层结构：边缘节点（靠近用户）、主干节点（区域数据中心）、源站（原始数据）
• 动态扩展：容器化或云服务自动扩展，应对流量波动

流量调度：

• GeoDNS：根据用户位置路由到最近节点
• 负载均衡：基于节点负载动态分配流量，支持Anycast路由
• 传输优化：TCP优化、QUIC协议、HTTP/2与HTTP/3提升效率

缓存策略：

• 层次：浏览器缓存、边缘节点缓存、主干节点缓存
• 替换策略：LRU、LFU、TTL
• 一致性：主动刷新、基于版本的缓存、弱一致性

数据同步：

• 主动推送与按需拉取结合
• 增量更新、压缩传输、数据预取优化同步效率

热点与峰值处理：

• 热点内容：实时识别、多级缓存扩展、内容预热
• 流量峰值：动态扩展节点、限流与降级、缓存加速

01.内容分发网络CDN设计

0、需求说明

• 内容分发网络（CDN）系统旨在通过在全球范围内分布的多个服务器节点
• 将用户请求重定向到离其物理位置更近的缓存服务器
• 以加速静态内容的分发，降低带宽消耗和延迟，提高用户的访问体验

• 设计要点：如何高效分发静态资源（如图片、视频、文件等）的理解，如何降低延迟、减少带宽消耗，提升内容加载速度
• 关键点
  • 节点分布策略、流量调度算法
  • 缓存策略与缓存一致性问题
  • 源站与边缘节点的数据同步
  • 热点内容和流量峰值处理

1、节点分布策略

1）全球化节点部署

• CDN节点需要全球化分布，选择性部署在用户密集地区
• 以便将资源缓存在离用户最近的边缘节点上，从而减少传输路径的延迟
• 节点分布应考虑以下几个因素

• 用户分布： 根据目标用户的地理分布确定节点的优先部署位置，覆盖主要的目标市场（如北美、欧洲、亚洲等）
• 网络资源： 部署节点时要考虑当地的网络基础设施状况，如数据中心的带宽、稳定性和延迟等
• 网络互联：
  • 考虑与主要的互联网服务提供商（ISP）及互联网交换中心（IXP）的接入
  • 确保节点之间以及源站与节点之间的数据传输速率和质量

2）边缘节点与主干节点的分层结构

• 边缘节点（Edge Nodes）：
  • 这些节点靠近终端用户，主要用于提供缓存内容的快速访问，减少源站的访问频率
• 主干节点（Core Nodes）：
  • 位于大城市或区域数据中心，处理边缘节点未命中时的内容请求，负责源站数据的聚合与同步
• 源站（Origin Server）：
  • 存储原始数据，当所有层次的节点都未命中时，源站提供最终的内容

3）动态扩展

• 使用容器化技术（如Kubernetes）或云服务（如AWS、GCP）的自动扩展功能，动态地增加或减少节点数量
• 以应对不同时间段或区域的流量波动，保证成本效益和性能的平衡

2、流量调度算法

• CDN的流量调度算法负责将用户请求引导到最合适的节点
• 调度算法的设计需要权衡负载均衡、延迟、带宽使用以及节点的可用性

1）地理位置（GeoDNS）调度

• 使用GeoDNS服务，根据用户的IP地址解析出其地理位置，并将请求路由到距离最近的边缘节点

• 延迟与带宽： 使用主动监控与历史数据分析，将流量路由到延迟最小且带宽最充裕的节点
• 健康检查： 如果某个节点发生故障或性能下降，通过健康检查机制自动将请求切换到其他可用节点

2）智能负载均衡

• 基于负载的调度：
  • 路由请求时除了考虑地理位置外，还需要动态衡量每个节点的当前负载（如CPU、内存、带宽利用率）
  • 通过轮询、最小连接数或基于加权的算法，将流量分配给负载较低的节点
• Anycast路由：
  • 利用Anycast技术，在多个CDN节点之间共享同一IP地址
  • 用户请求会自动路由到最近且响应最快的节点，减少网络跳数与延迟

3）数据传输优化

• TCP优化： 采用TCP Fast Open、延迟确认（Delayed ACKs）等技术，减少连接建立和传输的开销
• QUIC协议： 使用基于UDP的QUIC协议，减少握手时间，提供更快的传输速度
• HTTP/2与HTTP/3： 支持多路复用和头部压缩等技术，减少重复开销，提升传输效率

3、缓存策略与缓存一致性问题

1）缓存层次

• 浏览器缓存： 通过配置HTTP头部（如Cache-Control、Expires），让用户的浏览器缓存静态资源，减少对CDN的请求
• 边缘节点缓存： 边缘节点缓存用户频繁请求的内容，减少访问主干节点的频率
• 主干节点缓存： 存储较少访问的内容，作为源站的缓存保护层，减少对源站的直接请求

2）缓存替换策略

• LRU（Least Recently Used）： 移除最近最少使用的内容，适合热点内容频繁变化的场景
• LFU（Least Frequently Used）： 移除最少访问的内容，适合内容访问频率稳定的情况
• TTL（Time To Live）： 为缓存内容设置有效期，到期后自动失效，适用于大多数静态资源

3）缓存一致性管理

• 缓存一致性指的是当源站内容更新时，如何确保各层缓存中的内容也能及时更新

• 主动刷新（Purge）： 当源站内容发生变化时，主动向所有CDN节点发送刷新请求，更新缓存
• 基于版本的缓存：
  • 每次内容更新时，生成唯一的版本号（如通过文件名中的版本号、或URL中的查询参数），强制CDN重新缓存新的内容
• 弱一致性： 对于不敏感的内容，允许一定时间内的缓存不一致，通过较短的TTL来定期刷新缓存内容

4、源站与边缘节点的数据同步

1）源站内容同步策略

• 边缘节点通常只缓存用户请求的内容副本，而源站负责存储完整的原始数据
• CDN需要确保在内容变化时，源站与边缘节点之间能够快速、可靠地进行数据同步

• 主动推送： 当源站内容发生变化时，源站主动推送更新的资源到CDN的主干节点和边缘节点，以减少边缘节点在用户访问时的更新延迟
• 按需拉取： 当边缘节点接收到未缓存的资源请求时，主动向源站或上一级节点拉取该资源，并将其缓存下来

2）数据同步传输优化

• 增量更新： 对于大文件（如视频或大型图片），在内容变更时只传输差异部分，减少传输量和时间
• 压缩传输： 在网络传输时，启用Gzip或Brotli等压缩技术，减少传输的带宽消耗
• 数据预取： 对于预测到会被访问的热点内容，提前从源站拉取并缓存到边缘节点，减少首次访问的延迟

5、热点内容与流量峰值处理

1）热点内容的高效分发

• 热点内容通常是被大量用户在短时间内频繁访问的资源（如新发布的视频、新闻）

• 热点内容识别： 通过监控CDN请求日志和访问量，实时识别热点内容
• 多级缓存扩展： 热点内容可以在更多的边缘节点、主干节点上缓存，确保其能够快速响应不同地区的用户请求
• 内容预热： 当源站或应用发布新的热点内容时，提前将其推送到所有边缘节点，避免用户首次请求时的缓存未命中

2）流量峰值应对

• 在短时间内出现的大量访问（如抢购、促销活动等）可能导致CDN的压力骤增、
• 为应对流量峰值，可以采取以下措施

• 动态扩展边缘节点： 利用容器化技术动态扩展边缘节点的数量，确保可以处理大规模并发请求
• 限流与降级：
  • 对于非常高的并发请求，可以采取限流策略，限制每秒的请求数量，或采用内容降级策略，提供较低分辨率的视频或图片以应对流量高峰
• 缓存加速： 对于访问量非常高的内容，启用短TTL策略，确保热点内容缓存持续命中，减少对源站的压力