限流采用令牌桶和滑动窗口算法，数据结构包括环形缓冲区和原子操作；熔断运用断路器模式，数据结构包含滑动窗口、计数器和状态机。gin web 框架中，限流通过判断令牌是否充足来限制请求，熔断通过判断错误率是否达到阈值来触发熔断。
Go 框架中限流和熔断的算法和数据结构
限流
- 令牌桶算法：使用固定速率向桶中添加令牌，当请求到达时，会先从桶中取走一个令牌，若桶中没有令牌，则请求会被拒绝。
- 滑动窗口算法：将时间划分为多个窗口，每个窗口跟踪一定时间段内的请求数。当请求数超过某个阈值时，触发限流。
数据结构
立即学习“go语言免费学习笔记（深入）”；
- 环形缓冲区：用于存储令牌或请求计数。
- 原子操作：确保令牌或请求计数的并发访问安全。
熔断
- 断路器模式：通过熔断机制，当错误率达到一定阈值时，熔断开关将打开，停止处理请求。当错误率下降后，熔断开关将关闭，恢复请求处理。
数据结构
立即学习“go语言免费学习笔记（深入）”；
- 滑动窗口：跟踪一段时间内的错误率。
- 计数器：记录错误计数和成功计数。
- 状态机：管理熔断开关的状态（打开/关闭）。
实战案例
在 Gin Web 框架中，使用如下代码实现限流和熔断：
package main
import (
"context"
"fmt"
"net/http"
"time"
"github.com/gin-gonic/gin"
"github.com/juju/ratelimit"
)
func main() {
r := gin.Default()
// 创建限流器，令牌桶算法，每秒最多允许 10 个请求
limiter := ratelimit.NewBucket(time.Second*1, 10)
// 限流中间件
r.Use(func(c *gin.Context) {
// 尝试从限流器获取令牌
if !limiter.Allow() {
c.AbortWithStatus(http.StatusTooManyRequests)
return
}
c.Next()
})
// 创建熔断器
breaker := NewBreaker(10, time.Minute*1)
// 熔断中间件
r.Use(func(c *gin.Context) {
// 检测熔断器状态
if breaker.IsTripped() {
c.AbortWithStatus(http.StatusServiceUnavailable)
return
}
// 执行请求
if _, err := c.Writer.Write([]byte("Hello world!")); err != nil {
breaker.MarkFailed()
} else {
breaker.MarkSuccessful()
}
c.Next()
})
r.GET("/", func(c *gin.Context) {
c.JSON(http.StatusOK, gin.H{"message": "Hello world!"})
})
r.Run(":8080")
}这个示例演示了如何使用令牌桶算法实现限流，以及使用断路器模式实现熔断。
