Python进程模型选择取决于任务类型:CPU密集型用multiprocessing避GIL;I/O密集型优选asyncio协程;高并发服务采用多进程+异步Worker(如gunicorn+uvicorn);低并发脚本宜用串行或threading。

Python进程模型的选择,关键看任务类型、资源需求和并发规模。CPU密集型任务优先考虑多进程,I/O密集型任务用协程或线程更合适,而高并发网络服务通常搭配异步IO+多进程部署。
CPU密集型任务:用multiprocessing避免GIL限制
Python的全局解释器锁(GIL)让多线程无法真正并行执行CPU任务。此时应使用multiprocessing模块启动独立子进程,每个进程拥有自己的Python解释器和内存空间。
- 适合场景:图像处理、数值计算、机器学习推理、批量数据解析
- 推荐方式:Process、Pool、concurrent.futures.ProcessPoolExecutor
- 注意点:进程间通信(IPC)开销大,尽量减少共享状态;使用Queue、Pipe或Manager做数据交换
I/O密集型任务:优先选asyncio + asyncio.run()或aiohttp
当程序大量等待网络响应、磁盘读写或数据库查询时,单线程协程比多线程/多进程更轻量、更高效。asyncio天然规避了线程切换和进程创建的开销。
- 适合场景:爬虫、API聚合、实时消息推送、日志上报
- 推荐方式:async/await语法 + uvloop(可选加速)、aiofiles、aiomysql等异步生态库
- 注意点:所有I/O操作必须使用异步版本;同步阻塞调用(如time.sleep、requests.get)会拖垮整个事件循环
混合型或高可用服务:多进程 + 异步子任务(gunicorn + uvicorn组合)
Web服务常需兼顾并发连接数与单请求处理效率。典型做法是用多进程管理多个异步Worker,既突破GIL,又发挥协程高吞吐优势。
立即学习“Python免费学习笔记(深入)”;
- 常见部署:Uvicorn(async server)运行在Gunicorn(process manager)之下
- 配置示例:
gunicorn -w 4 -k uvicorn.workers.UvicornWorker main:app - 适用场景:FastAPI/Starlette后端、实时仪表盘、微服务API网关
简单脚本或低并发工具:别过度设计,用threading或直接串行
如果只是定时拉取几个接口、处理几MB文件,或者并发数长期低于10,引入multiprocessing或asyncio反而增加复杂度和调试成本。
- 建议策略:先写清楚逻辑,再根据压测结果决定是否升级模型
- 小技巧:用threading.Thread配合requests.Session可显著提升多HTTP请求速度(复用连接)
- 警惕误区:不是“用了async就一定快”,错误的await顺序或未await的协程会导致隐式同步










