高并发场景下到底应该创建多少线程?

文摘   2024-06-27 08:01   四川  

大家好,我是冰河~~

创建多少线程合适, 要看多线程具体的应用场景。一般来说,我们可以将程序分为:CPU密集型程序和I/O密集型程序, 而针对于CPU密集型程序和I/O密集型程序,其计算最佳线程数的方法是不同的 。

CPU密集型程序

对于CPU密集型计算, 多线程本质上是提升多核CPU的利用率, 所以对于一个4核的CPU, 每个核一个线程, 理论上创建4个线程就可以了, 再多创建线程也只是增加线程切换的成本。

所以, 对于CPU密集型的计算场景, 理论上“线程的量=CPU核数”就是最合适的。但是在实际工作中, 一般会将线程数量设置为“CPU核数+1”, 这样的话, 当线程因为偶尔的内存页失效或其他原因导致阻塞时, 这个额外的线程可以顶上, 从而保证CPU的利用率 。

所以,在CPU密集型的程序中,一般可以将线程数设置为CPU核数+1。

I/O密集型程序

对于I/O密集型的程序,最佳的线程数是与程序中CPU计算和I/O操作的耗时比相关。总体来说,可以将其总结为如下的公式。

单核CPU

最佳线程数 = 1 +(I/O耗时 / CPU耗时)  

我们令R=I/O耗时 / CPU耗时, 可以这样理解:当线程A执行IO操作时, 另外R个线程正好执行完各自的CPU计算。这样CPU的利用率就达到了100%。

多核CPU

多核CPU的最佳线程数在单核CPU最佳线程数的基础上,乘以CPU核数即可,如下所示。

最佳线程数=CPU核数 * [ 1 +(I/O耗时 / CPU耗时) ]  

总结

上述公式计算的结果为最佳理论值,实际工作中还是要通过实际压测数据来找到最佳线程数,将硬件的性能发挥到极致。

好了,今天就到这儿吧,我是冰河,我们下期见~~

往期推荐

推荐👍《历时5个月,分布式IM即时通讯系统完美收官

推荐👍《历时5个月,秒杀系统完美收官

推荐👍《打开计划启动:每个项目的价值都远超门票

推荐👍《从单体到微服务,冰河的秒杀系统上硬菜了

推荐👍《用过来人的身份告诉你大厂为何要自研RPC

推荐👍深入理解高并发编程(第2版)发布

推荐👍SpringCloud Alibaba实战电子书发布

---END---

下方扫码领券限时 5折 加入 冰河技术 知识星球,你将获得:SpringCloud Alibaba实战、实战高并发设计模式、手写分布式IM系统(对接ChatGPT),手写秒杀系统,手写高性能网关、手写RPC、手写调度系统、Spring6源码解析、并发编程、性能调优、框架源码、面经手册等高质量大厂项目和技术小册/PDF等资料。目前,分布式IM即时通讯系统已经完结,分布式高性能网关项目正在热更中,后续会根据星球加入人数和项目完善情况,逐步涨价,点击:查看更多...

知识星球:冰河技术
公众号后台回复“并发编程2”领取《深入理解高并发编程(第2版)》电子书。回复 “并发编程” 领取冰河原创的全网累计下载超70W+的《深入理解高并发编程(第1版)》电子书。回复 “渗透笔记” 领取冰河原创的全网首个开源的以实战案例为背景的《冰河的渗透实战笔记》电子书。回复 “PDF” 领取冰河整理的其他8本超硬核PDF电子书,海量面试资料和简历模板。
冰河从一名普通程序员,一路进阶成长为互联网资深技术专家,TVP腾讯云最具价值专家,一直致力于分布式系统架构、微服务、分布式数据库、分布式事务、大数据以及云原生技术的研究。在高并发、高可用、高可扩展性、高可维护性、大数据以及云原生等领域拥有丰富的架构经验。希望我的经验能够为你带来帮助。

公众号:冰河技术


视频号:冰河技术


喜欢就点个 在看 呗 👇

冰河技术
分享各种编程语言、开发技术、分布式与微服务架构、分布式数据库、分布式事务、云原生、大数据与云计算技术和渗透技术。另外,还会分享各种面试题和面试技巧。
 最新文章