推荐学习书目 Learn Python the Hard Way Python Sites PyPI - Python Package Index http://diveintopython.org/toc/index.html Pocoo 值得关注的项目 PyPy Celery Jinja2 Read the Docs gevent pyenv virtualenv Stackless Python Beautiful Soup 结巴中文分词 Green Unicorn Sentry Shovel Pyflakes pytest Python 编程 pep8 Checker Styles PEP 8 Google Python Style Guide Code Style from The Hitchhiker's Guide
这是一个创建于 1780 天前的主题，其中的信息可能已经有所发展或是发生改变。
现在的场景是
多个进程 /线程去 sql 查询 然后将查询的结果写共享内存给到另一个代码进程(称为主进程吧)
现在问题出在
各个线程写给主进程性能堪忧
多个进程 /线程去 sql 查询 然后将查询的结果写共享内存给到另一个代码进程(称为主进程吧)
现在问题出在
各个线程写给主进程性能堪忧
 | 1 Go1denwind OP 如果线程的代码用 C 写 或者协程这类替换线程的方式 会不会有什么明显的提升 能定位问题是在主线程整合各个线程的据上耗时比较多 |
 | 2 NaVient 2020-11-27 16:31:06 +08:00 换 golang |
 | 3 hasdream 2020-11-27 16:36:25 +08:00 查询 SQL,不涉及密集计算多线程就可以， 如果是根据查询的结果进行计算，那多进程 mutiprocessing 这个模块有个 Queue 可以进行进程通信 只能传输基本类型 |
| 4 Go1denwind OP @hasdream 哦补充下 查出来的结果要进行一些计算的 multiprocessing.Queue 好像不支持不同进程间通讯 而且估计速度也和这样差不多 |
| 5 Go1denwind OP @NaVient 转行了转行了 /cry |
 | 6 laminux29 2020-11-27 17:10:12 +08:00 @Go1denwind 不看文档嘛？ 人家 Queue 就是用来做多线程同步的。 你这种需求，正确的操作是，多线程获取数据后，通过 Queue 发送给主线程。不然你主线程还要等每个子线程写数据，这种操作方式本质是串行化，没办法完全利用硬件，速度当然慢。 https://docs.python.org/3/library/queue.html |
| 7 hasdream 2020-11-27 17:16:02 +08:00 @Go1denwind multiprocessing.Queue 基于 multiprocessing.Process 创建的进程通信是没问题的。 如果你觉得不靠谱 那就 fork 多个进程 主进程创建多个 PIPE 进行通信也行 |
 | 8 jones2000 2020-11-28 00:00:33 +08:00 写共享内存和读取应该很快的， 每个线程或进程写单独的一块内存地址， 写完发送事件消息给主进程， 主进程就读对应地址的内存块。 |
Select Language