如何解决并发处理 NLP参考
我理解,一般来说,在Python的concurrent.futures模块中,ProcesspoolExecutor用于cpu受限的任务,ThreadPoolExecutor用于I/O受限的输出。
我有一个包含新闻文章的数据框,我想将这些新闻文章与 huggingface neuralcoref 包一起应用。由于这实际上是一个计算,我预计这是一个受 cpu 限制的进程,因此尝试使用 ProcesspoolExecutor。但是,我发现 ThreadPoolExecutor 方法在一半的时间内处理批处理。 我认为这是一个受 cpu 限制的进程的假设似乎是不正确的。为什么会这样?
如果这有帮助,这里是规格:
处理器:AMD FX-8350(8核)
主板:技嘉990FXA-UD3
内存:16GB DDR3
存储:三星固态硬盘
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。