并行减速
外观
![](http://upload.wikimedia.org/wikipedia/commons/thumb/3/30/Parallelization_diagram.svg/300px-Parallelization_diagram.svg.png)
并行减速(Parallel slowdown)是并行计算中的一种现象,当中并行算法的并行化超过一定程度后,会导致运行变慢(需要更多时间运行)。[1]
并行减速通常是通信瓶颈造成的。处理器节点花费在通信上的时间将随处理器数量的增加,逐渐超过有效的处理时间。增加处理器节点产生的通信开销一旦超过节点的处理能力,就产生了并行减速。
算法若需要大量通信、特别是中间结果的通信时,就会出现并行减速。有些问题(称作过易并行问题)不需要这类通信,因此不会受到并行减速影响。
![]() | 这是一篇电脑科学小作品。您可以通过编辑或修订扩充其内容。 |
|
参考文献
[编辑]- ^ Kukanov, Alexey. Why a simple test can get parallel slowdown. 2008-03-04 [2015-02-15]. (原始内容存档于2017-02-15).