大規模並行 - 維基百科，自由的百科全書

本條目存在以下問題，請協助改善本條目或在討論頁針對議題發表看法。

此條目可參照英語維基百科相應條目來擴充。 (2022年8月8日)
若您熟悉來源語言和主題，請協助參考外語維基百科擴充條目。請勿直接提交機械翻譯，也不要翻譯不可靠、低品質內容。依版權協議，譯文需在編輯摘要註明來源，或於討論頁頂部標記{{Translated page}}標籤。

此條目沒有列出任何參考或來源。 (2022年8月8日)
維基百科所有的內容都應該可供查證。請協助補充可靠來源以改善這篇條目。無法查證的內容可能會因為異議提出而被移除。

大規模並行（英語：Massively Parallel）是由多個由微處理器，局部存儲器及網絡接口電路構成的節點組成的並行計算體系；節點間以定製的高速網絡互聯。大規模並行處理機是一種異步的多指令流多數據流，因為它的程序有多個進程，它們分布在各個微處理器上，每個進程有自己獨立的地址空間，進程之間以消息傳遞進行相互通信。

參閱[編輯]

並行計算

這是一篇與電腦相關的小作品。你可以透過編輯或修訂擴充其內容。

閱論編並行計算

概論	並發計算分布式計算並行計算大規模並行處理機雲端運算超級電腦高性能計算多元處理大規模多核心處理器（英語：Manycore processor） GPGPU 電腦網絡 Systolic array（英語：Systolic array）

層級	位元指令執行緒任務數據內存循環（英語：Loop-level parallelism）流水線

多執行緒	時間（英語：Temporal multithreading）同時多執行緒（SMT）投機（英語：Speculative multithreading）（SpMT）搶占式協作集群多執行緒（CMT）硬體偵測

理論	PRAM模型並行算法分析（英語：Analysis of parallel algorithms）阿姆達爾定律 Gustafson's law（英語：Gustafson's law） Cost efficiency（英語：Cost efficiency） Karp–Flatt metric（英語：Karp–Flatt metric）減速（英語：Parallel slowdown）加速比

元素	行程執行緒纖程指令窗口（英語：Instruction window）

協調	多元處理內存一致性（英語：Memory coherence）快取一致性高速緩存失效（英語：Cache invalidation）屏障同步應用程式檢查點（英語：Application checkpointing）

編程	串流處理數據流處理（英語：Dataflow programming）模型隱式並行（英語：Implicit parallelism）顯式並行（英語：Explicit parallelism）並發性非阻塞算法（英語：Non-blocking algorithm）

硬體	費林分類法單指令流單數據流單指令流多數據流單指令多執行緒（英語：Single instruction, multiple threads）（SIMT）多指令流單數據流多指令流多數據流數據流架構（英語：Dataflow architecture）指令管線化超純量並行向量處理機多處理器對稱非對稱內存共享分布式內存（英語：Distributed memory）分布式共享 UMA NUMA COMA（英語：Cache-only memory architecture）大規模並行處理機電腦集群網格計算

API	Ateji PX（英語：Ateji PX） Boost.Thread Charm++（英語：Charm%2B%2B） Cilk Coarray Fortran（英語：Coarray Fortran） CUDA Dryad（英語：Dryad (programming)） C++ AMP Global Arrays（英語：Global Arrays） MPI OpenMP OpenCL HMPP開放標準 OpenACC TPL（英語：Parallel Extensions#Task Parallel Library） PLINQ（英語：Parallel Extensions#PLINQ）並行虛擬機（英語：Parallel Virtual Machine）（PVM） POSIX執行緒 RaftLib（英語：RaftLib） UPC TBB（英語：Threading Building Blocks）

問題	軟體閉鎖（英語：Software lockout）可縮放性競爭危害死鎖活鎖飢餓（英語：Starvation (computer science)）確定性算法並行變慢（英語：Parallel slowdown）

分類：並行計算維基共享資源上的相關多媒體資源：大規模並行