|
1
7
对于寄存器中的输入,您可以通过5个随机指令完成:
编译得很好(
with gcc and clang
这是
非常
在英特尔这是相当不错的,但主流的英特尔处理器与AVX只有1每时钟洗牌吞吐量为256位或浮点洗牌(Sandybridge和更早的版本对于整数128位洗牌具有更高的吞吐量,但是AVX2 cpu丢弃了额外的洗牌单元,而且它们在这方面没有任何帮助。) 所以Intel CPU根本不能利用指令级并行性,但总共只有5个uops,这很好。这是最小可能,因为你需要5个结果。
但特别是如果周围的代码也出现了混乱的瓶颈,
有必要考虑一种存储/重新加载策略,它只有4个存储和5个重叠的向量加载
. 或者2倍
尤其是如果您不太关心Intel first gen Sandybridge,其中未对齐的256位向量加载效率较低(请注意,您希望使用
但是如果前端的uop总吞吐量更多地是瓶颈所在,那么shuffle实现是最好的。 (见 https://agner.org/optimize/ x86 tag wiki 有关性能调整的详细信息。阿尔索 What considerations go into predicting latency for operations on modern superscalar processors and how can I calculate them by hand? ,但实际上Agner-Fog的指南更深入地解释了吞吐量与延迟的关系。) 然后简单地用5个重叠的负载加载它几乎肯定是你能做的最有效的事情。 Haswell可以从L1d对每个时钟进行2次加载,当任何一次加载跨越缓存线边界时,加载次数可以少于2次。 因此,如果您可以将块按64对齐,则完全没有缓存线拆分的情况下是非常有效的。 缓存未命中很慢,但是从L1d缓存重新加载热数据非常便宜,而且支持AVX的现代cpu通常具有高效的未对齐加载支持。
(如前所述,如果使用gcc,请确保使用
4负载+1
(XMM寄存器是对应YMM寄存器的低位128,读取它们不会干扰上层通道,因此
对y0、y2和y4执行256位加载,并将它们的低半部用作x0、x1和x2(稍后使用未对齐的加载或无序排列构造y1和y3)。 只有x3还不是您想要的256位向量的低128位。
理想情况下,编译器在执行
|
|
AstralHex · 矩阵乘法代码工作不正常 1 年前 |
|
|
Fishie · 作为类成员的智能指针是否仍然自动释放?[关闭] 1 年前 |
|
|
Die4Toast · 递归调用成员箭头运算符-> 1 年前 |
|
|
Anka Hanım · 关于结构和动态数组地址的问题 1 年前 |