预取指令是用于提前加载数据到缓存以减少延迟的技术，适用于顺序访问场景。1. 预取指令通过\_mm\_prefetch在数据被使用前加载进缓存，2. 常用于数组遍历等可预测的内存访问模式，3. 使用时建议在循环中提前加载后续项，但避免过度预取以免浪费带宽或污染缓存，4. 支持不同缓存层级的提示如\_mm\_hint\_t0和\_mm\_hint\_nta。非临时存储用于绕过缓存直接写入主存，5. 适合一次性写入大量不重复访问的数据场景，6. 通过\_mm\_stream\_ps等指令实现，并推荐配合内存对齐使用，7. 应仅在必要时使用，防止占用不必要的缓存资源。实际应用中还需注意：8. 数据对齐以满足simd指令要求，9. 避免伪共享问题以减少缓存一致性开销，10. 必须进行性能测试分析，因效果可能随架构和数据规模而异，11. 现代编译器可能自动优化，但手动控制更精准。合理使用这些技术能显著提升c++程序在高性能计算中的表现。
在C++程序中，内存访问模式对性能的影响非常大，尤其是在处理大规模数据或高性能计算场景下。优化内存访问的关键在于减少缓存未命中、提高CPU缓存利用率，而预取（Prefetch）和非临时存储（Non-temporal Stores）指令就是两个有效的工具。
什么是预取指令？什么时候用？
预取指令的作用是提前把即将用到的数据加载进缓存，从而减少因为等待数据从主存读取而造成的延迟。它适用于顺序访问、可预测的内存访问模式，比如遍历数组、图像处理等场景。
使用建议：
立即学习“C++免费学习笔记（深入）”；
- 当你确定接下来会访问某块内存时，提前调用
_mm_prefetch来加载。 - 常用于循环中，在当前处理项之前预取后面几项。
- 注意不要过度预取，否则可能浪费带宽甚至污染缓存。
举个例子：
for (int i = 0; i < N; ++i) {
_mm_prefetch((char*)&array[i + 4], _MM_HINT_T0); // 提前加载4个元素之后的数据
process(array[i]);
}预取级别有 _MM_HINT_T0, _MM_HINT_T1, _MM_HINT_NTA 等，分别对应不同层级的缓存，一般用T0或NTA比较多。
非临时存储指令解决什么问题？
非临时存储（Non-temporal Store）用于绕过缓存，直接写入主存。这适用于一次性写入大量数据且不会立即再次访问的场景，比如初始化大数组、图像缓冲区拷贝等。
如果不加干预，这类操作会占用大量缓存资源，导致其他有用数据被挤出缓存，反而影响整体性能。
使用建议：
立即学习“C++免费学习笔记（深入）”；
- 使用
_mm_stream_ps或_mm_stream_si128等指令进行非临时写入。 - 配合内存对齐（如16字节对齐）使用效果更好。
- 不要频繁使用，仅在大数据量、不重复访问的场景下启用。
示例代码：
__m128 val = _mm_set1_ps(0.0f);
for (int i = 0; i < N; i += 4) {
_mm_stream_ps(&array[i], val); // 直接写入内存，不经过缓存
}实际应用中的几个注意点
- 数据对齐很重要：大多数SIMD指令要求内存地址对齐，比如16字节或32字节对齐，否则可能导致崩溃或性能下降。
- 避免伪共享：多个线程同时修改相邻的内存单元会导致缓存一致性开销增加，尽量让线程访问独立的缓存行。
- 测试与性能分析不可少：不同架构、不同数据规模下效果可能差异很大，最好用perf、VTune等工具验证优化是否有效。
- 编译器也可能做自动优化：某些现代编译器会在O3级别自动插入预取指令，但手动控制通常更精准。
基本上就这些。掌握好预取和非临时存储指令的应用，可以显著提升C++程序在内存密集型任务中的表现。虽然它们不是每次都需要用，但在关键路径上合理使用，往往能带来不小的性能收益。
