PyTorch 如何使用 Apple Silicon 神经网络引擎 (NPU)？

PyTorch 如何利用 Apple Silicon 神经网络引擎 (NPU)

苹果 M1 系列芯片搭载了 CPU、GPU 和神经网络引擎 (NPU)。PyTorch 可让您指定设备，如 MPS（金属性能阴影），该设备可在 Apple Silicon 上运行。

MPS 调用的是 GPU 还是 NPU？

MPS 仅调用 GPU，而不是 NPU。GPU 用于训练和生成向量。

如何选择 NPU？

目前，NPU 仅用于推理，而非训练。无法在 PyTorch 中直接选择 NPU。要使用 NPU，需要使用 CoreML，并且苹果尚未公开 NPU 编程接口。