20260503

了解了Google TPU 的 Systolic Array, 有趣的是，TPU的术语 wavefront 指的是一波一波涌向PE的数据，我觉得很形象。 但是在GPU術語當中，NVIDIA有所謂「Warp」，是指同時處理數據的一簇線程，然後AMD GPU跟NVIDIA對應的東西也叫「wavefront」。我的理解是在GPGPU當中指的是計算湧向數據，跟TPU剛好是反過來的。