NPKit: separate time stamps for GPU access from different blocks (#1229)

To avoid races in memory access in GPU
Этот коммит содержится в:
Wenkai Du
2024-06-28 08:00:22 -07:00
коммит произвёл GitHub
родитель b09ea29d66
Коммит 9d8f68b4ee
7 изменённых файлов: 17 добавлений и 21 удалений
+1 -2
Просмотреть файл
@@ -185,8 +185,7 @@ __device__ __forceinline__ void mscclRunInterpreter(
#if defined(ENABLE_NPKIT) && defined(ENABLE_NPKIT_EVENT_TIME_SYNC_CPU)
if (tid == 0) {
uint64_t* cpuTimestamp = ncclShmem.comm.cpuTimestamp;
NpKit::CollectGpuEventLDS(NPKIT_EVENT_TIME_SYNC_CPU, 0, xcc_id, *cpuTimestamp);
NpKit::CollectGpuEventLDS(NPKIT_EVENT_TIME_SYNC_CPU, 0, xcc_id, NPKIT_GET_CPU_TIMESTAMP_FROM_BLOCK);
}
#endif