V2EX › 111qqz 的所有回复 › 第 1 页 / 共 47 页

@AirCrusher #14
1. 只用一个 torch.matmul 无法复现问题.
甚至两个 linear 的参数也会影响问题的复现.
基本上第二个 linear 的参数的输出是 1 才会复现,如果是其他值,先后 import 不会对结果有影响.

2. 随机种子和`torch.use_deterministic_algorithms(True)` 都设置了.
以及设置了如下这些:

```python

def set_random_seed(seed: int):
"""Set random seed.

Args:
seed (int): Seed to be used.
"""
random.seed(seed)
np.random.seed(seed)
torch.manual_seed(seed)
torch.cuda.manual_seed(seed)
torch.cuda.manual_seed_all(seed)
torch.backends.cudnn.deterministic = True # type: ignore
torch.backends.cudnn.benchmark = False # type: ignore
torch.backends.cudnn.enabled = False # type: ignore
cp.random.seed(seed)

```

问题还是可以复现.

121 天前

回复了 111qqz 创建的主题 › Python › [求助] import cupy 和 import torch 的顺序不同导致了不同的计算结果,如何进一步排查?

@thinkershare #9 非常感谢协助排查.
不同机器上的结果似乎确实是会不一致的, 之前遇到过使用两种不同型号的 A100GPU 时(A100-PCIE-40GB vs A100-SXM4-40GB),Adam 优化器的结果会有明显区别.

我打算先看看对齐下 CUDA 版本来验证下,确保 cupy 和 torch 使用的是同一个 cuda 版本.
如果还是不行, 打算尝试下你后面提到的步骤
有了更新会 at 你

再次感谢

122 天前

回复了 MrWil 创建的主题 › 职场话题 › tencent 面试之按地摩擦

某 bg 的话,校招生薪资=1 siza=61W (

122 天前

回复了 111qqz 创建的主题 › Python › [求助] import cupy 和 import torch 的顺序不同导致了不同的计算结果,如何进一步排查?

@thinkershare #4 最开始我也怀疑是种子. 但是种子应该已经设置相同了,而且种子对结果的差异应该比这个要大

122 天前

回复了 111qqz 创建的主题 › Python › [求助] import cupy 和 import torch 的顺序不同导致了不同的计算结果,如何进一步排查?

@thinkershare #6 感谢,已补充

122 天前

回复了 111qqz 创建的主题 › Python › [求助] import cupy 和 import torch 的顺序不同导致了不同的计算结果,如何进一步排查?

@nagisaushio 一样的。同样的代码结果可以稳定出现，没有任何误差