• xiabo's avatar
    测试用例修改 · e2f0eed9
    xiabo authored
    原因:
    np.allclose(a, b, rtol)使用,计算误差是(a-b)的误差在(atol + rtol*b.abs())以内,但用例中b的值有0,误差就是atol了,atol默认是10的-8.
    修改:
    把atol根据用例改为传入的误差*10-3.
    e2f0eed9
setup.py 22 KB