HardSigmoid 函数

• Hard Sigmoid 简介
  • NumPy/ONNX 实现 Hardsigmoid
  • NumPy/TensorFlow/PyTorch 实现 Hardsigmoid
• HardSigmoid Relay 实现
  • F.hardtanh(x + 3, 0., 6.) / 6 或者 F.relu6(x+3)/6
  • F.hardtanh(x*0.2+0.5, 0., 1.) 或者 F.hardtanh(x*(1/6)+0.5, 0., 1.)
  • nn.Hardsigmoid 或者 F.hardsigmoid