Selu

Selu - 22

版本

  • 名稱: Selu (GitHub)

  • 網域: main

  • since_version: 22

  • function: True

  • support_level: SupportType.COMMON

  • 形狀推斷: True

此運算符版本自版本 22 起可用。

摘要

Selu 接受一個輸入資料 (張量) 並產生一個輸出資料 (張量)，其中縮放指數線性單位函數 y = gamma * (alpha * e^x - alpha) 當 x <= 0， y = gamma * x 當 x > 0，以元素方式套用至張量。

函數主體

此運算符的函數定義。

<
  domain: "",
  opset_import: ["" : 18]
>
Selu <gamma,alpha>(X) => (Y)
{
   Alpha = Constant <value_float: float = @alpha> ()
   AlphaCast = CastLike (Alpha, X)
   Gamma = Constant <value_float: float = @gamma> ()
   GammaCast = CastLike (Gamma, X)
   Zero = Constant <value: tensor = float {0}> ()
   ZeroCast = CastLike (Zero, X)
   ExpX = Exp (X)
   AlphaMulExpX = Mul (AlphaCast, ExpX)
   AlphaMulExpXSubAlpha = Sub (AlphaMulExpX, AlphaCast)
   Neg = Mul (GammaCast, AlphaMulExpXSubAlpha)
   Pos = Mul (GammaCast, X)
   XLessThanZero = Less (X, ZeroCast)
   Y = Where (XLessThanZero, Neg, Pos)
}

屬性

  • alpha - FLOAT (預設為 '1.67326')

    SELU 的係數預設為 1.67326319217681884765625 (即，1.6732632423543772848170429916717 的 float32 近似值)。

  • gamma - FLOAT (預設為 '1.0507')

    SELU 的係數預設為 1.05070102214813232421875 (即，1.0507009873554804934193349852946 的 float32 近似值)。

輸入

  • X (異質) - T

    輸入張量

輸出

  • Y (異質) - T

    輸出張量

類型約束

  • T 在 ( tensor(bfloat16), tensor(double), tensor(float), tensor(float16) )

    將輸入和輸出類型約束為浮點張量。

Selu - 6

版本

  • 名稱: Selu (GitHub)

  • 網域: main

  • since_version: 6

  • function: True

  • support_level: SupportType.COMMON

  • 形狀推斷: True

此運算符版本自版本 6 起可用。

摘要

Selu 接受一個輸入資料 (張量) 並產生一個輸出資料 (張量)，其中縮放指數線性單位函數 y = gamma * (alpha * e^x - alpha) 當 x <= 0， y = gamma * x 當 x > 0，以元素方式套用至張量。

函數主體

此運算符的函數定義。

<
  domain: "",
  opset_import: ["" : 18]
>
Selu <gamma,alpha>(X) => (Y)
{
   Alpha = Constant <value_float: float = @alpha> ()
   AlphaCast = CastLike (Alpha, X)
   Gamma = Constant <value_float: float = @gamma> ()
   GammaCast = CastLike (Gamma, X)
   Zero = Constant <value: tensor = float {0}> ()
   ZeroCast = CastLike (Zero, X)
   ExpX = Exp (X)
   AlphaMulExpX = Mul (AlphaCast, ExpX)
   AlphaMulExpXSubAlpha = Sub (AlphaMulExpX, AlphaCast)
   Neg = Mul (GammaCast, AlphaMulExpXSubAlpha)
   Pos = Mul (GammaCast, X)
   XLessThanZero = Less (X, ZeroCast)
   Y = Where (XLessThanZero, Neg, Pos)
}

屬性

  • alpha - FLOAT (預設為 '1.67326')

    SELU 的係數預設為 1.67326319217681884765625 (即，1.6732632423543772848170429916717 的 float32 近似值)。

  • gamma - FLOAT (預設為 '1.0507')

    SELU 的係數預設為 1.05070102214813232421875 (即，1.0507009873554804934193349852946 的 float32 近似值)。

輸入

  • X (異質) - T

    輸入張量

輸出

  • Y (異質) - T

    輸出張量

類型約束

  • T 在 ( tensor(double), tensor(float), tensor(float16) )

    將輸入和輸出類型約束為浮點張量。

Selu - 1

版本

  • 名稱: Selu (GitHub)

  • 網域: main

  • since_version: 1

  • function: False

  • support_level: SupportType.COMMON

  • 形狀推斷: False

此運算符版本自版本 1 起可用。

摘要

Selu 接受一個輸入資料 (張量) 並產生一個輸出資料 (張量)，其中縮放指數線性單位函數 y = gamma * (alpha * e^x - alpha) 當 x <= 0， y = gamma * x 當 x > 0，以元素方式套用至張量。

屬性

  • alpha - FLOAT (預設為 '1.6732')

    SELU 的係數預設為 1.6732。

  • consumed_inputs - INTS :

    舊版最佳化屬性。

  • gamma - FLOAT (預設為 '1.0507')

    SELU 的係數預設為 1.0507。

輸入

  • X (異質) - T

    輸入張量

輸出

  • Y (異質) - T

    輸出張量

類型約束

  • T 在 ( tensor(double), tensor(float), tensor(float16) )

    將輸入和輸出類型約束為浮點張量。