Dropout

Dropout - 22

版本

  • 名稱: Dropout (GitHub)

  • 網域: main

  • since_version: 22

  • 函數: False

  • 支援等級: SupportType.COMMON

  • 形狀推論: True

此版本的運算子自版本 22 起可用。

摘要

Dropout 接受一個浮點張量輸入、一個可選的輸入比例 (浮點純量) 和一個可選的輸入 training_mode (布林純量)。它產生兩個張量輸出，輸出 (浮點張量) 和遮罩 (可選的 Tensor<bool>)。如果 training_mode 為 true，則輸出 Y 將是隨機 dropout；請注意，此 Dropout 會透過以下方程式縮放遮罩的輸入資料，因此要將訓練後的模型轉換為推論模式，使用者可以簡單地不傳遞 training_mode 輸入或將其設定為 false。

output = scale * data * mask,

其中

scale = 1. / (1. - ratio).

此運算子具有可選輸入/輸出。請參閱 ONNX IR 以取得更多關於可選引數表示法的詳細資訊。可以使用空字串來代替實際引數的名稱，以表示缺少引數。尾隨的可選引數（那些後面沒有跟著存在的引數）也可以簡單地省略。

屬性

  • seed - INT :

    （可選）隨機產生器的種子，如果未指定，我們將自動產生一個。

輸入

介於 1 和 3 個輸入之間。

  • data (異質) - T

    作為張量的輸入資料。

  • ratio (可選，異質) - T1

    隨機 dropout 的比例，值介於 [0, 1) 之間。如果未設定此輸入，或如果將其設定為 0，則輸出將是輸入的簡單複製。如果它是非零值，則輸出將是縮放輸入的隨機 dropout，這通常是訓練期間的情況。它是一個可選的值，如果未指定，則預設為 0.5。

  • training_mode (可選，異質) - T2

    如果設定為 true，則表示 dropout 用於訓練。它是一個可選的值，因此除非明確指定，否則為 false。如果為 false，則忽略 ratio，並且運算會模擬推論模式，其中不會從輸入資料中刪除任何內容，並且如果要求將遮罩作為輸出，則它將包含全部為 1 的值。

輸出

介於 1 和 2 個輸出之間。

  • output (異質) - T

    輸出。

  • mask (可選，異質) - T2

    輸出遮罩。

類型約束

  • T 在 (tensor(bfloat16), tensor(double), tensor(float), tensor(float16), tensor(float8e4m3fn), tensor(float8e4m3fnuz), tensor(float8e5m2), tensor(float8e5m2fnuz)) 中

    將輸入和輸出類型約束為浮點張量。

  • T1 在 (tensor(bfloat16), tensor(double), tensor(float), tensor(float16), tensor(float8e4m3fn), tensor(float8e4m3fnuz), tensor(float8e5m2), tensor(float8e5m2fnuz)) 中

    將輸入 'ratio' 類型約束為浮點張量。

  • T2 在 (tensor(bool)) 中

    將輸出 'mask' 類型約束為布林張量。

Dropout - 13

版本

  • 名稱: Dropout (GitHub)

  • 網域: main

  • since_version: 13

  • 函數: False

  • 支援等級: SupportType.COMMON

  • 形狀推論: True

此版本的運算子自版本 13 起可用。

摘要

Dropout 接受一個浮點張量輸入、一個可選的輸入比例 (浮點純量) 和一個可選的輸入 training_mode (布林純量)。它產生兩個張量輸出，輸出 (浮點張量) 和遮罩 (可選的 Tensor<bool>)。如果 training_mode 為 true，則輸出 Y 將是隨機 dropout；請注意，此 Dropout 會透過以下方程式縮放遮罩的輸入資料，因此要將訓練後的模型轉換為推論模式，使用者可以簡單地不傳遞 training_mode 輸入或將其設定為 false。

output = scale * data * mask,

其中

scale = 1. / (1. - ratio).

此運算子具有可選輸入/輸出。請參閱 ONNX IR 以取得更多關於可選引數表示法的詳細資訊。可以使用空字串來代替實際引數的名稱，以表示缺少引數。尾隨的可選引數（那些後面沒有跟著存在的引數）也可以簡單地省略。

屬性

  • seed - INT :

    （可選）隨機產生器的種子，如果未指定，我們將自動產生一個。

輸入

介於 1 和 3 個輸入之間。

  • data (異質) - T

    作為張量的輸入資料。

  • ratio (可選，異質) - T1

    隨機 dropout 的比例，值介於 [0, 1) 之間。如果未設定此輸入，或如果將其設定為 0，則輸出將是輸入的簡單複製。如果它是非零值，則輸出將是縮放輸入的隨機 dropout，這通常是訓練期間的情況。它是一個可選的值，如果未指定，則預設為 0.5。

  • training_mode (可選，異質) - T2

    如果設定為 true，則表示 dropout 用於訓練。它是一個可選的值，因此除非明確指定，否則為 false。如果為 false，則忽略 ratio，並且運算會模擬推論模式，其中不會從輸入資料中刪除任何內容，並且如果要求將遮罩作為輸出，則它將包含全部為 1 的值。

輸出

介於 1 和 2 個輸出之間。

  • output (異質) - T

    輸出。

  • mask (可選，異質) - T2

    輸出遮罩。

類型約束

  • T in ( tensor(bfloat16), tensor(double), tensor(float), tensor(float16) )

    將輸入和輸出類型約束為浮點張量。

  • T1 in ( tensor(double), tensor(float), tensor(float16) )

    將輸入 'ratio' 類型約束為浮點張量。

  • T2 在 (tensor(bool)) 中

    將輸出 'mask' 類型約束為布林張量。

Dropout - 12

版本

  • 名稱: Dropout (GitHub)

  • 網域: main

  • since_version: 12

  • 函數: False

  • 支援等級: SupportType.COMMON

  • 形狀推論: True

此運算子的版本自 版本 12 開始提供。

摘要

Dropout 接受一個浮點張量輸入、一個可選的輸入比例 (浮點純量) 和一個可選的輸入 training_mode (布林純量)。它產生兩個張量輸出，輸出 (浮點張量) 和遮罩 (可選的 Tensor<bool>)。如果 training_mode 為 true，則輸出 Y 將是隨機 dropout；請注意，此 Dropout 會透過以下方程式縮放遮罩的輸入資料，因此要將訓練後的模型轉換為推論模式，使用者可以簡單地不傳遞 training_mode 輸入或將其設定為 false。

output = scale * data * mask,

其中

scale = 1. / (1. - ratio).

此運算子具有可選輸入/輸出。請參閱 ONNX IR 以取得更多關於可選引數表示法的詳細資訊。可以使用空字串來代替實際引數的名稱，以表示缺少引數。尾隨的可選引數（那些後面沒有跟著存在的引數）也可以簡單地省略。

屬性

  • seed - INT :

    （可選）隨機產生器的種子，如果未指定，我們將自動產生一個。

輸入

介於 1 和 3 個輸入之間。

  • data (異質) - T

    作為張量的輸入資料。

  • ratio (可選，異質) - T1

    隨機 dropout 的比例，值介於 [0, 1) 之間。如果未設定此輸入，或如果將其設定為 0，則輸出將是輸入的簡單複製。如果它是非零值，則輸出將是縮放輸入的隨機 dropout，這通常是訓練期間的情況。它是一個可選的值，如果未指定，則預設為 0.5。

  • training_mode (可選，異質) - T2

    如果設定為 true，則表示 dropout 用於訓練。它是一個可選的值，因此除非明確指定，否則為 false。如果為 false，則忽略 ratio，並且運算會模擬推論模式，其中不會從輸入資料中刪除任何內容，並且如果要求將遮罩作為輸出，則它將包含全部為 1 的值。

輸出

介於 1 和 2 個輸出之間。

  • output (異質) - T

    輸出。

  • mask (可選，異質) - T2

    輸出遮罩。

類型約束

  • T in ( tensor(double), tensor(float), tensor(float16) )

    將輸入和輸出類型約束為浮點張量。

  • T1 in ( tensor(double), tensor(float), tensor(float16) )

    將輸入 'ratio' 類型約束為浮點張量。

  • T2 在 (tensor(bool)) 中

    將輸出 'mask' 類型約束為布林張量。

Dropout - 10

版本

  • 名稱: Dropout (GitHub)

  • 網域: main

  • since_version: 10

  • 函數: False

  • 支援等級: SupportType.COMMON

  • 形狀推論: True

此運算子的版本自 版本 10 開始提供。

摘要

Dropout 接收一個浮點張量輸入，並產生兩個張量輸出：output（浮點張量）和 mask（Tensor<bool>）。根據是否處於測試模式，輸出 Y 將會是隨機 dropout，或是輸入的簡單複製。請注意，我們對 Dropout 的實作在訓練階段會進行縮放，因此在測試期間不需要執行任何操作。此運算子具有可選的輸入/輸出。有關可選參數的表示的更多詳細資訊，請參閱ONNX IR。可以使用空字串來代替實際參數的名稱，以表示缺少參數。尾隨的可選參數（後面沒有緊接著出現的參數）也可以直接省略。

屬性

  • ratio - FLOAT (預設值為 '0.5')

    隨機 dropout 的比率

輸入

  • data (異質) - T

    作為張量的輸入資料。

輸出

介於 1 和 2 個輸出之間。

  • output (異質) - T

    輸出。

  • mask (可選，異質) - T1

    輸出遮罩。

類型約束

  • T in ( tensor(double), tensor(float), tensor(float16) )

    將輸入和輸出類型約束為浮點張量。

  • T1 in ( tensor(bool) )

    將輸出 mask 類型限制為布林張量。

Dropout - 7

版本

  • 名稱: Dropout (GitHub)

  • 網域: main

  • since_version: 7

  • 函數: False

  • 支援等級: SupportType.COMMON

  • 形狀推論: True

此運算子的版本自 版本 7 開始提供。

摘要

Dropout 接收一個輸入資料 (Tensor) 並產生兩個張量輸出：output (Tensor) 和 mask (Tensor)。根據是否處於測試模式，輸出 Y 將會是隨機 dropout，或是輸入的簡單複製。請注意，我們對 Dropout 的實作在訓練階段會進行縮放，因此在測試期間不需要執行任何操作。此運算子具有可選的輸入/輸出。有關可選參數的表示的更多詳細資訊，請參閱ONNX IR。可以使用空字串來代替實際參數的名稱，以表示缺少參數。尾隨的可選參數（後面沒有緊接著出現的參數）也可以直接省略。

屬性

  • ratio - FLOAT (預設值為 '0.5')

    隨機 dropout 的比率

輸入

  • data (異質) - T

    作為張量的輸入資料。

輸出

介於 1 和 2 個輸出之間。

  • output (異質) - T

    輸出。

  • mask (可選，異質) - T

    輸出遮罩。

類型約束

  • T in ( tensor(double), tensor(float), tensor(float16) )

    將輸入和輸出類型約束為浮點張量。

Dropout - 6

版本

  • 名稱: Dropout (GitHub)

  • 網域: main

  • since_version: 6

  • 函數: False

  • 支援等級: SupportType.COMMON

  • 形狀推論: True

此運算子的版本自 版本 6 開始提供。

摘要

Dropout 接收一個輸入資料 (Tensor) 並產生兩個張量輸出：output (Tensor) 和 mask (Tensor)。根據是否處於測試模式，輸出 Y 將會是隨機 dropout，或是輸入的簡單複製。請注意，我們對 Dropout 的實作在訓練階段會進行縮放，因此在測試期間不需要執行任何操作。

屬性

  • is_test - INT (預設值為 '0')

    (int，預設值為 0) 如果是非零值，則在測試模式下執行 dropout，其中輸出僅為 Y = X。

  • ratio - FLOAT (預設值為 '0.5')

    (float，預設值為 0.5) 隨機 dropout 的比率

輸入

  • data (異質) - T

    作為張量的輸入資料。

輸出

介於 1 和 2 個輸出之間。

  • output (異質) - T

    輸出。

  • mask (可選，異質) - T

    輸出 mask。如果 is_test 為非零值，則不會填寫此輸出。

類型約束

  • T in ( tensor(double), tensor(float), tensor(float16) )

    將輸入和輸出類型約束為浮點張量。

Dropout - 1

版本

  • 名稱: Dropout (GitHub)

  • 網域: main

  • since_version: 1

  • 函數: False

  • 支援等級: SupportType.COMMON

  • shape inference: False

此運算子的版本自 版本 1 開始提供。

摘要

Dropout 接收一個輸入資料 (Tensor) 並產生兩個張量輸出：output (Tensor) 和 mask (Tensor)。根據是否處於測試模式，輸出 Y 將會是隨機 dropout，或是輸入的簡單複製。請注意，我們對 Dropout 的實作在訓練階段會進行縮放，因此在測試期間不需要執行任何操作。

屬性

  • consumed_inputs - INTS :

    舊版最佳化屬性。

  • is_test - INT (預設值為 '0')

    (int，預設值為 0) 如果是非零值，則在測試模式下執行 dropout，其中輸出僅為 Y = X。

  • ratio - FLOAT (預設值為 '0.5')

    (float，預設值為 0.5) 隨機 dropout 的比率

輸入

  • data (異質) - T

    作為張量的輸入資料。

輸出

介於 1 和 2 個輸出之間。

  • output (異質) - T

    輸出。

  • mask (可選，異質) - T

    輸出 mask。如果 is_test 為非零值，則不會填寫此輸出。

類型約束

  • T in ( tensor(double), tensor(float), tensor(float16) )

    將輸入和輸出類型約束為浮點張量。