LRN

LRN - 13

版本

  • 名稱LRN (GitHub)

  • 網域main

  • since_version13

  • functionFalse

  • 支援等級SupportType.COMMON

  • 形狀推斷True

此版本的運算符自第 13 版起可用。

摘要

AlexNet 論文中提出的局部響應正規化。它正規化局部輸入區域。局部區域是跨通道定義的。對於形狀為 (N x C x D1 x D2, ..., Dk) 的張量中的元素 X[n, c, d1, ..., dk],其區域為 {X[n, i, d1, ..., dk] | max(0, c - floor((size - 1) / 2)) <= i <= min(C - 1, c + ceil((size - 1) / 2))}

square_sum[n, c, d1, ..., dk] = sum(X[n, i, d1, ..., dk] ^ 2),其中 max(0, c - floor((size - 1) / 2)) <= i <= min(C - 1, c + ceil((size - 1) / 2))

Y[n, c, d1, ..., dk] = X[n, c, d1, ..., dk] / (bias + alpha / size * square_sum[n, c, d1, ..., dk] ) ^ beta

屬性

  • alpha - FLOAT(預設值為 '0.0001'

    縮放參數。

  • beta - FLOAT(預設值為 '0.75'

    指數。

  • bias - FLOAT(預設值為 '1.0'

  • size - INT(必要)

    要加總的通道數

輸入

  • X(異質) - T

    來自上一個運算符的輸入資料張量;圖像情況下的維度為(N x C x H x W),其中 N 是批次大小,C 是通道數,H 和 W 是資料的高度和寬度。對於非圖像情況,維度採用 (N x C x D1 x D2 … Dn) 的形式,其中 N 是批次大小。或者,如果維度符號生效,則運算會預期輸入資料張量以 [DATA_BATCH, DATA_CHANNEL, DATA_FEATURE, DATA_FEATURE …] 的維度符號到達。

輸出

  • Y(異質) - T

    輸出張量,其形狀和類型與輸入張量相同

類型約束

  • T 在( tensor(bfloat16)tensor(double)tensor(float)tensor(float16) )中

    將輸入和輸出類型限制為浮點張量。

LRN - 1

版本

  • 名稱LRN (GitHub)

  • 網域main

  • since_version1

  • functionFalse

  • 支援等級SupportType.COMMON

  • 形狀推斷True

此版本的運算符自第 1 版起可用。

摘要

AlexNet 論文中提出的局部響應正規化。它正規化局部輸入區域。局部區域是跨通道定義的。對於形狀為 (N x C x D1 x D2, …, Dk) 的張量中的元素 X[n, c, d1, …, dk],其區域為 {X[n, i, d1, …, dk] | max(0, c - floor((size - 1) / 2)) <= i <= min(C - 1, c + ceil((size - 1) / 2))}。

square_sum[n, c, d1, …, dk] = sum(X[n, i, d1, …, dk] ^ 2),其中 max(0, c - floor((size - 1) / 2)) <= i <= min(C - 1, c + ceil((size - 1) / 2))。

Y[n, c, d1, …, dk] = X[n, c, d1, …, dk] / (bias + alpha / size * square_sum[n, c, d1, …, dk] ) ^ beta

屬性

  • alpha - FLOAT(預設值為 '0.0001'

    縮放參數。

  • beta - FLOAT(預設值為 '0.75'

    指數。

  • bias - FLOAT(預設值為 '1.0'

  • size - INT(必要)

    要加總的通道數

輸入

  • X(異質) - T

    來自上一個運算符的輸入資料張量;圖像情況下的維度為(N x C x H x W),其中 N 是批次大小,C 是通道數,H 和 W 是資料的高度和寬度。對於非圖像情況,維度採用 (N x C x D1 x D2 … Dn) 的形式,其中 N 是批次大小。或者,如果維度符號生效,則運算會預期輸入資料張量以 [DATA_BATCH, DATA_CHANNEL, DATA_FEATURE, DATA_FEATURE …] 的維度符號到達。

輸出

  • Y(異質) - T

    輸出張量,其形狀和類型與輸入張量相同

類型約束

  • T 屬於 ( tensor(double), tensor(float), tensor(float16) )

    將輸入和輸出類型限制為浮點張量。