LRN¶
LRN - 13¶
版本¶
名稱: LRN (GitHub)
網域:
main
since_version:
13
function:
False
支援等級:
SupportType.COMMON
形狀推斷:
True
此版本的運算符自第 13 版起可用。
摘要¶
AlexNet 論文中提出的局部響應正規化。它正規化局部輸入區域。局部區域是跨通道定義的。對於形狀為 (N x C x D1 x D2, ..., Dk)
的張量中的元素 X[n, c, d1, ..., dk]
,其區域為 {X[n, i, d1, ..., dk] | max(0, c - floor((size - 1) / 2)) <= i <= min(C - 1, c + ceil((size - 1) / 2))}
。
square_sum[n, c, d1, ..., dk] = sum(X[n, i, d1, ..., dk] ^ 2)
,其中 max(0, c - floor((size - 1) / 2)) <= i <= min(C - 1, c + ceil((size - 1) / 2))
。
Y[n, c, d1, ..., dk] = X[n, c, d1, ..., dk] / (bias + alpha / size * square_sum[n, c, d1, ..., dk] ) ^ beta
屬性¶
alpha - FLOAT(預設值為
'0.0001'
)縮放參數。
beta - FLOAT(預設值為
'0.75'
)指數。
bias - FLOAT(預設值為
'1.0'
)size - INT(必要)
要加總的通道數
輸入¶
X(異質) - T
來自上一個運算符的輸入資料張量;圖像情況下的維度為(N x C x H x W),其中 N 是批次大小,C 是通道數,H 和 W 是資料的高度和寬度。對於非圖像情況,維度採用 (N x C x D1 x D2 … Dn) 的形式,其中 N 是批次大小。或者,如果維度符號生效,則運算會預期輸入資料張量以 [DATA_BATCH, DATA_CHANNEL, DATA_FEATURE, DATA_FEATURE …] 的維度符號到達。
輸出¶
Y(異質) - T
輸出張量,其形狀和類型與輸入張量相同
類型約束¶
T 在(
tensor(bfloat16)
、tensor(double)
、tensor(float)
、tensor(float16)
)中將輸入和輸出類型限制為浮點張量。
LRN - 1¶
版本¶
名稱: LRN (GitHub)
網域:
main
since_version:
1
function:
False
支援等級:
SupportType.COMMON
形狀推斷:
True
此版本的運算符自第 1 版起可用。
摘要¶
AlexNet 論文中提出的局部響應正規化。它正規化局部輸入區域。局部區域是跨通道定義的。對於形狀為 (N x C x D1 x D2, …, Dk) 的張量中的元素 X[n, c, d1, …, dk],其區域為 {X[n, i, d1, …, dk] | max(0, c - floor((size - 1) / 2)) <= i <= min(C - 1, c + ceil((size - 1) / 2))}。
square_sum[n, c, d1, …, dk] = sum(X[n, i, d1, …, dk] ^ 2),其中 max(0, c - floor((size - 1) / 2)) <= i <= min(C - 1, c + ceil((size - 1) / 2))。
Y[n, c, d1, …, dk] = X[n, c, d1, …, dk] / (bias + alpha / size * square_sum[n, c, d1, …, dk] ) ^ beta
屬性¶
alpha - FLOAT(預設值為
'0.0001'
)縮放參數。
beta - FLOAT(預設值為
'0.75'
)指數。
bias - FLOAT(預設值為
'1.0'
)size - INT(必要)
要加總的通道數
輸入¶
X(異質) - T
來自上一個運算符的輸入資料張量;圖像情況下的維度為(N x C x H x W),其中 N 是批次大小,C 是通道數,H 和 W 是資料的高度和寬度。對於非圖像情況,維度採用 (N x C x D1 x D2 … Dn) 的形式,其中 N 是批次大小。或者,如果維度符號生效,則運算會預期輸入資料張量以 [DATA_BATCH, DATA_CHANNEL, DATA_FEATURE, DATA_FEATURE …] 的維度符號到達。
輸出¶
Y(異質) - T
輸出張量,其形狀和類型與輸入張量相同
類型約束¶
T 屬於 (
tensor(double)
,tensor(float)
,tensor(float16)
)將輸入和輸出類型限制為浮點張量。