🕸 Навошта патрэбны слаі актывацыі ў скруткавых нейронных сетках?

Нейронныя сеткі з’яўляюцца звычайнымі функцыямі, якія змяшчаюць велізарны набор параметраў, аднак выконваюць даволі простыя аперацыі.

Нейронныя сеткі прамога распаўсюджвання характарызуюць аперацыі як звычайныя лінейныя пераўтварэнні, а таму могуць быць заменены на адну вялікую матрыцу.

💥 Такія пераўтварэнні не здольныя апраксіміраваць адвольную функцыю з зададзенай дакладнасцю, таму пасля любога слоя заўсёды ставіцца слой актывацыі.

Каб зразумець больш, 👉 пераходзьце сюды

—————————
💨 Why do we need activation layers in twisted neural networks?

@belaiplatform