Tasasuuntaaja

Yhteydessä Neuroverkkoja, tasasuuntaaja on aktivaatiofunktio määritelty

jossa x on panos neuronin. Tämä aktivointi toiminto on väitetty olevan biologisesti uskottava kuin yleisesti käytetty logistinen sigmasuolessa ja sen käytännöllisempää vastine, hyperbolinen tangentti.

Yksikkö työllistää tasasuuntaajan kutsutaan myös korjattu lineaarinen yksikkö. Sileä lähentämistä Rectifier on analyyttinen funktio

jota kutsutaan softplus toiminto. Johdannainen softplus on, eli logistinen funktio.

Puhdistetut lineaariyksiköt löytää sovelluksia konenäkö käyttäen syvä hermo verkkoja.

Eri vaihtoehdot

Noisy ReLUs

Korjattu lineaariyksiköt voidaan laajentaa koskemaan Gaussin kohinaa, joten ne meluisa ReLUs, jolloin

Meluisa ReLUs on käytetty jonkin verran menestystä rajoitettu Boltzmannin koneiden konenäön tehtäviin.

Vuotava ReLUs

Vuotava ReLUs sallia pieni, nollasta kaltevuus kun laite ei ole käytössä.

Edut

  • Biologinen uskottavuus: Yksipuolinen, verrattuna antisymmetry tanh.
  • Harva aktivointi: Esimerkiksi satunnaisesti alustettu verkot, vain noin 50% piilossa yksiköiden aktivoituu.
  • Tehokas kaltevuus lisääminen: Ei häviämässä kaltevuus ongelma tai räjähtänyt vaikutus.
  • Tehokas laskenta: Vain vertailu, ja kertolaskua.

Puhdistettu lineaarinen yksikköä, verrattuna sigmoid toiminnon tai vastaavia aktivaatiofunktioita, nopeuttavat ja tehokasta koulutusta syvän hermo arkkitehtuurit suuria ja monimutkaisia ​​aineistoja. Yhteinen piirre on, että ne toteuttavat paikallisen kilpailun välillä pienryhmissä yksiköiden kerros, niin että vain osa verkon aktivoidaan tahansa tulo kuvio.

Mahdollisia ongelmia

  • Ill-ilmastointi on parametrointi: On äärettömän monta tapaa asettaa arvot parametrien tasasuuntaajan verkon ilmaista koko verkon toiminta.
  • Ei-derivoituva nolla: mutta se on derivoituva missään vaiheessa mielivaltaisesti lähellä 0.
(0)
(0)
Edellinen artikkeli Wildlife Filippiinien
Seuraava artikkeli White Gold piti käsissään

Kommentit - 0

Ei kommentteja

Lisääkommentti

smile smile smile smile smile smile smile smile
smile smile smile smile smile smile smile smile
smile smile smile smile smile smile smile smile
smile smile smile smile
Merkkiä jäljellä: 3000
captcha