Perceptrón (perceptron), aktivačná funkcia, skrytá vrstva (hidden layer), viacvrstvový perceptrón (multi-level perceptron, MLP) :)

Perceptrón je prvkom neurónovej siete, ktorý je analogický biologickému neurónu.

Do perceptrónu vstupuje niekoľko vstupov x₁, x₂..., ktoré perceptrón využíva na vyprodukovanie binárneho výstupu. Rosenblatt poukázal na jednoduché pravidlo výpočtu výstupu a to zavedením váh (weights) w₁,w₂,..., reálnych čísel vyjadrujúcich významnosť jednotlivých vstupov. Výstup neurónu, tj. 0 alebo 1 záleží na váženej sume vstupov ∑j w_jx_j a kritickej hodnote (threshold) T. Neurón vezme vážený súčet vstupov a rozhodne, či bude aktivovaný (fires) a teda vyšle signál (hodnota 1) alebo bude anulovaný (hodnota 0). Tento rozhodujúci proces sa nazýva aktivačná funkcia a jej matematický zápis je:

výstup = 0 ak ∑_j w_jx_j ≤ T

alebo

výstup =  ak ∑_j w_jx_j > T

Perceptrón

Perceptrón je typom siete s dopredným šírením (feed-forward), čo znamená, že proces generovania výstupu tečie smerom zo vstupnej vrstvy do výstupnej. V sieťach s dopredným šírením sa nenachádzajú slučky, medzi jednotlivými spojeniami (rekurentné siete).

Veľkým nedostatkom takto zadefinovaného nastavenia je, že nedokáže riešiť lineárne neseparovateľné problémy, čo sa dá ukázať na jednoduchom probléme (XOR). Riešením tohto nedostatku je pridanie takzvanej skrytej vrstvy neurónov (hidden layer), ktorá je spojená v priamom kontakte so vstupnou aj výstupnou vrstvou, pričom je inak izolovaná od vonkajšieho sveta. Takúto sieť nazývame viacvrstvový perceptrón (multi-level perceptron, MLP).

Neurónová sieť s jednou skrytou vrstvou

Podobne ako v jednovrstvovom prípade, dopredné šírenie začína vo vstupnej vrstve vynásobením vstupom príslušnými váhami. Pre každú jednu kombináciu spojenia jednotlivých neurónov, je do systému pridaná ďalšia váha, a teda extra parameter. Takýmto spôsobom, t.j. pridaním niekoľkých skrytých vrstiev, počet parametrov, ktoré treba odhadnúť dramaticky rastie. Pridávaním vrstiev sa stráca prirodzená interpretácia váh a proces sa stáva výpočtovo náročný.

Neurónová sieť s dvoma skrytými vrstvami

Jednou z výhod MLP je, že aktivačná funkcia skrytej vrstvy sa vo všeobecnosti môže líšiť od aktivačnej funkcie výstupnej vrstvy. Takáto konfigurácia dáva priestor na riešenie celej rady problémov ako napríklad:

• aproximácia spojitých funkcií,
• klasifikácia,
• regresia... 

Ako ale nájsť optimálne váhy? Ukazuje sa, že môžeme odvodiť učiace algoritmy, ktoré dokážu postupne aktualizovať všetky váhy v sieti pre všetky neuróny naraz. Táto modifikácia nastáva bez akéhokoľvek zásahu programátora a preto hovoríme o samoučiacich algoritmoch a vednom odbore: Strojové učenie (Machine learning).

Prevzaté a upravené z:
•xPeter Sinčák, Gabriela Andrejková, Neurónové siete Inžiniersky prístup (1. diel), 1996,
•xĽudovít Ódor, Rýchlokurz geniality, N Press, s. r. o.,  ISBN 978-80-8230-091-1.

Hodnotenie užitočnosti článku:

• ← Neurónové siete, triviálna, s vyšším počtom neurónov a organizovaná do viacerých vrstiev, spätná distribúcia chyby (back propagation), topológia :)
• Počítačové videnie, priemyselné systémy počítačového vedenia :) →