Nevrale nettverk – en introduksjon

We are searching data for your request:

Forums and discussions:

Manuals and reference books:

Data from registers:

Wait the end of the search in all databases.
Upon completion, a link will appear to access the found materials.

Eksempel på nettverk: XOR-nettverk med fire celler

Som et første eksempel på et lite nevralt nettverk vil et av de mest kjente nettverkene brukes, det såkalte XOR-nettverket med fire celler. Det er populært fordi det fungerer med binære aktiveringer, er lite nok til å bli mentalt beregnet, og samtidig er et eksempel på et nettverk som trenger minst ett lag med skjulte nevroner for å gjøre jobben sin.

Dette nettverket trenger bare binære verdier 0 og 1 for aktivering av nevronene. Det bruker standard forplantningsfunksjonen for å beregne nettverksinngang (ligning) og en binær terskelfunksjon som aktiveringsfunksjon for det ene skjulte nevronet og utgangsnevronet ( ligning).

{nett}_{j} (t) = \sum_{Jeg} O_{Jeg} (t) \cdot w_{Jeg j}

{en}_{j} (t) = \{\begin{array}{cclcl} 1 & hvis & {nett}_{j} (t) \geq Θ_{j} \\ 0 & ellers \end{array}

Utgangsfunksjonen til disse nevronene er identitet, dvs. $O_{j} (t) = {en}_{j} (t)$ .

Som i mange andre nevrale modeller videresender inngangsnevronene den eksternt påførte inngangen uendret, slik at de har identitetsfunksjonen og en terskelverdi på null som aktiverings- og utgangsfunksjoner.

W. = (\begin{matrix} w_{11} & \dots & \dots & w_{14} \\ ⋮ & ⋱ & ⋮ \\ ⋮ & ⋱ & ⋮ \\ w_{41} & \dots & \dots & w_{44} \end{matrix}) = (\begin{matrix} 0 & 0 & 1 & 1 \\ 0 & 0 & 1 & 1 \\ 0 & 0 & 0 & - 2 \\ 0 & 0 & 0 & 0 \end{matrix})

Det er lett å se her at vektmatrisen er gitt av ligningen. I dette nettverket legges terskelverdien (bias) til nevronene for det enkelt nevronet i det skjulte laget og utgangsnevronet direkte inn i nevronene. Man kan enkelt sjekke at for alle fire mulige inngangskombinasjoner av 0 og 1 beregnes den korrekte verdien som utgangen til celle 4, som tilsvarer en binær XOR (boolsk XOR-operasjon) $O_{1} \otimes O_{2} = O_{4}$ ).

Tab. 1: Nettverksinnganger og -utganger av nevronene i XOR-nettverket.

$O_{1}$	$O_{2}$	${nett}_{3}$	$Θ_{3}$	$O_{3}$	${nett}_{4}$	$Θ_{4}$	$O_{4}$
$0$	$0$	${nett}_{3} = 0 \cdot 1 + 0 \cdot 1 = 0$	$1,5$	0	${nett}_{4} = 0 \cdot 1 + 0 \cdot 1 + 0 \cdot (- 2) = 0$	$0,5$	$0$
$0$	$1$	${nett}_{3} = 0 \cdot 1 + 1 \cdot 1 = 1$	$1,5$	0	${nett}_{4} = 0 \cdot 1 + 1 \cdot 1 + 0 \cdot (- 2) = 1$	$0,5$	$1$
$1$	$0$	${nett}_{3} = 1 \cdot 1 + 0 \cdot 1 = 1$	$1,5$	0	${nett}_{4} = 1 \cdot 1 + 0 \cdot 1 + 0 \cdot (- 2) = 1$	$0,5$	$1$
$1$	$1$	${nett}_{3} = 1 \cdot 1 + 1 \cdot 1 = 2$	$1,5$	1	${nett}_{4} = 1 \cdot 1 + 1 \cdot 1 + 1 \cdot (- 2) = 0$	$0,5$	$0$

Merk at selv om dette nettverket er et multi-level feed-forward-nettverk, er det ikke av typen full-lags, fullt koblet topologi tidligere beskrevet fordi inngangene er direkte koblet til utgangsneuronen. Slike tilkoblinger som hopper over nivåer er også kjent som snarveiforbindelser.