Künstliche neuronale Netze
38 Gewichte in 19 Minuten
Gliederung
Vom Gehirn zum künstlichen Neuron
Anwendungsfall Boston-Häuserdatenreihe
Umsetzung eines künstlichen neuronalen Netzes
Training des Netzes
Test des Netzes
Fazit, Quellen
Von der Eingabe zur Ausgabe
Das ist Kitty.
:smiley_cat:
Kitty ist blöd.
:pouting_cat:
Wenn Kitty Steves Hut sieht, schnurrt sie manchmal.
:man: :tophat: :heart_eyes_cat:
Steve mag es, wenn Kitty schnurrt.
:yum:
Steve trainiert Kitty.
Mit Keksen. (Kitty mag Kekse.)
:man: :tophat: :cookie: :smile_cat:
Was passiert da?
Sehen wir uns Kitty einmal genauer an.
:smiley_cat:
Die Informationsverarbeitung im Gehirn
Eingabe (:tophat:)
Rezeptor
↓
Gehirn (:sparkles:)
neuronales Netz
↓
Ausgabe (:heart_eyes_cat:)
Effektor
Neuronale Netze
Ein Neuron
Ein Neuronales Netz
Künstliche neuronale Netze
Neuron – künstliches Neuron
$$net = \sum_n (x_n \cdot w_n)$$
$$o = \frac{1}{1 + e^{-net}}$$
$$\Leftrightarrow o = \frac{1}{1 + e^{-\sum_n (x_n \cdot w_n)}}$$
Neuronales Netz – künstliches neuronales Netz
Das Problem – Die Boston-Häuserdatenreihe
:homes:
Ein künstliches neuronales Netz
Und jetzt?
13 gegebene Attribute :house_with_garden:
crim, zn, indus, chas, nox, rm, age, dis, rad, tax, ptratio, b, lstat
1 gesuchtes Attribut :moneybag:
medv
Eingabe (13 :house_with_garden:)
↓
künstliches neuronales Netz (:sparkles:)
↓
Ausgabe (1 :moneybag:)
Die Netzstruktur
Nö. Anders.
Problem!
1.13081, 0, 8.14, 0, 0.538, 5.713, 94.1, 4.233, 4, 307, 21, 360.17, 22.6
$$o = \frac{1}{1 + e^{-\sum_n (\mathbf{x_n \cdot w_n})}}$$
\begin{align} &(1)\quad 0 \cdot w_n = 0 \\ &(2)\quad 0.538 \ll 360.17 \end{align}
$$(1)\quad net = (x_n + 1 \cdot b_n) \cdot w_n$$
$$(2)\quad x' = \frac{x - \min(x)}{\max(x) - \min(x)}$$ $$\implies 0 \leq x' \leq 1$$
(Eine geht noch.)
Berechneter MEDV-Wert: lade… - Erwarteter MEDV-Wert: lade…
Training :cookie:
$$\delta w_{k,j} = l \cdot (t_k - o_k) \sum_l {w_{l, k} \cdot \delta_l} \cdot x_j$$
:computer: :hammer:
$$430 \cdot 300 = 129 000$$ :hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer:
Trainingsverlauf
Fehlerverlauf
Test :open_mouth:
Berechneter MEDV-Wert: lade… - Erwarteter MEDV-Wert: lade…
Fazit :thinking:
Quellen und Lizenzen :bookmark_tabs:
Quellen
- Roman V. Belavkin – Lecture 11: Feed-Forward Neural Networks
- Carlos Gershenson – Artificial Neural Networks for beginners
- Carsten Könneker und Uwe Reichert – Lexikon der Biologie: Effektorzellen, Rezeptorzellen, Neuron
Daten
- Harrison, D. and Rubinfeld, D.L. – Housing Data Set (gemeinfrei)
- Timo H. – Gewichte des neuronalen Netzes zur Lösung des Problems der Boston-Datenreihe (CC-0)
Grafiken
- MethoxyRoxy – Pyramidal hippocampal neuron (CC-BY-SA 2.5)
- SEER, US National Cancer Institute, Dhp1080, Unbekannt – Neuron, sprachneutral (CC BY-SA 3.0)
- Chrislb – Schema eines künstlichen Neurons (CC-BY-SA 3.0)
- Sky99 – Struktur eines klassischen Multi-Layer-Perzeptrons (CC-BY-SA 3.0)
- EmojiOne – EmojiOne (CC-BY 4.0)
- Google – Material Design Icons (CC-BY 4.0)
- Timo H. – Diagramme und Präsentationslayout (CC-BY-SA 4.0)
Bibliotheken
- Bartek Szopka und Mitwirkende – impress.js (MIT)
- Google – Material Design Lite (Apache 2)
- Michael Bostock – D3.js (New BSD)
- MathJax-Vereinigung – MathJax (Apache 2)
- Timo H. – Programmcode der Präsentation (GPL 3)