Künstliche neuronale Netze

38 Gewichte in 19 Minuten

Von der Eingabe zur Ausgabe

Das ist Kitty.

:smiley_cat:

Kitty ist blöd.

:pouting_cat:

Wenn Kitty Steves Hut sieht, schnurrt sie manchmal.

:man: :tophat: :heart_eyes_cat:

Steve mag es, wenn Kitty schnurrt.

:yum:

Steve trainiert Kitty.

Mit Keksen. (Kitty mag Kekse.)

:man: :tophat: :cookie: :smile_cat:

Was passiert da?

Sehen wir uns Kitty einmal genauer an.

:smiley_cat:

Die Informationsverarbeitung im Gehirn

Eingabe (:tophat:)

Rezeptor

↓

Gehirn (:sparkles:)

neuronales Netz

↓

Ausgabe (:heart_eyes_cat:)

Effektor

Neuronale Netze

Ein Neuron

Schema Neuron

Ein Neuronales Netz

Foto Neuron

Künstliche neuronale Netze

Neuron – künstliches Neuron

Schema Neuron Schema eines künstlichen Neurons

$$net = \sum_n (x_n \cdot w_n)$$

$$o = \frac{1}{1 + e^{-net}}$$

$$\Leftrightarrow o = \frac{1}{1 + e^{-\sum_n (x_n \cdot w_n)}}$$

Neuronales Netz – künstliches neuronales Netz

Foto Neuron Mehrschichtiges Perzeptron

Das Problem – Die Boston-Häuserdatenreihe

:homes:

Ein künstliches neuronales Netz

Und jetzt?

13 gegebene Attribute :house_with_garden:

crim, zn, indus, chas, nox, rm, age, dis, rad, tax, ptratio, b, lstat

1 gesuchtes Attribut :moneybag:

medv

Eingabe (13 :game_die:)

↓

künstliches neuronales Netz (:sparkles:)

↓

Ausgabe (1 :moneybag:)

Die Netzstruktur

Nö. Anders.

Problem!

1.13081, 0, 8.14, 0, 0.538, 5.713, 94.1, 4.233, 4, 307, 21, 360.17, 22.6

$$o = \frac{1}{1 + e^{-\sum_n (\mathbf{x_n \cdot w_n})}}$$

\begin{align} &(1)\quad 0 \cdot w_n = 0 \\ &(2)\quad 0.538 \ll 360.17 \end{align}

$$(1)\quad net = (x_n + 1 \cdot b_n) \cdot w_n$$

$$(2)\quad x' = \frac{x - \min(x)}{\max(x) - \min(x)}$$ $$\implies 0 \leq x' \leq 1$$

(Eine geht noch.)

Berechneter MEDV-Wert: lade… - Erwarteter MEDV-Wert: lade…

Training :cookie:

$$\delta w_{k,j} = l \cdot (t_k - o_k) \sum_l {w_{l, k} \cdot \delta_l} \cdot x_j$$

:computer: :hammer:

$$430 \cdot 300 = 129 000$$ :hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer::hammer:

Trainingsverlauf

Fehlerverlauf

Test :open_mouth:

Berechneter MEDV-Wert: lade… - Erwarteter MEDV-Wert: lade…

Fazit :thinking:

Quellen und Lizenzen :bookmark_tabs:

Quellen

  • Roman V. Belavkin – Lecture 11: Feed-Forward Neural Networks
  • Carlos Gershenson – Artificial Neural Networks for beginners
  • Carsten Könneker und Uwe Reichert – Lexikon der Biologie: Effektorzellen, Rezeptorzellen, Neuron

Daten

  • Harrison, D. and Rubinfeld, D.L. – Housing Data Set (gemeinfrei)
  • Timo H. – Gewichte des neuronalen Netzes zur Lösung des Problems der Boston-Datenreihe (CC-0)

Grafiken

  • MethoxyRoxy – Pyramidal hippocampal neuron (CC-BY-SA 2.5)
  • SEER, US National Cancer Institute, Dhp1080, Unbekannt – Neuron, sprachneutral (CC BY-SA 3.0)
  • Chrislb – Schema eines künstlichen Neurons (CC-BY-SA 3.0)
  • Sky99 – Struktur eines klassischen Multi-Layer-Perzeptrons (CC-BY-SA 3.0)
  • EmojiOne – EmojiOne (CC-BY 4.0)
  • Google – Material Design Icons (CC-BY 4.0)
  • Timo H. – Diagramme und Präsentationslayout (CC-BY-SA 4.0)

Bibliotheken

  • Bartek Szopka und Mitwirkende – impress.js (MIT)
  • Google – Material Design Lite (Apache 2)
  • Michael Bostock – D3.js (New BSD)
  • MathJax-Vereinigung – MathJax (Apache 2)
  • Timo H. – Programmcode der Präsentation (GPL 3)

Vielen Dank für die Aufmerksamkeit! :blush: