Donnerstag, 25. April 2024, 23:19 UTC+2

Sie sind nicht angemeldet.

  • Anmelden
  • Registrieren

volante

unregistriert

1

Sonntag, 23. September 2007, 12:38

Aktivierungsfunktion der NNs

Hallo,

ich versuche den Prognosewert, den meine NNs ausrechnen, nachzuvollziehen. Dazu habe ich die Gewichte in xls kopiert. Leider ist mir nicht klar, wie Investox die Inputs normalisiert und welche Aktivierungsfunktion verwendet wird.

Ich habe das Folgende versucht:

- Minimum und Maximum pro Input im Trainingszeitraum ausrechnen
- Alle Inputs gemäß der Formel (Input - Min ) / (Max - Min) normalisieren
- Pro Hidden Neuron Summe = (Bias + Gewicht 1 * Input 1 + ... + Gewicht n * Input n) ausrechnen
- Das Ergebnis pro Neuron in die Aktivierungsfunktion 1/(1 + e^(-Summe)) einsetzen
- Für das Output Neuron Summe 2 = (Bias + Gewicht 1 * Hidden 1 + ... + Gewicht n * Hidden n) rechnen
- Das Ergebnis wiederum in die Aktivierungsfunktion einsetzen
- Ggf. bei nicht-binären Prognosewerten den Outputwert wieder in ursprünglichen Wertebereich zurückrechnen

Das Ergebnis weicht von dem ab, was laut Daten kopieren / Output 1 rauskommen müsste.

Was mache ich falsch? Manche meiner NNs haben binäre Prognoseziele, andere metrische. Werden da unterschiedliche Aktivierungsfunktionen genutzt? Werden die Daten auf Basis des Minimums und des Maximums des Trainingszeitraums oder des gesamten Zeitraums normalisiert?

Danke und Grüße,

volante

volante

unregistriert

2

Dienstag, 25. September 2007, 11:00

Hm, hat sich noch niemand gefragt, wie die NNs eigentlich den ausgegebenen Prognosewert ausrechnen? Nach Uhlig und anderen gibt es ein paar Aktivierungsfunktionen, die häufig verwendet werden, z.B.

die logistische Funktion: 1/1+e^(-x) bzw. 1/1+e^(ß*-x),

der Tangens hyperbolicus: tanhyp(x),

oder die Sinusfunktion: sin(x).

Abhängig von der Funktion müssen die Inputs auf einen bestimmten Wertebereich normalisiert werden. Kennt man die Akitivierungsfunktion, kann man aus den Gewichten und den Bias-Werten den Prognosewert ausrechnen, ansonsten eignet sich diese Ausgabe nur zur Beurteilung der Wichtigkeit der Inputs...

Viel Grüße, volante