Informatik KI – Rekurrente Netze und LSTM
Rekurrente Netze und LSTMs sind die Grundlage für Sprachmodelle, Zeitreihenprognosen und maschinelle Übersetzung. Nach dem Lernen dieser Karten verstehst du, wie versteckte Zustände Sequenzen verarbeiten, warum Gradienten verschwinden und wie LSTM-Gates (Input, Forget, Output) dieses Problem lösen. Du kannst Architekturen für sequenzielle Daten korrekt auswählen und konfigurieren.
Lernziele
Was du in dieser Lektion lernst
- Was unterscheidet ein rekurrentes neuronales Netz von einem Feedforward-Netz?
- Welche Rolle spielt Weight Sharing in RNNs?
- Wie wird der versteckte Zustand h_t in einem einfachen RNN berechnet?
- Was ist Backpropagation Through Time (BPTT)?
Lerntipp
Zeichne den LSTM-Zellzustand als Förderband: Forget-Gate entscheidet, was runterfällt, Input-Gate legt Neues drauf, Output-Gate liest das Ergebnis. Simuliere einen Zeitschritt manuell mit Zahlen – so wird der Gate-Mechanismus intuitiv.
Hinweis: Der Inhalt dieser Seite wurde mit einem KI-Modell erzeugt und nicht von Fachmenschen geprüft. Nutze die Karten als Lernhilfe und gleiche medizinische oder rechtliche Aussagen mit deinen Unterlagen ab.
Karteikarten
Alle 14 Lernkarten
Tippe auf eine Karte, um die Antwort aufzudecken
Häufige Fragen
Die wichtigsten Fragen zu Informatik KI – Rekurrente Netze und LSTM
- Was unterscheidet ein rekurrentes neuronales Netz von einem Feedforward-Netz?
- RNNs besitzen rekurrente Verbindungen, sodass der versteckte Zustand h_t Informationen aus vorherigen Zeitschritten t-1, t-2 speichert und für Sequenzen nutzbar macht.
- Welche Rolle spielt Weight Sharing in RNNs?
- Dasselbe Gewichtsmatrix-Set (W_hh, W_xh, W_hy) wird für alle Zeitschritte wiederverwendet, was Parameterzahl konstant hält und Verallgemeinerung auf variable Sequenzlängen ermöglicht.
- Wie wird der versteckte Zustand h_t in einem einfachen RNN berechnet?
- h_t = tanh(W_hh * h_{t-1} + W_xh * x_t + b_h), wobei h_{t-1} der vorherige Zustand und x_t der aktuelle Input ist.
- Was ist Backpropagation Through Time (BPTT)?
- BPTT entfaltet das RNN über die Zeit, behandelt es als tiefes Feedforward-Netz und berechnet Gradienten durch Summation über alle Zeitschritte für gemeinsame Gewichte.
- Warum tritt das Vanishing-Gradient-Problem bei langen Sequenzen auf?
- Bei wiederholter Multiplikation der Jacobimatrix W_hh^T über viele Zeitschritte gehen Eigenwerte < 1 gegen null, Gradienten verschwinden exponentiell.
Warum Atrio?
- FSRS-5 Spaced Repetition
- Der Algorithmus plant jede Wiederholung anhand deiner eigenen Lernhistorie und stellt Karten kurz bevor du sie vergisst – das reduziert unnötige Wiederholungen.
- KI-Import
- Notizen, Skripte und PDFs in Sekunden in Lernkarten verwandeln – genau wie diese Seite automatisch entsteht.
- Prüfungsplanung
- Termine hinterlegen und Atrio berechnet rückwärts, wie viele Karten du pro Tag lernen musst – ohne Stress.
Interaktiv lernen
Diese 14 Karten jetzt interaktiv in der Atrio-App lernen
Atrio zeigt dir jede Karte dann, wenn du sie fast vergessen hättest – damit bleibt genau das hängen, was du lernst.
Starter-Plan kostenlos – keine Kreditkarte erforderlich.