
Neuronale Netze bilden in der Regel die Grundlage für das maschinelle Lernen. Durch das Training eines Neuronalen Netzes erhalten wir ein sogenanntes Model. Dieses bildet dann die Grundlage für eine KI-Anwendung (z.B. Erkennen von Bildern, Wettervorhersage, Umsatzwachstum)
Im Kurs wird ein komplett neuer Ansatz gewählt, um die Welt des maschinellen Lernens zu verstehen. Dies geschieht anhand einer Zeitreise durch die Mathematik. Wir werden kleine Puzzleteile bedeutender Mathematiker verstehen lernen. Diese Puzzleteile bilden die Grundlage für das Verständnis neuronaler Netze.
Anwendungen aus dem Bereich der generativen KI (z.B. Text-/Bild-/Video-/Musik-Generatoren) benötigen ein trainiertes Modell. Ein trainiertes Modell können wir anhand eines Neuronalen Netzes erstellen.
Chronologischer Ablauf: Wie entseht eine KI-Anwendung
Womit werden wir uns beschäftigen?
Mit Neuronale Netzen aus dem Bereich des "überwachten Lernens"
Nochmal Beispiele zur Veranschaulichung:
Klassifikation
Regression
Es gibt verschiedene Arten der Regression.
Hier ein Überblick zur Vollständigkeit
Es kleines Spiel zur Demo, wie Neuronales Netze grundsätzlich funktionieren
Warum habe ich diesen Kurs erstellt? Was ist unterscheidet sich von andern Kursen?
(mathematische) Funktionen beschreiben die Welt. Seien es Katzenbilder oder die Wettervorhersage.
Das muss man verinnerlichen!
Warum haben wir uns das Video "Functions describe the world" betrachtet?
Hier betrachten wir uns ein Neuronales Netz, um einen ersten Eindruck zu erhalten
Als Intro mal einen Blick in die Geschichte der Naturwissenschaft
Vorstellung der ersten drei Protagonisten
Wir beginnen mal ganz einfach und betrachten uns die "Steigung einer Geraden"
Wir müssen uns mit der Ableitung beschäftigen. Der Grund wird dann später klar und ersichtlich werden.
Mal ein paar Worte zu Newton.
Leibniz war der deutsche Gegenspieler zu Newton in Sachen "Infinitesimalrechnung"
Wir müssen uns mit der Ableitung beschäftigen, da Sie wesentlich für das Training von Neuronalen Netzen benötigt wird.
Karl Friedrich Gauss war ein Genie.
Diese Geschichte leitet uns hin zum Thema der "kleinsten Quadrate".
Wie kam Gauss auf die Methode der "kleinsten Quadrate?"
Wie kam Gauss auf die Methode der "kleinsten Quadrate?"
Wie kam Gauss auf die Methode der "kleinsten Quadrate?"
"Functions describe the world": Mit dem Approximationssatz von Weierstraß können wir die Welt mathematisch durch Funktionen beschreiben.
Überleitung zu vom Approxomationssatz zu Neuronalen Netzen
Aus welchen Teilen besteht ein Neuronales Netz?
Fortsetzung: Aus welchen Teilen besteht ein Neuronales Netz?
Wie wird ein Neuronales Netz initialisiert? Zufällige Werte in den Gewichten setzen!
Wie funktioniert die Vorwärtskalkulation?
Nochmal zur Vertiefung: Berechnung des Wertes am Output-Neuron
Unter Neuronales Netz ist fast vollständig. Es fehlt aber noch eine wichtige Eigenschaft.
Die Fehlerberechnung die der Anpassung der Gewichte und somit dem "Lernen"
Die Gewichte werden bei der Backpropagation angepasst.
Für die Anpassung der Gewichte - sogenannte Backpropagation - verwenden wir unseren "Gauss" und die Kettenregel
Ein anderes Beispiel zur Demo, wie die Gewichte angepasst werden und sich der der Fehler verkleinert.
Bei der Regression haben wir ein globales Minimum. Bei Klassifikationsproblemen sieht das anders aus. Hier besteht die Gefahr, bei der Fehlerberechnung in einem lokalen Minimum zu laden.
Hier wird nochmal der Unterschied zwischen Regression und Klassifikation bei der Fehlerbestimmung aufgezeigt. Es wird kurz auf Optimizer eingegangen.
Visualisierung unterschiedlicher Lernraten
Alle Hyperparameter auf einen Blick
Hyperparameter gemeinsam mit den Gewichten = Modell
Leider ein kleiner Fehler im Video. Nicht Higgs, sondern Walter Pitts kam auf die Idee, das menschliche Hirn als Neuronales Netz abzubilden.
Ein komplett anderer didaktischer Ansatz!
Wie entsteht eine KI-Anwendung (z.B. ChatGPT, Sprachverarbeitung, Erkennen von Bildern, Wettervorhersage, Umsatzwachstum)?
Richtig: Durch maschinelles Lernen?
Wie aber lernt eine Maschine?
Daten sammeln und bereinigen (z.B. Texte, Messdaten, Bilder, demographische Daten)
Diese Daten anhand eines Neuronalen Netzes verarbeiten
Es wird ein Model "trainiert"
Auf Basis des Models kann dann eine KI-Anwendung erstellt werden
Im Kurs wird ein komplett neuer Ansatz gewählt, um die Welt des maschinellen Lernens zu verstehen.
Wir konzentrieren uns im Kurs auf die komplexen Teile (2) und (3). Dieses Wissen weiterzugeben ist eine echte Herausforderung, da es am schwersten zu lernen und zu verstehen ist. Aber keine Sorge.
Hierzu machen wir eine Zeitreise durch die Mathematik: Vom Kleinen zum Großen
Wir werden kleine Puzzleteile bedeutender Mathematiker verstehen lernen:
Steigung einer Geraden
Steigung einer Kurve
Ableitung
Methode der kleinsten Quadrate
etc.
Zu den einzelnen Mathematikern wie Pierre de Fermat, Isaac Newton, Friedrich Leibniz etc. habe ich kleine, unterhaltsame Anekdoten eingebaut. Dies hilft, besser das Gelernte abzuspeichern und einzuordnen.
Diese Puzzleteile der Mathematiker werden dann zusammengesetzt und bilden die Grundlage für das Verständnis neuronaler Netze.
Wer KI verstehen will, ohne sich auf bloße Schlagworte zu verlassen, findet hier einen Einstieg, der wirklich Substanz hat.
Definitiv keine Folien-Schlacht, sondern ein Vortrag mit echtem Erkenntnisgewinn.