Welcome2KI Teil 3: KI Deep Learning Projekte selbst umsetzen

Worauf baut Deep Learning auf? Warum wurden neuronale Netze nicht schon früher für die Entwicklung von künstlicher Intelligenz eingesetzt?

Wir diskutieren verschiedene Programmierframeworks, die uns bei der Enwicklung von Deep Learning unterstützen.

Entwickle einen Deep Learning Bild Klassifizierer, der Hunde von Katzen unterscheidet.

Analyse von unserem OxFord PETS Bildatenset. Wie sind unsere Trainingsdaten aufgebaut?

Testen unseres Klassifizierers mit Bildern, die er während des Trainingsprozesses nicht gesehen hat.

Welche Deep Learning Theorie steckt hinter unserem Klassifizierer? Teil 1

Welche Deep Learning Theorie steckt hinter unserem Klassifizierer? Teil 2

Was ist Overfitting und warum wollen wir das bei unserem Deep Learning Modell vermeiden?

Um die Funktion eines Deep Learning Modells zu testen, verwenden wir ein Validierungsdatenset. Wie soll so ein Datenset idealerweise aufgebaut sein?

Worin besteht der Unterschied zwischen einer Metrik (wie zB der Genauigkeit) und einer Loss-Funktion?

Was genau lernt unser Modell eigentlich? Was passiert während des Trainingsprozesses aus technischer Sicht?

Übersicht über die nächsten Schritte

Wie können wir ein eigenes Trainingsdatenset mit Bildern aus dem Internet zusammenstellen?

Automatisierter Download von Bildern für unser Trainingsdatenset

Wie können wir unsere Bilder permanent speichern, auch wenn wir in colab arbeiten?

Wir erstellen die Dataloaders für unser neues Deep Learning Modell.

Zur Klassifizierung unserer Bilder verwenden wir ein Convolutional Neural Net.

Wir verwenden unseren Klassifzierer nun mit Testdaten.

Wie kann ich rasch und einfach mithilfe von IPyWidgets ein User Interface direkt in Jupyter Notebooks bauen?

Deployment unseres Deep Learning Modells im Web mithilfe von Voila und Binder.

Techniken zur Datenaufbereitung / Data Augmentation.

Wir evaluieren unser Deep Learning Modell mithilfe der Confusion Matrix

Auf Basis der Erkenntnisse aus der Confusion Matrix überarbeiten wir unsere Trainingsdaten.

Wir bauen einen Klassifizierer für handschriftliche Ziffern auf Basis des MNIST Datensets.

Ein Ansatz zur Klassfizierung: Die Distanz jedes Bilds zum Durchschnitt aller Bilder der gleichen Klasse.

Wir berechnen die Distanz jedes Bilds zum Mittelwert.

Regulierung mittels L1 Norm bzw. Mean Squared Error.

Welchen Vorteil bieten PyTorch Tensoren gegenüber dem Standardframework Numpy?

Wie nutzen wir die Möglichkeiten von PyTorch Tensoren effizient?

Ein wichtiges Konzept in Python: Broadcasting. Wie können wir mithilfe von Broadcasting die Verwendung von Schleifen in unserem Code verhindern?

Was steckt hinter dem Optimierungsalgorithmus (Stochastic) Gradient Descent?

Automatische Berechnung der Ableitungen in unserem neuronalen Netz mithilfe von Pytorch - Berechnung der Gradienten.

Die Learningrate ist ein wesentlicher Hyperparameter in jedem Deep Learning Modell. Worauf sollen wir achten, wenn wir einen Wert für die Learningrate auswählen?

Setzen wir nun alles vorher Gehörte um und entwickeln ein vollständiges Optimierungsbeispiel mithilfe unseres Optimierungsalgorithmus Gradient Descent.

Zusammenfassung zum Thema Gradient Descent.

Was unterscheidet Stochastic Gradient Descent (SGD) von Gradient Descent?

Wir implementieren unsere eigene Optimizer-Klasse, die genauso arbeitet wie Stochastic Gradient Descent.

Wie hilft uns Nicht-Linearität bei der Optimierung - das Approximations Theorem.

Zusammenfassung, Abschluß, Outtro.