
Einführung, Vorstellung meiner Person und der Agenda
Welche Gründe sprechen für eine lokale Nutzung eines LLMs.
Was ist Ollama und wofür kann ich es einsetzen?
Kurze Übersicht zur LLM-Plattform Huggingface
Was ist OpenWebUI - Dort können eigene trainierte Modell bereitgestellt werden.
Definition eines LLMs
Welche Vorteile bietet mir die lokale Nutzung eines LLMs auf meiner Hardware?
Welche weiteren Vorteile gibt es und welche Nachteile muss ich beim Einsatz eines lokalen LLMs über Ollama bedenken.
Wie kann ich Ollama installieren? Ich zeige es Ihnen am Beispiel unter Linux.
Wie sieht die WebUI zu Ollama aus?
WebUI bietet die Möglichkeit, Dateien hochzuladen und in den Chat mit einzubeziehen. Mit einem lokalen Modell kann ich gewährleisten, dass die Daten nicht abfließen.
Kurzer Hinweis auf weitere Parameter der WebUI, die hilfreich sein können
Welche Hardware-Empfehlung gibt es für Ollama.
In diesem Kurs lernen Sie, wie Sie mit Ollama Ihren eigenen Chatbot auf Ihrem Rechner erstellen. Ich führe Sie Schritt für Schritt durch den Prozess, um einen leistungsstarken Chatbot zu entwickeln, der natürliche Sprache versteht und darauf reagiert.
Ollama ist eine innovative Open-Source-Lösung, die es Ihnen ermöglicht, verschiedene Large Language Models (LLMs) lokal auf Ihrem Computer zu betreiben. Dies eröffnet völlig neue Möglichkeiten für Entwickler und Technikbegeisterte, die ihre eigenen KI-Anwendungen erstellen möchten.
Der Kurs ist sowohl für Anfänger als auch fortgeschrittene Benutzer geeignet und bietet praktische Einblicke in die Welt der künstlichen Intelligenz. Sie lernen nicht nur die technischen Grundlagen, sondern auch Best Practices für den Einsatz von LLMs in verschiedenen Anwendungsszenarien.
Der Kurs behandelt folgende Themen:
- Einführung in Ollama und dessen WebUI - ein Tool zum lokalen Hosting von Large Language Models (LLMs)
- Installation und Einrichtung von Ollama
- Verfügbare Modelle und die Open WebUI
- API-Nutzung und Integrationsmöglichkeiten
Die Präsentation geht besonders auf die Vorteile der lokalen LLM-Nutzung ein:
- Datenschutz und Privatsphäre - Ihre Daten bleiben auf Ihrem System
- Kostenkontrolle - keine wiederkehrenden Gebühren oder unerwarteten Kosten
- Offline-Verfügbarkeit - arbeiten Sie unabhängig von Internetverbindungen
- Reproduzierbare Ergebnisse - ideal für Forschung und Entwicklung
Nach Abschluss des Kurses werden Sie in der Lage sein, Ihre eigenen KI-Anwendungen zu entwickeln und das Potenzial von Large Language Models voll auszuschöpfen.