Custom GPTs & Self-hosted LLMs in der Praxis

Niklas Haas und Kamil Braschke geben Einblicke in die aktuellen Entwicklungen rund um Private ChatGPTs und Self-hosted LLMs und werfen einen Blick in die Glaskugel – mit sehr spannenden Prognosen. Niklas ist zum Beispiel überzeugt: In nächster Zeit wird man neben Prompts und Prompt Engineering auch Knowledge Bases als Erweiterung einfügen können, etwa zu einem bestimmten Themenbereich.

Auch das Thema Nachhaltigkeit, das beim aktuellen Hype um generative KI gern unter den Tisch fällt, diskutiert Marco Paga mit seinen Gästen.

Kapitel:

(00:00:00) Intro Kamil & Niklas

(00:01:42) Aktueller Stand OpenAI & CustomGPTs und ein Use-Case-Beispiel

(00:10:33) Integrationen, Plug-ins, APIs

(00:18:30) Self-hosted LLMs

(00:31:20) Self-hosted LLMs in Produktion

(00:35:45) Ausblick: Open-Source-Modelle

(00:38:55) Nachhaltigkeit

(00:43:20) Ausblick: Custom GPTs