Agentic AI & Data Protection: Sensitive Data Analysis with vLLM and Self-Hosted LLMs

Chatbots und LLM-as-a-Service-Plattformen wie GPT haben den Markt erobert – doch bei sensiblen Kundendaten scheitern Cloud-Lösungen schnell am Datenschutz. Denn ein API-Call überträgt mal schnell sämtliche E-Mails und Analysedaten an Dritte.

In diesem Vortrag zeigen wir, wie sich Agentic AI mit vLLM und selbstgehosteten LLMs aufbauen lässt – alle Daten bleiben lokal, ohne Token-Kosten. Präsentiert werden Praxislösungen für Forensik (IDA Pro, Ghidra), Spam-Analyse und datenschutzkritische Szenarien.

Für IT-Sicherheitsverantwortliche, die LLMs nutzen wollen, ohne Compliance-Risiken einzugehen.

Vorkenntnisse

Es ist gut, ein wenig Ahnung von AI zu haben und zu wissen, wie man Agentic AI einsetzen kann.