LLM Security

Die umfassende Absicherung Generativer KI- und LLM (Large Language Model)-Anwendungen bedeutet Application Security zum Quadrat.

Die Herausforderung

Bei Anwendungen mit Generativer KI, spezifisch bei LLM (Large Language Model)-Anwendungen, gesellen sich zu den klassischen Web- und App-Schwachstellen vielfältige weitere Möglichkeiten von Sicherheitsproblemen: Durch den Einsatz externer oder interner Modelle, die Verwendung von Plugins, Agents, RAG-Anbindungen etc. In der Praxis kommt meist noch das gesamte Spektrum der Cloud-Security dazu.

Wir bieten umfassende Unterstüzung für die sichere Konzeption, Umsetzung und den Betrieb Ihrer KI.

LLM Security ist anders!

Ein erhellendes Beispiel für die "Andersartigkeit" der Anforderungen an die Sicherheit Generativer KI ist die Art, wie das Pattern der Injection-Schwachstellen sich hier darstellt. Im Bereich der klassischen Programmierung lässt sich Injection durch die Anwendung der jeweils geeigneten Gegenmaßnahme zuverlässig ausschließen (beispielsweise Prepared Statements gegen SQL-Injection). Im Bereich von LLMs haben wir es momentan mit der grundsätzlichen Nichtrealisierbarkeit einer ähnlich sicheren Gegenmaßnahme zu tun. Einfach deshalb, weil die Benutzereingabe - der Prompt - zum Bestandteil des Gesamtkontextes werden muss, damit das System seinen Zweck erfüllen kann.