Onlim entwickelt KI-Agenten für die Kundenkommunikation: Chatbots, Voice Agents und die Agent Workbench, über die Kunden ihre Agenten konfigurieren und verwalten. Mit jedem neuen Kanal wächst die Angriffsfläche – klassisch, etwa bei Rollen, Rechten und der Trennung zwischen Mandanten, und KI-spezifisch, etwa durch manipulierte Eingaben (Prompt Injection).
Beim Voice Agent kommt eine weitere Dimension hinzu: Hier geht es nicht nur um Daten, sondern auch um Kosten und Verfügbarkeit. Ein Angreifer könnte Leitungen gezielt lange belegen oder die Telefonie-Ressourcen erschöpfen. Onlim wollte wissen, wie gut die eigenen Lösungen solchen Szenarien standhalten – bevor es echte Angreifer ausprobieren.
Der Pentest folgte dem standardisierten BrightFlare-Ablauf in sieben Phasen: von der Abstimmung des Umfangs im Letter of Authorization bis zum persönlichen Debriefing. Geprüft wurden drei Anwendungen:
Zuerst ein Check der Infrastruktur mit Port- und Vulnerability-Scans, danach ein Grey-Box-Test von Oberfläche und API mit Testzugängen in den verschiedenen Rollen. Im Fokus: Kann ein Kunde auf Daten eines anderen Kunden zugreifen (Tenant-Isolation), und lassen sich Rechte unerlaubt ausweiten (Privilege Escalation)?
Die Tester agierten wie reguläre Website-Besucher und versuchten, den Chatbot zu manipulieren – entlang der OWASP Top 10 für LLM-Anwendungen aus dem OWASP GenAI Security Project.
Geprüft wurden beide Kontaktwege: das Web-Voice-Widget und der Anruf über die Rufnummer. Die Szenarien reichten von der Manipulation des Widgets über alternative Tonquellen und Signalprotokolle wie DTMF oder Gibberlink bis zu bewusst erzeugten Gesprächsschleifen, die Leitungen blockieren.
Onlim erhielt einen technischen Report mit nachvollziehbaren Befunden, Risikobewertung und priorisierten Handlungsempfehlungen, dazu ein Management Summary und ein persönliches Debriefing mit den Testern.
Damit weiß Onlim, wie belastbar die eigenen KI-Agenten gegenüber realen Angriffen sind, und kann das auch gegenüber Kunden belegen, die KI sicher in ihrer Kommunikation einsetzen wollen.
Security hat bei unseren Lösungen höchste Priorität, besonders wenn unsere KI-Agenten direkt mit Kund:innen sprechen. BrightFlare hat nicht nur die klassischen Angriffswege geprüft, sondern sich auch tief auf KI-spezifische Szenarien und unseren Voice Agent eingelassen. Die Ergebnisse waren nachvollziehbar aufbereitet und haben uns klare nächste Schritte gezeigt.