Success Story
Awareness & Testing
AI-Security

Onlim: KI-Agenten realistisch angegriffen — von der Workbench bis zum Voice Agent

Wie sicher sind Chatbot, Voice Agent und die Plattform dahinter? BrightFlare hat die KI-Anwendungen von Onlim aus Angreifersicht getetstet – inklusive ungewöhnlicher Angriffswege über die Telefonie.

Auf einen Blick
Branche
Conversational AI
Methodik
OWASP GenAI Security Project (LLM Top 10) · OWASP API Security Testing Framework (ASTF) · Certified Offensive AI Expert (COAE) · Offensive Security AI (OSAI)
Zur Website →
01

Ausgangslage

Onlim entwickelt KI-Agenten für die Kundenkommunikation: Chatbots, Voice Agents und die Agent Workbench, über die Kunden ihre Agenten konfigurieren und verwalten. Mit jedem neuen Kanal wächst die Angriffsfläche – klassisch, etwa bei Rollen, Rechten und der Trennung zwischen Mandanten, und KI-spezifisch, etwa durch manipulierte Eingaben (Prompt Injection).

Beim Voice Agent kommt eine weitere Dimension hinzu: Hier geht es nicht nur um Daten, sondern auch um Kosten und Verfügbarkeit. Ein Angreifer könnte Leitungen gezielt lange belegen oder die Telefonie-Ressourcen erschöpfen. Onlim wollte wissen, wie gut die eigenen Lösungen solchen Szenarien standhalten – bevor es echte Angreifer ausprobieren.

‍

02

Vorgehen

Der Pentest folgte dem standardisierten BrightFlare-Ablauf in sieben Phasen: von der Abstimmung des Umfangs im Letter of Authorization bis zum persönlichen Debriefing. Geprüft wurden drei Anwendungen:

Agent Workbench

Zuerst ein Check der Infrastruktur mit Port- und Vulnerability-Scans, danach ein Grey-Box-Test von Oberfläche und API mit Testzugängen in den verschiedenen Rollen. Im Fokus: Kann ein Kunde auf Daten eines anderen Kunden zugreifen (Tenant-Isolation), und lassen sich Rechte unerlaubt ausweiten (Privilege Escalation)?

Chatbot

Die Tester agierten wie reguläre Website-Besucher und versuchten, den Chatbot zu manipulieren – entlang der OWASP Top 10 für LLM-Anwendungen aus dem OWASP GenAI Security Project.

Voice Agent

Geprüft wurden beide Kontaktwege: das Web-Voice-Widget und der Anruf über die Rufnummer. Die Szenarien reichten von der Manipulation des Widgets über alternative Tonquellen und Signalprotokolle wie DTMF oder Gibberlink bis zu bewusst erzeugten Gesprächsschleifen, die Leitungen blockieren.

‍

OSCP · OSEP · GWAPT
Die Zertifikate unserer Pentester: OSCP und OSEP sind praktische Hacking-Prüfungen für Netzwerke und Active Directory, GWAPT gilt für Webanwendungen.
03

Ergebnis

Onlim erhielt einen technischen Report mit nachvollziehbaren Befunden, Risikobewertung und priorisierten Handlungsempfehlungen, dazu ein Management Summary und ein persönliches Debriefing mit den Testern.

Damit weiß Onlim, wie belastbar die eigenen KI-Agenten gegenüber realen Angriffen sind, und kann das auch gegenüber Kunden belegen, die KI sicher in ihrer Kommunikation einsetzen wollen.

3
KI-Anwendungen geprüft: Workbench, Chatbot, Voice Agent
2
Zugangswege zum Voice Agent – Web-Widget und Rufnummer
7
Projektphasen bis zum Debriefing

Security hat bei unseren Lösungen höchste Priorität, besonders wenn unsere KI-Agenten direkt mit Kund:innen sprechen. BrightFlare hat nicht nur die klassischen Angriffswege geprüft, sondern sich auch tief auf KI-spezifische Szenarien und unseren Voice Agent eingelassen. Die Ergebnisse waren nachvollziehbar aufbereitet und haben uns klare nächste Schritte gezeigt.

David Duscher
IT-Compliance Manager
Onlim
Kontaktieren Sie uns

Gemeinsam schreiben wir Ihre Success Story.

Erzählen Sie uns, was Sie vorhaben – wir melden uns persönlich bei Ihnen und besprechen in einem unverbindlichen Erstgespräch, wie wir gemeinsam aus Ihrer Idee eine Erfolgsgeschichte machen.
contact@brightflare.io
+43 316 438000
8020 Graz, Österreich

Weitere Success Stories

Alle Stories ansehen →