Mit GenAI zum Insider-Threat | CSO Online

Schatten-IT wird zu Schatten-KI

„Trotz der ernsthaften Bemühungen von Unternehmen, unternehmenseigene GenAI-Tools zu implementieren, zeigt unsere Studie, dass Schatten-IT zur Schatten-KI geworden ist“, erklärt James Robinson, CISO von Netskope. Demnach greifen fast drei Viertel der Anwender noch immer über persönliche Konten auf GenAI-Apps zu.

Darüber hinaus stellte Netskope fest, dass die Zahl der Unternehmen, die ihre GenAI-Infrastruktur lokal betreiben, stark gestiegen ist – von weniger als ein Prozent auf 54 Prozent. „Obwohl dadurch die Risiken einer unerwünschten Datenexposition durch Drittanbieter-Apps in der Cloud reduziert werden, bringt die Verlagerung auf eine lokale Infrastruktur neue Datensicherheitsrisiken mit sich“, mahnen die Forscher.

Die Gefahren reichen von Lieferketten, Datenlecks und unsachgemäßer Handhabung der Datenausgabe bis hin zu Prompt Injection, Jailbreaks und Extraktion von Meta-Prompts. „KI verändert nicht nur die Sicherheit von Perimetern und Plattformen – sie schreibt die Regeln neu“, erklärt Ari Giguere, Vice President of Security and Intelligence Operations bei Netskope. „Auf einem KI-gesteuerten Schlachtfeld kann nur KI-gestützte Sicherheit Schritt halten.“