Generative KI gewinnt im Alltag an Bedeutung und definiert Prinzipien der Datensicherheit neu

Joseph Regensburger kommentiert private und berufliche Herausforderungen der KI-Fortentwicklung hinsichtlich der Datensicherheit

[datensicherheit.de, 03.07.2024] „Obwohl die Generative KI erst in den letzten 18 Monaten wirklich Schlagzeilen gemacht hat, spielt sie für viele im Alltag bereits seit Jahren eine große Rolle – ob beruflich oder privat“, betont Joseph Regensburger, „VP of Research“ bei Immuta, in seiner aktuellen Stellungnahme. Diese begegnet uns demnach beispielsweise in Form von virtuellen Assistenten, die personalisierte Empfehlungen aussprechen, oder Systemen, die in Echtzeit die schnellste Route zu einem bestimmten Ziel berechnen. Regensburgers Prognose: „Mit dem Aufkommen Generativer KI erlebt die Technologie ein seither nie dagewesenes Hoch. Für rund 90 Prozent der Führungskräfte steht fest: In den kommenden anderthalb Jahren wird Generative KI im Mittelpunkt ihrer strategischen Ausrichtung stehen.“ Regensburger ist nach eigenen Angaben seit 2017 verantwortlich für die Forschung und Entwicklung bei Immuta und leitet dort ein Team bestehend aus Wissenschaftlern, Mathematikern und Ingenieuren mit dem Ziel, „ein hochmodernes Cloud-Datensicherheitsprodukt zu entwickeln“.

Foto: Immuta

Joseph Regensburger rät, neue Werkzeuge und Prozesse zu implementieren, welche einen umfassenden Schutz aller Datentypen im sich ständig weiterentwickelnden technologischen Umfeld gewährleisten

Druck zur Wettbewerbsfähigkeit darf nicht zur Vernachlässigung der Datensicherheit führen!

Laut einer Studie von Deloitte stimmten jedoch nur ein Viertel der Führungskräfte zu, dass ihre Unternehmen gut auf Governance und Risikofragen im Zusammenhang mit der Einführung von KI vorbereitet seien. „Das kann vor allem im Hinblick auf den ,AI-Act’ schwerwiegende Folgen haben!“, warnt Regensburger.

Denn trotz der Aufgeschlossenheit vieler Unternehmen berge der voreilige Einsatz von KI zahlreiche Risiken. Er betont: „Der Druck, wettbewerbsfähig zu bleiben, darf nicht dazu führen, dass Datensicherheit vernachlässigt wird!“ Zwei Kernfragen, die sich Unternehmen daher stellen sollten: „Welche Auswirkungen hat Generative KI auf die Datensicherheit? Und welche neuen Aufgaben gehen damit einher?“

Strukturierte vs. unstrukturierte Daten stellen unterschiedliche Herausforderungen an Datensicherheit!

Bei strukturierten Daten seien die Prozesse bezüglich Datensicherheit meist klar definiert und leicht zu verwalten: Informationen wie Termine, Seriennummern oder Telefonnummern seien formatiert und typisiert, wodurch sie einfacher zu finden und zu durchsuchen seien. Er erläutert: „Hier setzen Unternehmen in der Regel Sicherheitsprozesse wie rollenbasierte Zugangskontrollen (RBAC) ein, um sicherzustellen, dass nur autorisierte Mitarbeiter auf bestimmte Informationen zugreifen können.“

Unstrukturierte Daten hingegen, wie Videos, E-Mails, Bilder, PDF-Dateien und HTML-Inhalte, seien komplexer in der Handhabung: Diese Formate machten indes den Großteil der weltweit erzeugten Daten aus, seien jedoch schwerer zu analysieren. Steigende Datenmengen und Nutzerzahlen erschwerten es Unternehmen zusätzlich, effektive Datensicherheitsmaßnahmen umzusetzen und präzise Zugriffskontrollen anzuwenden. Einige Unternehmen neigten dazu, diese Daten mit einem „Alles-oder-Nichts“-Ansatz zu verwalten, was entweder zu einem erhöhten Risiko durch uneingeschränkten Zugriff oder zu einer eingeschränkten Nutzung führe.

KI-Nutzung erfordert klare Regeln, um Datensicherheit im komplexen Umfeld zu gewährleisten!

Mit der zunehmenden Komplexität von KI-Systemen und ihrer Integration in Geschäftsprozesse könnten viele Unternehmen mit ihren Datensicherheitsstrategien nicht Schritt halten. Regensburger führt weiter aus: „Das Risiko unbeabsichtigter Datenlecks steigt, was die dringende Notwendigkeit robuster und anpassungsfähiger Datensicherheitsmaßnahmen verdeutlicht.“ Werkzeuge wie „ChatGPT“ rückten persönliche Informationen und Geschäftsgeheimnisse in den Mittelpunkt von Diskussionen.

Um die Datensicherheit in diesem komplexen Umfeld zu gewährleisten, seien neue Werkzeuge und Verfahren erforderlich, „um sicherzustellen, dass Daten zuverlässig geschützt bleiben“. Viele Unternehmen hätten bereits analytische „Data Warehouses“, „Data Lakes“ oder „Lake Houses“ implementiert und konzentrierten sich dabei in erster Linie auf die Sicherheit strukturierter Daten. Mit der zunehmenden Integration Generativer KI änderten sich die Spielregeln in der Datensicherheit grundlegend und es sei für Unternehmen entscheidend, ihre Datensicherheitsmaßnahmen neu zu bewerten.

Rasante KI-Entwicklung unterstreicht Notwendigkeit robuster und anpassungsfähiger Datensicherheits-Rahmenwerke!

„Große Sprachmodelle (LLMs) greifen direkt auf Daten aus der Speicherebene zu, was neue Sicherheitsstrategien erfordert. Die Attributbasierte Zugriffskontrolle (ABAC) bietet hier eine Lösung, indem sie auf einer Vielzahl von Merkmalen basiert, die den Zugriff präziser steuern können“, so Regensburger. ABAC könne beispielsweise den Zugriff von Mitarbeitern weiter einschränken, indem es zeitliche und räumliche Faktoren berücksichtige – zusätzlich könne sie Benutzerverhaltensanalysen integrieren, um Anomalien und potenzielle Sicherheitsbedrohungen zu erkennen, wodurch die allgemeine Sicherheitslage durch kontinuierliche Überwachung und Anpassung an neue Risiken verbessert werde.

Regensburgers Fazit: „Die rasante Entwicklung der KI erhöht auch das Risiko von Datenlecks und adversarialen Angriffen, was die Notwendigkeit robuster und anpassungsfähiger Datensicherheits-Rahmenwerke unterstreicht.“ Um sensible Informationen zu schützen, sollten Organisationen seiner Empfehlung nach „neue Werkzeuge und Prozesse implementieren, die einen umfassenden Schutz aller Datentypen in diesem sich ständig weiterentwickelnden technologischen Umfeld gewährleisten“.

Weitere Informationen zum Thema:

Capgemini, 2024
Embracing a brighter future / INVESTMENT PRIORITIES FOR 2024

Deloitte, Januar 2024
Now decides next: Insights from the leading edge of generative AI adoption / Deloitte’s State of Generative AI in the Enterprise / Quarter one report

Immuta Blog, Lisa White, 31.10.2023
Report Finds Data Security is a Priority for Over 40% of CEOs

datensicherheit.de, 25.04.2024
Generative KI: Jüngste Erkenntnisse von Check Point Research zur Gefahr für die Wahlen 2024 / CPR hat Wahlen welweit beobachtet, um den Einsatz generativer Künstlicher Intelligenz (KI) zu analysieren