Aktuelles, Branche - geschrieben von dp am Dienstag, Mai 28, 2024 13:51 - noch keine Kommentare
Schatten-KI und EU AI Act: Unternehmen müssen sich den Herausforderungen zeitnah stellen
Philipp Adamidis nimmt Stellung zu Aspekten der erfolgreichen KI-Transformation
[datensicherheit.de, 28.05.2024] Die Fortentwicklung Künstlicher Intelligenz (KI) schreitet offensichtlich mit großen Schritten voran. Ein Beispiel dafür ist nach Ansicht von Philipp Adamidis, „CEO“ und Mitgründer von QuantPi, die in diesen Tagen erschienene neueste Version von „ChatGPT“, welche auch kostenlos zur Verfügung stehe. In seiner aktuellen Stellungnahme geht er aber auch darauf ein, dass gleichzeitig die Skepsis gegenüber dieser neuen Technologie nach wie vor groß sei. Adamidis versteht sich als Pionier auf dem Gebiet vertrauensvoller KI und erörtert die Chancen und Risiken:
Schatten-KI als ernsthaftes Sicherheitsproblem für Unternehmen
Adamidis betont: „KI wird nun endgültig Teil des Arbeitsalltags vieler Menschen. Ich bin sicher, dass der Produktivitätsboost in ganz unterschiedlichen Arbeitsbereichen enorm sein wird.“ Zugleich nähmen allerdings auch die Risiken zu: Der Einsatz sogenannter Schatten-KI, d.h. unautorisierter KI-Tools, werde sich zu einem ernsthaften Sicherheitsproblem für Unternehmen entwickeln. Er warnt ferner: „Doch auch wenn Unternehmen KI einkaufen oder selbst entwickeln, werden die Tools in den meisten Fällen nicht gründlich genug getestet und sind somit ein erhebliches Sicherheits- und Compliance-Risiko.“
Zudem stelle der „EU AI Act“ Organisationen in der kommenden Zeit vor große Herausforderungen. Die alles beherrschende Frage lautet demnach: „Wie gelangen wir zu einer sicheren und verantwortungsbewussten Nutzung von KI?“ man dürfe sich hierbei nicht allein auf die Hersteller und Anbieter von KI-Tools verlassen. „Für Transparenz, Erklärbarkeit und Kontrolle werden wir alle gemeinsam sorgen müssen“, so Adamidis.
Richtlinien für den KI-Umgang unerlässlich
Er hebt hervor, dass klare Richtlinien für den KI-Umgang unerlässlich seien. Ferner sollten Unternehmen dazu in der Lage sein, die eingesetzten KI-Tools selbst zu überprüfen. Nur dann könnten die notwendigen Schutzmaßnahmen ergriffen werden, um die rechtlichen und ethischen Standards des eigenen Unternehmens sicherzustellen. Dies klinge für viele Unternehmen natürlich erst einmal utopisch.
Gerade kleine und mittlere Unternehmen (KMU) verfügten in der Regel nicht über die personellen und finanziellen Ressourcen, um komplexe KI-Systeme zu benchmarken – von sogenannten Start-ups ganz zu schweigen. Die gute Nachricht sei jedoch: Mithilfe innovativer Software-Lösungen ließen sich selbst höchst komplexe „Large Language Models“ inzwischen einfach und ressourcenschonend überprüfen. Auf diese Weise hätten Unternehmen die sichere und verantwortungsbewusste KI-Transformation selbst in der Hand.
Überblick über alle eingesetzten KI-Systeme nebst Risikoklasse
Zum Thema „AI Act“ der EU kommentiert Adamidis: „Der Faktor Zeit ist ganz entscheidend: Unternehmen sollten möglichst rasch einen detaillierten Maßnahmenplan erarbeiten und umsetzen, ansonsten drohen empfindliche Geldbußen!“ Die Bußgelder könnten sich auf bis zu sieben Prozent des erzielten Umsatzes belaufen.
Eine der größten Aufgaben sei es zweifellos, sich einen Überblick über alle eingesetzten KI-Systeme zu verschaffen und die jeweilige Risikoklasse zu ermitteln. Dabei seien diverse Sonderbestimmungen und Ausnahmeregelungen zu beachten. Aber auch die umfangreichen Dokumentations- und Transparenzpflichten sollten nicht unterschätzt werden. „Spezialisierte Risikomanagement-Plattformen erleichtern es glücklicherweise, im Dickicht der Vorschriften und Regelungen den Überblick zu behalten und die technischen und administrativen Herausforderungen zu meistern.“ Das viel gefürchtete Compliance-Chaos lasse sich also mit relativ geringem Aufwand vermeiden.
Verantwortungsvoller KI-Umgang erfolgsentscheidend
Adamidis beobachtet seit geraumer Zeit mit Sorge, dass viele Akteure im KI-Bereich das Thema Vertrauenswürdigkeit zwar werbewirksam auf die Fahnen schrieben, es jedoch in der Praxis nicht immer mit der nötigen Sorgfalt behandelten: „Dadurch ist gerade in jüngster Zeit viel Vertrauen verspielt worden!“
Abschließend stellt er klar: „Dass OpenAI das gesamte Sicherheits-Team aufgelöst hat, halte ich für ein fatales Signal. Denn eines muss uns doch klar sein: Wenn es uns nicht gelingt, zu einem verantwortungsvollen Umgang mit der neuen Technologie zu gelangen und dadurch das Vertrauen der Menschen zu gewinnen, wird die größte technologische Revolution seit der Einführung des Internets unweigerlich scheitern.“
Weitere Informationen zum Thema:
datensicherheit.de, 24.05.2024
KI im Gesundheitswesen: it’s.BB e.V. lädt zur nächsten Awareness-Veranstaltung ein / Rechtliche und technische Herausforderungen des KI-Einsatzes im Fokus
datensicherheit.de, 06.05.2024
DSK-Orientierungshilfe für Unternehmen und Behörden zum datenschutzkonformen KI-Einsatz / Die Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ richtet sich an Unternehmen, Behörden und andere Organisationen
Veranstaltungen, Experten - Sep 6, 2024 12:30 - noch keine Kommentare
18.09.2024: Web-Seminar zu IT-Sicherheitsstrategien für cloud-basierte und hybride Geschäftsprozesse
weitere Beiträge in Experten
- BfDI-Amtsantritt: Prof. Dr. Louisa Specht-Riemenschneider benennt Schwerpunkte ihres Wirkens
- Wohnungsnot von Kriminellen missbraucht: Betrug mit Fake-Immobilien
- Software Bill of Materials: TeleTrusT veröffentlicht Leitfaden
- Informationskampagne zur Datensparsamkeit beim Online-Einkauf
- OT-Sicherheit in der Lebensmittelindustrie
Aktuelles, Branche - Sep 6, 2024 12:44 - noch keine Kommentare
Unterschätztes Problem: Datenverluste durch fehlgeleitete E-Mails
weitere Beiträge in Branche
- Drei präventive Schutzmaßnahmen gegen CEO-Fraud und Deepfake-Angriffe
- IoT: Wenn das Internet der Dinge zum Internet of Threats zu werden droht
- OT-Sicherheit in der Lebensmittelindustrie
- Ransomware-Attacken: 75 Prozent der Opfer in Deutschland zahlen Lösegeld
- Tenable: Nur 3 Prozent aller Schwachstellen sind wirklich kritisch
Branche, Umfragen - Dez 21, 2020 21:46 - noch keine Kommentare
Threat Hunting: Bedeutung und Wertschätzung steigt
weitere Beiträge in Service
- Umfrage: 71 Prozent der IT-Entscheidungsträger besorgt über Mehrfachnutzung von Passwörtern
- Fast die Hälfte der Unternehmen ohne geeignete Sicherheitsrichtlinien für Remote-Arbeit
- Umfrage: Bedeutung der Konsolidierung von IT-Sicherheitslösungen
- TeleTrusT-Umfrage: „IT-Sicherheit im Home Office“
- Cybersicherheit: SANS-Studie zu Frauen in Führungspositionen
Kommentieren