Responsible AI: Vertrauen, Security und Governance sind Voraussetzungen

Immer mehr Unternehmen setzen auf die Implementierung von KI als Kernbestandteil ihrer Geschäftsstrategie

Ein Kommentar von Lexy Kassan, Lead Data & AI Strategist bei Databricks

[datensicherheit.de, 24.02.2025] Laut McKinsey und Co. könnte das wirtschaftliche Potenzial von generativer KI, einschließlich der Anwendungsfälle und der durch KI ermöglichten Arbeitsproduktivität, die Weltwirtschaft um 17 bis 26 Billionen Dollar bereichern. Infolgedessen konzentrieren sich immer mehr Unternehmen auf die Implementierung von KI als Kernbestandteil ihrer Geschäftsstrategie, um einen Wettbewerbsvorteil zu erzielen. Und dieser Trend wird sich auch im weiteren Verlauf dieses Jahres fortsetzen.

Lexy Kassan, Lead Data & AI Strategist bei Databricks, Bild: Databricks

Deutsche Unternehmen sehen das Potential von KI

Auch deutsche Unternehmen sind optimistisch, was das Potenzial von KI angeht. Laut Bitkom Research 2024 sehen 73 Prozent von ihnen in ihr die wichtigste Technologie der Zukunft. Bei der Einführung von KI in Unternehmen ist es jedoch entscheidend, dass sie verantwortungsvolle KI-Praktiken priorisieren, die Qualität, Sicherheit und Governance abdecken, um Vertrauen in ihre KI-Ziele aufzubauen. KI-Vertrauens-, Risiko- und Sicherheitsmanagements sind dabei für Geschäfts- und Technologieentscheidungen von erhöhter Relevanz, um die (Nutzer-)Akzeptanz sowie die Realisierung der Geschäftsziele zu steigern und aus einer gewöhnliche KI eine Responsible AI zu machen.

Schwierigkeiten bei der Umsetzung von Responsible AI

Doch bei der Umsetzung dieser Qualitätsanforderungen stehen den Unternehmen oft Schwierigkeiten im Weg, die es erschweren, Vertrauen aufzubauen, Risiken zu erkennen und oft eine wirksame Aufsicht über die verwendeten Datensätze behindern:

• Mangelnde Transparenz der Modellqualität: Die unzureichende Transparenz der Folgen von KI-Modellen ist zu einer der größten Herausforderungen geworden. Unternehmen kämpfen mit mangelndem Vertrauen in die Zuverlässigkeit von KI-Modellen, um durchgängig Ergebnisse zu liefern, die für ihre Nutzer sicher und fair sind. Ohne klare Einblicke in die Funktionsweise dieser Modelle und die potenziellen Auswirkungen ihrer Entscheidungen fällt es Unternehmen schwer, Vertrauen in KI-gestützte Lösungen aufzubauen und zu erhalten.
• Unzureichende Sicherheitsvorkehrungen: Die Interaktion mit KI-Modellen vergrößert die Angriffsfläche eines Unternehmens, indem sie böswilligen Akteuren eine neue Möglichkeit zur Interaktion mit Daten bietet. Generative KI ist besonders problematisch, da fehlende Sicherheitsvorkehrungen es Anwendungen wie Chatbots ermöglichen können, sensible Daten und geschütztes geistiges Eigentum offenzulegen (und in einigen Fällen möglicherweise zu verändern). Diese Schwachstelle setzt Unternehmen erheblichen Risiken aus, einschließlich Datenschutzverletzungen und Diebstahl geistigen Eigentums, und erfordert robuste Sicherheitsmaßnahmen zum Schutz vor böswilligen Aktivitäten.
• Siloed Governance: Unternehmen setzen häufig getrennte Daten- und KI-Plattformen ein, wodurch Governance-Silos entstehen, die zu einer begrenzten Sichtbarkeit und Erklärbarkeit von KI-Modellen führen. Dieser unzusammenhängende Ansatz führt zu einer unzureichenden Katalogisierung, Überwachung und Prüfung von KI-Modellen und erschwert die Gewährleistung ihrer angemessenen Nutzung. Darüber hinaus erschwert eine fehlende Datenabfolge das Verständnis dafür, welche Daten für KI-Modelle verwendet werden, und behindert eine wirksame Aufsicht. Einheitliche Governance-Frameworks sind unerlässlich, um sicherzustellen, dass KI-Modelle transparent, nachvollziehbar und rechenschaftspflichtig sind, was eine bessere Verwaltung und Compliance ermöglicht.

Qualitätsüberwachung sorgt für Vertrauen in KI-Systeme

Die Entwicklung und Einführung von Responsible AI hängt von der Einrichtung eines umfassenden Qualitätsüberwachungsrahmens ab, der den gesamten Lebenszyklus von KI-Systemen abdeckt. Dies kann beispielsweise mit einer Data-Intelligence-Plattform umgesetzt werden, die Daten, Modelltraining, Management, Überwachung und Governance vereinheitlicht, indem sie strukturierte und unstrukturierte Daten integriert, verarbeitet und KI-gestützte Analysen ermöglicht. Dieser Rahmen ist unerlässlich, um sicherzustellen, dass KI-Modelle von der Entwicklung bis zum Einsatz vertrauenswürdig und auf die vorgesehenen Anwendungsfälle abgestimmt bleiben. Dabei sind drei entscheidende Aspekte der Modellqualität besonders zu berücksichtigen: Transparenz, Effektivität und Zuverlässigkeit.

1. Die Transparenz ist von grundlegender Bedeutung, wenn es darum geht, Vertrauen in KI-Systeme zu schaffen und regulatorische Anforderungen zu erfüllen. Es geht darum, Modelle erklärbar und interpretierbar zu machen, so dass die Beteiligten verstehen können, wie Entscheidungen getroffen werden.
2. Die Effektivität hingegen konzentriert sich auf die Fähigkeit des Modells, genaue und angemessene Ergebnisse zu liefern. Während der Entwicklung ist es wichtig, die Datenqualität, die Leistungskennzahlen des Modells und potenzielle Verzerrungen zu verfolgen, um Probleme frühzeitig zu erkennen und abzumildern.
3. Die Zuverlässigkeit gewährleistet eine gleichbleibende Leistung im Laufe der Zeit und erfordert eine kontinuierliche Überwachung, um eine Verschlechterung des Modells zu verhindern und Geschäftsunterbrechungen zu vermeiden. Die Überwachung umfasst die Verfolgung potenzieller Probleme, wie z. B. Änderungen in den Vorhersagen, Verschiebungen in der Datenverteilung und Leistungseinbußen, um ein schnelles Eingreifen zu ermöglichen. Die Neuverteilung stellt sicher, dass das Unternehmen nach Modellaktualisierungen oder -ersetzungen weiterhin hochwertige Ergebnisse ohne Ausfallzeiten erhält. Zusammengenommen sind Überwachung und Umstellung von entscheidender Bedeutung für die Aufrechterhaltung der Modellqualität und -zuverlässigkeit.

Unternehmen müssen die Kontrolle über ihre Daten und KI-Modelle haben

Responsible KI-Praktiken sind unerlässlich, um sicherzustellen, dass KI-Systeme hochwertig, sicher und gut verwaltet sind. Qualitätsaspekte sollten bei der KI-Entwicklung im Vordergrund stehen, damit sichergestellt ist, dass KI-Systeme nicht voreingenommen sind und auf ihre Anwendbarkeit und Angemessenheit in den vorgesehenen Anwendungsfällen überprüft werden. Es sollten Sicherheitsmaßnahmen eingeführt werden, um KI-Systeme vor Cyber-Bedrohungen und Datenverletzungen zu schützen. Es sollten Governance-Rahmen geschaffen werden, um Rechenschaftspflicht, Transparenz und die Einhaltung der einschlägigen Gesetze und Vorschriften zu fördern.

Dies erfordert, dass jedes Unternehmen die Verantwortung und Kontrolle über seine Daten und KI-Modelle mit umfassender Überwachung, Datenschutzkontrollen und Governance während der gesamten KI-Entwicklung und -Bereitstellung hat. Dieser einheitliche Ansatz ermöglicht es Unternehmen, verantwortungsvolle KI-Ziele zu erreichen, die Modellqualität zu gewährleisten, sicherere Anwendungen bereitzustellen und die Einhaltung gesetzlicher Vorschriften zu unterstützen.

Weitere Informationen zum Thema:

datensicherheit.de, 05.02.2025
AI Act der EU verbietet bestimmte KI-Systeme und verpflichtet zur -Kompetenz