AIC4: BSI-Standard für mehr KI-Sicherheit

Auf KI basierende Systeme neuen Sicherheitsbedrohungen ausgesetzt – von etablierten IT-Sicherheitsstandards nicht abgedeckt

[datensicherheit.de, 04.02.2021] Der Einsatz Künstlicher Intelligenz (KI) eröffnet nach Ansicht des Bundesamts für Sicherheit in der Informationstechnik (BSI) „neue Möglichkeiten und Anwendungen“ – und schon jetzt beeinflusse KI viele kritische Prozesse und Entscheidungen, zum Beispiel in der Wirtschaft oder im Gesundheitsbereich. Gleichzeitig seien auf KI basierende Systeme neuen Sicherheitsbedrohungen ausgesetzt, welche von etablierten IT-Sicherheitsstandards nicht abgedeckt würden. Mit dem neuen Kriterienkatalog für KI-basierte Cloud-Dienste (Artificial Intelligence Cloud Services Compliance Criteria Catalogue, AIC4) schafft das BSI nach eigenen Angaben nun „eine wichtige Grundlage, um die Sicherheit von KI-Systemen bewerten zu können“.

AIC4 definiert erstmals Basisniveau an Sicherheit für KI-basierte Dienste

Der AIC4 des BSI definiert demnach „erstmals ein Basisniveau an Sicherheit für KI-basierte Dienste, die in Cloud-Infrastrukturen entwickelt und betrieben werden“. Ein vergleichbarer einsetzbarer Prüfstandard für sichere KI-Systeme existiere derzeit nicht. Der AIC4 umfasse KI-spezifische Kriterien, welche eine unabhängige Prüfung der Sicherheit eines KI-Service über dessen gesamten Lebenszyklus hinweg ermöglichten.
Dieser Ansatz habe sich schon beim C5-Kriterienkatalog bewährt, mit dem das BSI einen weltweit anerkannten Standard der Cloud-Sicherheit gestaltet und etabliert habe. Mit dem AIC4 nehme das BSI eine führende Rolle bei der Absicherung von KI-Anwendungen ein und leiste einen wesentlichen Beitrag zur Gestaltung einer sicheren Digitalisierung „Made in Germany“.

2021 wird das BSI Stützpunkt mit fachlichem Schwerpunkt KI im Saarland ansiedeln

„Mit der zunehmenden Verbreitung Lernender Systeme stellt sich immer dringender die Frage nach ihrer Vertrauenswürdigkeit. Deshalb nehmen wir uns als Cyber-Sicherheitsbehörde des Bundes dieser Fragestellung an. Wir legen mit dem AIC4 erstmals eine konkrete Lösung vor, die über nachvollziehbare Kriterien die Informationssicherheit im Bereich der Künstlichen Intelligenz verbessert. Dies ist der erste Schritt, weitere Schritte werden folgen“, erläutert BSI-Präsident Arne Schönbohm.
Als Gestalter einer sicheren Digitalisierung in Deutschland befasse sich das BSI intensiv mit dem Thema KI. Schönbohm führt aus: „Wir unterstützen die Bundesregierung dabei, den technologisch und wirtschaftlich erfolgreichen sowie gesellschaftlich akzeptierten Einsatz von KI-Lösungen in Deutschland voranzutreiben.“ Noch in diesem Jahr, 2021, werde das BSI einen Stützpunkt mit dem fachlichen Schwerpunkt KI im Saarland ansiedeln. „Die bereits begonnene Arbeit, Kooperationen mit nationalen und internationalen Partnern zu schließen, werden wir weiter forcieren“, betont Schönbohm.

Informationssicherheit auch im KI-Bereich wesentliche Voraussetzung für Erfolg neuer Technologien und Anwendungen

Informationssicherheit sei auch im KI-Bereich eine wesentliche Voraussetzung für den Erfolg neuer Technologien und Anwendungen. Das BSI leiste Grundlagenforschung und entwickele bedarfsorientierte und praxisnahe Anforderungen, Prüfkriterien und -methoden, „um den Einsatz von KI zum Wohle der Allgemeinheit sicher zu gestalten“.
Bereits im November 2020 sei das BSI im Rahmen der vom Land Nordrhein-Westfalen geförderten Kompetenzplattform „KI.NRW“ eine strategische Kooperation mit Fraunhofer IAIS eingegangen, um die Entwicklung einer KI-Zertifizierung „Made in Germany“ voranzubringen. Ziel dieser Zusammenarbeit sei es, Prüfverfahren für die Zertifizierung von KI-Systemen zu entwickeln, welche als Basis für technische Standards und Normen dienen könnten. Bei der Weiterentwicklung der Prüfverfahren sollten Praxistauglichkeit und Marktfähigkeit in enger Abstimmung mit der Wirtschaft weiter verbessert werden.

Weitere Informationen zum Thema:

Bundesamt für Sicherheit in der Informationstechnik
Künstliche Intelligenz – wir bringen Ihnen die Technologie näher

datensicherheit.de, 19.01.2021
Neuer BSI-Standard 200-4 mit zahlreichen Neuerungen

datensicherheit.de, 26.09.2018
eco: Künstliche Intelligenz „Made in Germany“ braucht Leitlinien / KI muss zur Kernkompetenz der deutschen Wirtschaft werden

datensicherheit.de, 06.02.2018
DsiN fordert Verbraucher über Künstliche Intelligenz im Alltag aufzuklären / Stellungnahme von Deutschland sicher im Netz zum „Safer Internet Day 2018“