Autonome Fahrzeuge: Höhere Sicherheit von der KI als von menschlichen Fahrern gefordert

Der TÜV-Verband e.V. zu seiner Verbraucherstudie 2021 über Sicherheit und KI

[datensicherheit.de, 15.06.2022] Nach eigenen Angaben hat eine aktuelle Umfrage des TÜV-Verband e.V. ergeben, dass drei von vier Bundesbürgern für Autonome Fahrzeuge höhere Sicherheit als von menschlichen Fahrern fordern. Einheitliche Standards und unabhängige Prüfungen seien daher notwendig – zudem bräuchten Prüforganisationen Zugang zu sicherheitskritischen Fahrzeugdaten. Grundlage der Studienergebnisse ist laut TÜV-Verband eine repräsentative Umfrage des Marktforschungsunternehmens Statista im Auftrag des TÜV-Verbands unter 1.000 Personen ab 16 Jahren in Deutschland im Sommer 2021.

Abbildung: TÜV-Verband e.V.

Verbraucherstudie 2021 – Sicherheit und Künstliche Intelligenz

KI-System könnte Umwelt schon bei geringen Abweichungen nicht mehr korrekt wahrnehmen

Ein Aufkleber auf einem Stoppschild – beim Autofahren lasse sich davon normalerweise niemand aus dem Konzept bringen. Doch übernimmt sogenannte Künstliche Intelligenz (KI) das Steuer, könnten solche Kleinigkeiten zur Gefahr werden: „Beim automatisierten Fahren besteht die Möglichkeit, dass das System die Umwelt schon bei geringen Abweichungen nicht mehr korrekt wahrnimmt“, warnt Richard Goebelt, Bereichsleiter „Fahrzeug und Mobilität“ beim TÜV-Verband. Dann drohten Unfälle.

Besonders schwerwiegend könnten die Folgen sein, wenn andere Verkehrsteilnehmer nicht erkannt werden. Anders als bei menschlichen Fahrern – in den allermeisten Fällen für verkehrsgefährdendes Verhalten verantwortlich – seien die Ansprüche an die Technik sehr hoch – „so das Ergebnis einer repräsentativen Umfrage des TÜV-Verbands unter 1.000 Personen in Deutschland“.

46% fordern, dass KI-Steuerung eines Fahrzeugs absolut fehlerfrei sein muss

46 Prozent der Bundesbürger seien der Ansicht, dass eine KI für die Steuerung eines Fahrzeugs „absolut fehlerfrei“ arbeiten müsse. Weitere 27 Prozent verlangten zumindest eine höhere Sicherheit als beim Menschen. „Der Anspruch ist, dass menschliche Fehler durch Künstliche Intelligenz verhindert werden“, so Goebelt.

Daher sollten Funktion und Wirkung sicherheitskritischer KI-Systeme während der gesamten Lebensdauer eines Fahrzeugs von unabhängigen Stellen geprüft werden. In der Umfrage befürworteten dies 78 Prozent der Befragten. Goebelt: „Auch KI-Systeme und die zugehörige Sensorik unterliegen dem Verschleiß oder können nach Unfällen fehlerhaft instandgesetzt werden und müssen daher regelmäßig überprüft werden.“

KI als Basistechnologie für selbstfahrende Autos

Die Erhebung des TÜV-Verbands belegt demnach ein beträchtliches Interesse an Autonomer Mobilität: 39 Prozent der Befragten könnten sich vorstellen, in einem vollautomatisierten Bus oder Pkw mitzufahren. 33 Prozent lehnten dies ab, 29 Prozent seien noch unentschieden. KI sei die Basistechnologie für selbstfahrende Autos. KI-Systeme seien für die Verarbeitung der ihnen zur Verfügung stehenden Daten zuständig – beispielsweise über den Straßenverlauf, über Schilder, Bewegungen und andere Verkehrsteilnehmer.

„Menschen benötigen die Gewissheit, dass die KI-Systeme sicher genug sind, wenn sie in ein automatisiertes oder fahrerloses Fahrzeug einsteigen“, betont Goebelt. Entscheidend dafür seien international gültige Normen und Standards sowie entsprechende Testbedingungen und harmonisierte Datengrundlagen für das Anlernen der Systeme.

Deutschland als Pioniermarkt für Autonomes Fahren mittels KI

Mit dem Inkrafttreten des sogenannten Gesetzes zum Autonomen Fahren habe die Bundesrepublik im Juli 2021 international eine Führungsrolle übernommen. Einer Verordnung, welche die Straßenzulassung und die Betriebsbereiche detailliert regele, habe der Bundesrat im Mai 2022 zugestimmt. „Deutschland wird zu einem der Pioniermärkte für vollautomatisiertes Fahren“, ist Goebelt überzeugt.

Allerdings ziele die aktuelle gesetzliche Regelung zunächst auf die Zulassung von automatisierten Funktionen etwa im Shuttle-Verkehr in genehmigten Betriebsbereichen im Straßenverkehr. „Autonome Mobilität, bei der das Fahrzeug seinen Weg völlig frei sucht, ist das jedoch nicht“, erläutert Goebelt. Das Gesetz umfasse zudem Regelungen für „Dual Mode Fahrzeuge“. Ein Beispiel dafür sei das „Automated Valet Parking“, bei dem Pkw‘ ihren Stellplatz in einem Parkhaus ganz ohne Fahrer per Smartphone-App finden könnten. Es sei damit die weltweit erste behördlich für den Alltagsbetrieb zugelassene vollautomatisierte und fahrerlose Parkfunktion nach „SAE Level 4“.

TÜV-Verband moniert Mangel an global harmonisierten Standards und Normen zur Prüfung der KI-Anteile

Handlungsbedarf sieht der TÜV-Verband nach eigenen Angaben bei Standards und Methoden für die Prüfung von KI-basierten Autonomen Fahrzeugen: „Wir sehen einen Mangel an global harmonisierten Standards und Normen zur Prüfung der KI-Anteile und der verwendeten Datenbasis“, so Goebelt. Vorschläge für die Entwicklung dieser Standards treibe der Verband mit seinen Mitgliedern unter anderem in der International Alliance for Mobility Testing and Standardization (IAMTS) voran.

„Es muss technische und digitale Verfahren dafür geben, mögliche Fehlfunktionen zu entdecken, bevor die Fahrzeuge auf den Markt kommen“, fordert Goebelt. Sicherheit und Vertrauen seien beim Autonomen Fahren eine globale Herausforderung. Wichtig sei zudem, Prüfvorgaben für die Hauptuntersuchung bei Fahrzeugen mit entsprechenden Automatisierungsfunktionen zu erlassen. Diese fehlten für bereits heute im Verkehr befindliche Fahrerassistenzsysteme.

Datenschutz und Cybersecurity elementar, um Vorteile der KI-Technik nicht zu untergraben

„Zudem können Software-Updates und Upgrades ,over the Air‘ sicherheitsrelevante Funktionen der Autos verändern“, erklärt Goebelt. Bei nachträglichen Veränderungen eines Kraftfahrzeugs stelle sich die Frage, ob die ursprüngliche Typgenehmigung noch gültig oder ein Nachtrag erforderlich ist. Der TÜV-Verband unterstütze den Gesetzgeber bereits dabei, Vorgaben für die Begutachtung und Überprüfung zu entwickeln.

In diesem Zusammenhang habe der TÜV-Verband mit dem „TrustCenter“ ein Modell vorgestellt, das einen sicheren und datenschutzkonformen Zugang zu den hierfür relevanten Daten des Fahrzeugs ermögliche. „Wir brauchen den Zugriff auf die Daten, um Fahrzeuge unabhängig überprüfen und bewerten zu können“, unterstreicht Goebelt und führt abschließend aus: „Datenschutz und Cybersecurity sind elementar, damit die Vorteile, die die Technik bringen soll, nicht untergraben werden.“

Weitere Informationen zum Thema:

TÜV VERBAND, 2021
Sicherheit und Künstliche Intelligenz / Erwartungen, Hoffnungen, Risiken