Anfang September wurden zwei Teenager in einem Waymo-Robotaxi festgenommen, nachdem das Unternehmen eine Schusswaffe im Fahrzeug gemeldet und die Fahrt gestoppt hatte. Laut der Los Angeles Times entdeckten die Behörden anschließend eine geladene, nicht registrierte AR-ähnliche Waffe, auch als „Ghost Gun“ bekannt. Der Vorfall wirft grundlegende Fragen bezüglich der Privatsphäre in autonomen Fahrzeugen auf, darunter, welche Daten aufgezeichnet werden, wie das Material verwendet wird und welches Maß an Datenschutz Fahrgäste erwarten können.
Waymos Überwachung und frühere Anfragen
Die mit Kameras ausgestatteten Fahrzeuge von Waymo standen bereits zuvor im Fokus der Debatte um Datenschutz und Überwachung. Laut Bloomberg haben Strafverfolgungsbehörden in der Vergangenheit mehrfach richterliche Beschlüsse erwirkt, um auf von Waymo-Fahrzeugen aufgezeichnetes Material zuzugreifen. So nutzte das LAPD im vergangenen Jahr Aufnahmen eines Waymo-Fahrzeugs zur Aufklärung einer Fahrerflucht. Während Anti-ICE-Protesten in Los Angeles wurden fünf Waymo-Fahrzeuge beschädigt und in Brand gesetzt, auch aufgrund von Befürchtungen, die Fahrzeuge könnten Bilder von Demonstranten aufzeichnen, die zur Identifizierung oder Verhaftung genutzt werden könnten. Waymo macht keine öffentlichen Angaben darüber, wie viele Anfragen von Strafverfolgungsbehörden es erhält oder wie oft es diesen nachkommt.
Dieser jüngste Fall geht jedoch über die bloße Bereitstellung von Beweismaterial hinaus: Waymo erkannte eigenständig einen Verstoß gegen seine Nutzungsbedingungen – die Anwesenheit einer Schusswaffe – und initiierte daraufhin die Reaktion der Polizei.
Automatisierte Erkennung und menschliche Rolle
Julia Ilina, eine Sprecherin von Waymo, erklärte gegenüber The Verge, dass das Unternehmen interne Kameras einsetzt, um seine Nutzungsbedingungen durchzusetzen, wozu auch die Erkennung verbotener Gegenstände und Verhaltensweisen gehört. Sie sagte, automatisierte Technologie helfe den Waymo-Teams, potenzielle Verstöße wie das Vorhandensein von Schusswaffen im Fahrzeug zu identifizieren. „Wenn Waymo eine Schusswaffe im Fahrzeug erkennt, können wir die örtlichen Strafverfolgungsbehörden kontaktieren“, fügte sie hinzu.
Waymo hat jedoch offengelassen, wie genau sein automatisiertes System eine Schusswaffe identifiziert, welche Konfidenzschwelle erreicht werden muss, bevor ein Alarm ausgelöst wird, welche Rolle menschliche Mitarbeiter zwischen einem automatisierten Alarm und einem Anruf bei der Polizei spielen oder welche anderen Verstöße gegen die Nutzungsbedingungen eine Polizeireaktion nach sich ziehen könnten. Bob Somers, ehemaliger Ingenieur bei einem Unternehmen für autonome Fahrzeuge und technischer Berater, geht davon aus, dass das System eine Reihe potenziell gefährlicher Waffen und Verhaltensweisen suchen würde. Es könnte Objekte, die einer Waffe ähneln, für eine weitere Überprüfung kennzeichnen, wobei ein Fernoperator hinzugezogen würde.
Phil Koopman, emeritierter Professor an der Carnegie Mellon University und Experte für die Sicherheit autonomer Fahrzeuge, bestätigt, dass Computer-Vision-Systeme darauf trainiert werden können, Objekte und potenziell gefährliche Situationen zu erkennen. Er weist jedoch darauf hin, dass solche Systeme „niemals hundertprozentig genau“ sind.
Kontext und Vertrauen in Robotaxis
Die Frage der menschlichen Überprüfung ist entscheidend. Ein menschlicher Taxifahrer verfügt über den Kontext der gesamten Fahrt, hört Gespräche und kann die Situation einschätzen. Ein Fernoperator, der nur einen markierten Moment überprüft, könnte diesen Kontext nicht haben, da Waymo-Innenmikrofone in der Regel nur bei Anrufen beim Kundendienst oder bei expliziter Aktivierung durch den Fahrgast aktiv sind. Waymo beschäftigt etwa 70 „Remote Assistance Agents“ in den USA und auf den Philippinen, die den Fahrzeugen Unterstützung bieten, diese aber nicht direkt steuern. Ob diese Agenten auch für die Überprüfung potenzieller Verstöße zuständig sind, ist unklar.
Koopman betont die Wichtigkeit, dass Waymo bei der Alarmierung der Polizei richtig liegt. Ein Fehlalarm könnte nicht nur das Vertrauen der Fahrgäste in Robotaxis untergraben, sondern diese auch bei einer Polizeibegegnung gefährden. Die Abwesenheit eines Fahrers suggeriert eine Privatsphäre, die in Realität aufgrund der Kameras nicht existiert. Dies zeigt sich auch darin, dass Fahrgäste in Cruise-Robotaxis sexuelle Handlungen vornahmen, obwohl Kameras vorhanden waren.
Thema: Technologie / KI allgemein. Quelle/Inspiration: The Verge.