Am 29. November stimmte der Aufsichtsrat von San Francisco dafür, dass das San Francisco Police Department (SFPD) bewaffnete Roboter für tödliche Gewalt einsetzen darf, einen Monat nachdem ein öffentlicher Aufschrei die Polizei im nahe gelegenen Oakland dazu veranlasst hatte, einen ähnlichen Antrag zurückzuziehen. Eine Woche später stimmte der Vorstand erneut ab – diesmal, um die Erlaubnis für tödliche Gewalt ausdrücklich zu verweigern und den ursprünglichen Gesetzentwurf an den Ausschuss zurückzusenden. Viele Fragen zu diesem ursprünglichen Gesetzentwurf bleiben unbeantwortet, aber eine offensichtliche ist: Wenn wir zivilen Behörden erlauben, Roboter zu bewaffnen, wie schützen wir uns dann vor Missbrauch – durch die Polizei selbst, ja, aber auch durch unbefugte Benutzer?

Die Sicherheitsforscher Cesar Cerrudo und Lucas Apa haben sich bereits 2017 als Berater von IOActive mit diesen Fragen befasst. Die Probleme sind laut Cerrudo, der jetzt ein unabhängiger Cybersicherheitsforscher ist, auch heute noch weit verbreitet.

„Wie jede Technologie könnten Roboter gehackt werden; es könnte einfach oder extrem schwierig sein, aber es gibt Möglichkeiten“, sagt er zu Dark Reading. „Um Hacking-Möglichkeiten zu reduzieren, muss die Robotertechnologie von Anfang an unter Berücksichtigung der Sicherheit entwickelt und dann die gesamte Robotertechnologie ordnungsgemäß geprüft werden, um alle potenziellen Schwachstellen zu identifizieren und zu beseitigen.“  

Zu den Kategorien der Schwachstellen, die Cerrudo und Apa entdeckten, gehörten unsichere Kommunikation, Authentifizierungsprobleme, fehlende Autorisierung, schwache Kryptografie, Datenschutzbedenken, unsichere Standardkonfigurationen und leicht zu untersuchende Open-Source-Frameworks.

Obwohl die Forscher keine Militär- oder Polizeiroboter getestet haben, sind solche Maschinen wahrscheinlich ähnlich anfällig. „Diese Roboter gehören zu den gefährlichsten, wenn sie gehackt werden, da sie oft dazu verwendet werden, gefährliche Geräte und Materialien wie Waffen und Sprengstoffe zu manipulieren“, schrieben sie das Papier.

Ein Beispiel für das Ausmaß der Gefahr ist ein Ausfall einer automatischen Flugabwehrkanone im Jahr 2007 in Südafrika tötete neun Soldaten und ein Dutzend weitere in einer Zeitspanne von 0.8 Sekunden verwundet. Stellen Sie sich nun vor, was passieren würde, wenn jemand einen bewaffneten Polizeiroboter erfolgreich zurück zu den Beamten oder zur Öffentlichkeit lenken würde.

Die Möglichkeit, dass Roboter gehackt werden können, ist nicht so weit hergeholt. Letztes Jahr Hacktivisten Zugriff auf ein Netzwerk von 150,000 Überwachungskameras, einschließlich dieser innerhalb von Gefängnissen, indem Sie die erhalten Super-Admin-Konto Information. Hacker haben erfolgreich die Kontrolle über einen Jeep Cherokee übernommen auf einer Autobahn fahren und Ergreifen der Kontrolle über andere Autos über a Schlüsselanhänger hacken das ist Mainstream geworden. Selbst ganze Gebäude wurden gehackt.

Die Erlaubnis zum Töten zurücknehmen

„Ich habe einfach nicht das Gefühl, dass es uns sicherer macht, Roboter zu bewaffnen und ihnen die Lizenz zum Töten zu geben“, sagte Supervisor Eric Mar am 6. Dezember, bevor er dafür stimmte, den ursprünglichen Gesetzentwurf an den Ausschuss zurückzusenden.

Am 29. November stimmte der Vorstand mit 8 zu 3 Stimmen für die Annahme des Gesetzentwurfs, der tödliche Gewalt erlaubt; Am 6. Dezember wurde mit 8:3 für die Aufhebung abgestimmt. „Es war ein seltener Schritt“, der San Francisco Chronicle berichtet. „Die zweiten Abstimmungen des Vorstands über lokale Gesetze sind normalerweise Formalitäten, die nichts ändern.“

Was die Dinge in San Francisco verändert, ist öffentlicher Protest. „Wir haben alle von vielen Wählern gehört … von der Idee, dass wir als Stadt Roboter tödliche Gewalt ausüben lassen werden“, sagte Supervisor Dean Preston bei der Sitzung am 6. Dezember.

Drei der Vorgesetzten – Shamann Walton (auch Vorstandsvorsitzender), Hillary Ronen und Preston – nahmen an einem solchen Protest teil am Montag im Rathaus, von den Quäkern organisiert, wo eine Menschenmenge Plakate mit der Aufschrift „keine Killerroboter“ hochhielt. 

„Wir werden dies gesetzgeberisch im Vorstand bekämpfen, wir werden dies auf den Straßen und in der öffentlichen Meinung bekämpfen, und wenn nötig, werden wir dies bei der Abstimmung bekämpfen“, sagte Preston. Diese letzte Drohung war vielleicht die überzeugendste; Stadtwähler haben keine Angst, direkt durch Wahlinitiativen zu regieren.

Die SFPD hat zwischen 2010 und 2017 der Abteilung etwa ein Dutzend Roboter angeschafft sagte in einer Erklärung. 

„Die Roboter werden ferngesteuert und bedient von SFPD-Beamten, die eine spezielle Ausbildung durchlaufen haben“, heißt es in der Erklärung. „Unsere Roboter werden hauptsächlich in EOD-/Bombensituationen, Vorfällen mit gefährlichen Materialien und anderen Vorfällen eingesetzt, bei denen Beamte möglicherweise einen Sicherheitsabstand einhalten müssen, bevor sie eine Szene sichern können.“

Die SFPD-Erklärung fuhr fort: „Unter extremen Umständen könnten Roboter verwendet werden, um eine Sprengladung abzugeben, um eine Struktur zu durchbrechen, in der sich ein gewalttätiges oder bewaffnetes Subjekt befindet. Die Anklage würde verwendet, um ein gewalttätiges, bewaffnetes oder gefährliches Subjekt, bei dem die Gefahr des Todes besteht, außer Gefecht zu setzen oder zu desorientieren“, obwohl eine solche Verwendung „möglicherweise Verletzungen verursachen oder tödlich sein könnte“.

Während die Abstimmung vom 6. Dezember ein Rückschlag für die SFPD, den San Francisco Standard war wies darauf hin, dass das Thema nicht unbedingt abgeschlossen ist. Das Regelkomitee kann sich vielleicht lange genug damit befassen, dass die öffentliche Aufmerksamkeit nachlässt, oder es könnte eine Sprache finden, die es einer Mehrheit der Vorgesetzten ermöglicht, ihre Unterstützung zu erwidern. Aber vorerst sind Mordbots ausdrücklich verboten, und es scheint entschieden.

Nicht die ersten Robo-Cops

Unbemannte Luftfahrzeuge (UAV) sind seit einem halben Jahrhundert Teil militärischer Taktiken, und es gibt mehrere Beispiele für Polizeidienststellen, die ferngesteuerte Drohnen einsetzen. 2015 North Dakota legalisierte Rüstungsdrohnen mit weniger als tödlichen Waffen wie Tasern. Natürlich, Taser können tödlich sein, und Drohnen sind berüchtigt anfällig für Hacking.

Ein weiterer prominenter polizeilicher Einsatz unbemannter Robotik war das gescheiterte Digidog-Experiment der NYPD in den Jahren 2020-2021, bei dem ferngesteuerte Roboter von Boston Dynamics ins Land geschickt wurden gefährliche Situationen, wie z. B. Pattsituationen und Geiselsituationen, um das Risiko für das Personal zu minimieren. Die öffentliche Reaktion auf die spinnenartigen, sich schnell bewegenden, treppensteigenden Roboter war also negativ, dass die Abteilung beendete den Vertrag vorzeitig.

Befürworter unbemannter mobiler Geräte stützen die Mission der Technologie normalerweise darauf, Leben zu retten, sei es von Geiseln oder der Polizei. Tatsächlich behauptete die Erklärung der SFPD: „Auf diese Weise ausgestattete Roboter würden nur dazu verwendet, unschuldige Leben zu retten oder weitere Verluste zu verhindern.“ Wie sich das in der Realität auswirkt, haben wir bereits gesehen.

Polizeiroboter haben bereits getötet

Die amerikanische Polizei hat bereits einen Roboter eingesetzt, um tödliche Gewalt auszuüben. Dallas PD schickte 2016 einen mit Sprengstoff manipulierten Roboter, um Micah Johnson zu töten, und beendete eine Pattsituation, nachdem Johnson 12 Dallas-Beamte erschossen hatte. fünf töten. Eine große Jury räumte die Polizei auf jedes Fehlverhaltens bei diesem Vorfall, bei dem die Polizei den Trick benutzte, dem Schützen ein Telefon zu schicken, um den Roboter nahe genug zu bringen. Einige der Dutzend bestehenden Roboter der SFPD sind „auf Rädern“. Bombenräumroboter mit ausgestreckten Armen, ähnlich denen, die 2016 von Dallas-Beamten benutzt wurden“, so die Washington Post.

Nach dieser Gewaltanwendung in Dallas im Jahr 2016 hat die Rechtsprofessorin von UC Davis, Elizabeth E. Joh schrieb in der New York Times: „Und ein Roboter unterscheidet sich von einer Waffe darin, dass eine Waffe fehlzünden kann, aber nicht gehackt werden kann. Der Markt für Polizeiroboter entwickelt sich, aber wir als Gesellschaft – und dazu gehört auch die Polizei – sollten sich vor bewaffneten Polizeirobotern in Acht nehmen, die anfällig für die Übernahme durch Dritte sind. Erfahrungen mit der Sicherheit elektronischer Geräte wecken kein Vertrauen: Wenn Dritte Autos oder Spielzeugdrohnen hacken können, können sie sicherlich Polizeiroboter hacken.“

Cerrudos Einschätzung stimmt mit dieser Warnung überein. 

„Wenn ich diese Roboter einsetzen würde, würde ich sicherstellen, dass sie unter Berücksichtigung der Sicherheit gebaut und von Experten ordnungsgemäß auf Sicherheit geprüft wurden“, sagt er. „Wenn Sie dies nicht tun, setzen Sie die Roboter möglichen Cyberangriffen aus, die einen Roboter in eine gefährliche Waffe verwandeln könnten.“

• SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
• Platoblockkette. Web3-Metaverse-Intelligenz. Wissen verstärkt. Hier zugreifen.
• Quelle: https://www.darkreading.com/edge-articles/san-francisco-rolls-back-its-plan-for-killer-robots