Wie verändert KI die Echtzeitüberwachung unserer Privatsphäre und Sicherheit?

Wie verändert KI die Echtzeitüberwachung unserer Privatsphäre und Sicherheit?

Künstliche Intelligenz (KI) gewinnt in der Videoüberwachung in Europa zunehmend an Bedeutung. KI-Systeme werden in Überwachungskameras integriert, um Objekte, Personen oder Aktivitäten automatisch zu identifizieren und zu verfolgen.

Diese Technologien nutzen maschinelles Lernen und Algorithmen, die auf umfangreichen Datensätzen basieren. Anwendungsbeispiele umfassen die Erkennung von Objekten, Personen und Tieren in Videobildern, Gesichtserkennung zur Abgleichung mit Datenbanken, Analyse ungewöhnlicher oder verdächtiger Verhaltensweisen und die Überwachung des Verkehrsflusses zur frühzeitigen Erkennung von Staus und Unfällen.

Diese Systeme arbeiten weitgehend automatisiert und können Sicherheitspersonal durch das Herausfiltern relevanter Ereignisse unterstützen. Obwohl sie Menschen in der Überwachung noch nicht vollständig ersetzen, sind die regulativen Massnahmen in der EU durch das neue KI-Gesetz streng, insbesondere bei Hochrisikoanwendungen wie der biometrischen Massenüberwachung, um die Grundrechte der Bürger zu schützen.

Londoner U-Bahn testet automatisierte Gefahrenerkennung

Der Einsatz KI-basierter Überwachungstechnologien bringt neben Chancen auch Risiken mit sich. Zentral ist dabei die Frage, wie wir als Gesellschaft die Vorteile für die öffentliche Sicherheit gegen das Recht des Einzelnen auf Privatsphäre abwägen.

Denn der Einsatz künstlicher Intelligenz zur Videoüberwachung im öffentlichen Raum wirft viele Fragen auf. Ein aktuelles Beispiel liefert die Londoner U-Bahn, wo von Oktober 2022 bis September 2023 an der Station Willesden Green eine KI-Software getestet wurde, die potenziell gefährliche Situationen in Echtzeit erkennen und melden sollte.

Die Londoner Verkehrsbetriebe (TfL) setzten 11 KI-Algorithmen ein, um Live-Videoaufnahmen der Überwachungskameras zu analysieren. Ziel war es, Vorfälle wie aggressives Verhalten, Waffenbesitz, Personen auf den Gleisen oder Fahrgeldvermeidung automatisch zu identifizieren und das Stationspersonal sofort zu alarmieren.

Über 44'000 Warnmeldungen wurden während des einjährigen Tests generiert, davon gingen 19'000 in Echtzeit an die Mitarbeiter:Innen. Es ist das erste Mal, dass TfL eine solche Kombination aus KI und Live-Bildern nutzte, um Gefahren ohne menschliche Überwachung der Videofeeds zu erkennen.

Funktionsweise der Überwachungs-KI

Die eingesetzte Software nutzt hochentwickelte Computer Vision Algorithmen und Machine Learning Modelle. Sie erkennt Personen und Objekte in den Videoframes, verfolgt deren Bewegungen und analysiert ihr Verhalten. Vortrainierte KI-Modelle identifizieren dabei Muster und Anomalien, die auf potenzielle Bedrohungen hindeuten.

Zusätzlich kommen regelbasierte Algorithmen zum Einsatz, die Alarme auslösen, wenn definierte Kriterien erfüllt sind - z.B. wenn jemand einen Sperrbereich betritt. Die Software soll durch kontinuierliche Verarbeitung neuer Daten selbstständig dazulernen und ihre Erkennungsleistung verbessern.

Proof-of-Concept für den Nahverkehr

TfL sieht in dem Test einen erfolgreichen Machbarkeitsnachweis für den Einsatz KI-gestützter Videoüberwachung zur Kriminalitätsbekämpfung und Gefahrenerkennung im ÖPNV. Die Erkenntnisse sollen genutzt werden, um solche Systeme weiterzuentwickeln und möglicherweise auf andere Stationen auszuweiten.

Befürworter argumentieren, dass automatisierte Überwachung die öffentliche Sicherheit erhöhen und Sicherheitskräfte entlasten kann. Kritiker sehen darin jedoch eine bedenkliche Entwicklung hin zum Überwachungsstaat und einen Eingriff in Grundrechte.

Der Test in der Londoner U-Bahn mag ein kleiner Schritt sein, ruft uns aber eindringlich die Notwendigkeit einer breiteren Auseinandersetzung mit dem Thema Überwachung und KI ins Bewusstsein.

Ethische Fragen und rechtlicher Handlungsbedarf

Am 13. März wurde der EU AI Act lanciert. Nun scheint der Einsatz der KI-Videoüberwachung in der Londoner U-Bahn gegen einige Bestimmungen des neuen EU AI Acts (Künstliche Intelligenz Gesetz) zu verstossen.

Ich bin kein Anwalt und dieser Artikel soll keine rechtliche Einschätzung darstellen. Was ich verstehe, so deuten die Informationen darauf hin, dass die derzeitige KI-Videoüberwachung in der Londoner U-Bahn gegen zentrale Prinzipien des neuen EU AI Acts verstösst. Erhebliche Anpassungen wären nötig, um den gesetzlichen Anforderungen zu entsprechen, sofern einige Praktiken nicht gänzlich verboten werden.

Das EU KI-Gesetz teilt KI-Systeme ja in verschiedene Risikokategorien ein. Die Videoüberwachung mit KI zur Erkennung von Straftaten, Waffen und aggressivem Verhalten in der Londoner U-Bahn "würde höchstwahrscheinlich" als "Hochrisiko-KI-System" eingestuft werden.

Für solche Hochrisiko-KI-Systeme gelten strenge Anforderungen und Auflagen, wie:

  • Risikomanagement und Risikominderung während des gesamten Lebenszyklus
  • Hohe Qualitätsstandards für Trainingsdaten
  • Robustheit, Cybersicherheit und Genauigkeit
  • Menschliche Aufsicht
  • Spezifische Transparenzpflichten

Einige der in London getesteten KI-Anwendungen könnten sogar gänzlich verboten sein unter dem AI Act, wie z.B.:

  • Biometrische Kategorisierung von Menschen (Erkennung von Emotionen/Körpersprache)
  • Massenüberwachung von öffentlichen Räumen

Die neue EU-KI-Verordnung macht aber eigentlich auch den Weg frei für den Einsatz biometrischer Gesichtserkennung und Fernidentifizierung im öffentlichen Raum in der gesamten EU zum Thema der Sicherheit. Dies stösst auf Kritik von Datenschützern und Bürgerrechtlern, die Massenüberwachung und Verletzungen der Privatsphäre befürchten.

Was vielen klar ist: Die Massenüberwachung und biometrische Verarbeitung von Videodaten stellt einen erheblichen Eingriff in die Privatsphäre und Grundrechte der Bürger dar. Der AI Act zielt darauf ab, KI-Systeme mit den Werten und Rechten der EU in Einklang zu bringen.

Andere Länder, andere Praktiken wenn es um KI Überwachung geht

Basierend auf eigenen Recherchen wird KI in verschiedenen Ländern und Regionen Europas zunehmend für Überwachungszwecke eingesetzt. Hier sind einige wichtige Punkte dazu:

Einige EU-Staaten wie Deutschland, Frankreich und Italien wollen biometrische Überwachung im öffentlichen Raum erlauben, während andere wie die Niederlande und Österreich restriktiver sind.

In der Schweiz warnen Datenschützer ebenfalls vor einer möglichen Ausweitung der Überwachung durch KI-Systeme im öffentlichen Raum, etwa durch Gemeinden.

Es gibt sogar Vorwürfe, dass der Schweizer Nachrichtendienst eine massive digitale Überwachung der Bevölkerung durch Kabelaufklärung und KI-Systeme betreibt. Der Bund bestreitet einen Generalverdacht.

Immerhin: Die EU plant eine neue Behörde zur Überwachung und Analyse der KI-Regulierung, um mit neuen Herausforderungen Schritt zu halten.

Insgesamt zeigt sich, dass der Einsatz von KI für Überwachungszwecke in Europa im Spannungsfeld zwischen Sicherheitsinteressen und Persönlichkeitsrechten stark umstritten ist und wohl auch bleibt.


Es gibt aber auch Good News!

Lasst uns neben all den schlechten News aber nicht vergessen: es gibt auch AI GOOD NEWS!

Diese kannst Du hier abonnieren.

Willst du mehr wissen? Sehr gerne komme ich auch bei Dir, bei deiner Firma, deiner ERFA Gruppe oder deinem Verband vorbei und helfe mit einem Workshop oder Input Referat.

Lass uns gerne mal unverbindlich sprechen. Also wenn ich helfen kann, wende dich gerne an mich #fragRoger


Disclaimer: dieser Artikel wurde mit Perplexity und Claude3 recherchiert und mit Mistral Large sowie mit Deepl Write verbessert und am Ende mit Claude3 Opus zusammen gefasst. Das Bild stammt von Ideogram und representiert das Thema. Ich erhebe keinen Anspruch auf Vollständigkeit oder kommerzielle Interessen. Diese Informationen sind rein edukativ.


Quellen:

[...] https://www.ll.mit.edu/r-d/homeland-protection/artificial-intelligence-software-architectures-and-algorithms

[...] https://veesion.io/en/cctv-enhanced-with-algorithms-and-ai-how-can-artificial-intelligence-be-used-to-enhance-security-in-retail-stores/

[...] https://www.securityinfowatch.com/video-surveillance/video-management-software-vms/article/53081272/how-ai-is-transforming-the-video-surveillance-sector

[...] https://www.ncbi.nlm.nih.gov/pmc/articles/PMC10026198/

[...] https://theweek.com/tech/workplace-ai-surveillance

[...] https://www.sciencedirect.com/science/article/pii/S0160791X22002780

[...] https://www.wired.com/story/london-underground-ai-surveillance-documents/

[...] https://www.heise.de/news/KI-Videoueberwachung-in-Londoner-U-Bahn-zur-Erkennung-von-Straftaten-in-Echtzeit-9623370.html

[...] https://digital-strategy.ec.europa.eu/de/policies/regulatory-framework-ai

[...] https://www.forbes.at/artikel/immer-im-visier.html

[...] https://artificialintelligenceact.eu/de/

[...] https://www.europarl.europa.eu/news/de/press-room/20240308IPR19015/gesetz-uber-kunstliche-intelligenz-parlament-verabschiedet-wegweisende-regeln

[...] https://netzpolitik.org/2024/trotz-biometrischer-ueberwachung-eu-parlament-macht-weg-frei-fuer-ki-verordnung/

[...] https://netzpolitik.org/2024/offener-brief-zu-ki-verordnung-bundesregierung-soll-biometrie-ueberwachung-zumindest-in-deutschland-verbieten/

[...] https://www.br.de/nachrichten/netzwelt/kritiker-befuerchten-mehr-ueberwachung-durch-ki-gesetz,TytqvJV

[...] https://www.swissinfo.ch/ger/wissen-technik/wird-schweiz-bei-massenueberwachung-auf-distanz-zur-eu-gehen/46770204

[...] https://www.ki-strategie-deutschland.de/home.html

[...] https://digital-strategy.ec.europa.eu/de/policies/regulatory-framework-ai

[...] https://www.srf.ch/news/schweiz/ki-und-kontrolle-datenschuetzer-warnt-vor-ueberwachung-mit-kuenstlicher-intelligenz

[...] https://www.plattform-lernende-systeme.de/ki-monitoring.html

[...] https://www.europarl.europa.eu/topics/de/article/20230601STO93804/ki-gesetz-erste-regulierung-der-kunstlichen-intelligenz

[...] https://www.telsec-ess.ch/ki-in-der-modernen-ueberwachung/

[...] https://www.tagesschau.de/ausland/europa/eu-ki-gesetz-100.html

[...] https://www.tagesschau.de/ausland/europa/eu-kuenstliche-intelligenz-regulierung-104.html

[...] https://www.watson.ch/digital/so-ueberwacht-uns-der-staat/236253735-kabelaufklaerung-republik-enthuellt-digitale-ueberwachung-des-bundes

[...] https://www.heise.de/news/KI-Verordnung-EU-Staaten-fuer-biometrische-Ueberwachung-im-oeffentlichen-Raum-7368512.html

[...] https://www.edoeb.admin.ch/edoeb/de/home/datenschutz/arbeit_wirtschaft/datenbearbeitung-arbeitgeber/technisch-mittel-ueberwachung-arbeitsplatz.html

Read more

Werden Frauen in KI-generierten Bildern stärker diskriminiert?

Werden Frauen in KI-generierten Bildern stärker diskriminiert?

Bilder sind ein einflussreiches Medium, das Botschaften vermittelt und Eindrücke formt. Doch insbesondere im Internet sind viele Darstellungen von Geschlechterstereotypen geprägt, wie aktuelle Forschungsergebnisse aufzeigen. Diese tragen signifikant zur Fortführung von Ungleichheiten bei. Eine jüngste Studie von Forschern der University of California, Berkeley, veröffentlicht in der angesehenen Zeitschrift Nature, zeigt

By Roger Basler de Roca
Stellen KI-Würmer und Schläferagenten eine neue Gefahr für generative KI dar?

Stellen KI-Würmer und Schläferagenten eine neue Gefahr für generative KI dar?

KI-Würmer repräsentieren eine neuartige Bedrohung für Systeme generativer Künstlicher Intelligenz, mit dem Potenzial, Daten zu entwenden oder Malware zu verbreiten. Auch wenn diese noch nicht in der freien Natur beobachtet wurden, sind sich Sicherheitsexperten einig, dass sie ein ernsthaftes Risiko für die Systemsicherheit darstellen könnten. Zusätzlich existieren die sogenannten KI-Schläferagenten,

By Roger Basler de Roca