Grün-Schwarz will in Baden-Württemberg als erstem Bundesland doppelte KI-Videoüberwachung ausrollen: Kameras, die Menschen auf verdächtiges Verhalten überprüfen und sie gleichzeitig mit Gesichtserkennung analysieren. In Mannheim und zwei weiteren Städten soll das Pilotprojekt starten.
Ich bin wirklich schockiert wie schnell das gerade geht. Es scheint mir, als wollte man “einmal das ganze Überwachungsprogramm”.
Man darf sich da keine Illusionen machen. Die Kameras werden grundsätzliche Probleme nicht lösen.
Wer jemandem etwas auf die Nuss geben will, der macht das weiterhin. Das haben die gewöhnlichen Kameras bisher auch nicht geschafft zu vermeiden.
Strafverfolgung ist das, worüber man hier höchstens reden könnte.
Aber auch da:
Bei Gesichtserkennungskameras gibt es “false positives” (Unschuldige Person als Täter erkannt) und “false negatives” (Schuldige Person nicht als Täter erkannt). Gibts zuviele false positives, kommt das nicht gut an. Gibts zu viele false negatives ist das System praktisch wirkungslos. Bin mal sehr gespannt auf die Balance dazwischen.
Und bei Verhaltenserkennung: Am Ende muss jeder sich beobachtet fühlen, weil eine Kamera ja theoretisch erkannt haben könnte, dass du eine Waffe aus dem Rucksack ziehst, obwohl es nur dein kleiner schwarzer Regenschirm war. Und wie eingangs erwähnt, die Polizei kann hier höchstens schneller den Rettungswagen rufen, wenn jemand bereits am Boden liegt. Strafverfolgung gibts dann, wenn der Täter nicht schnell genug das Weite sucht.
Am Ende läufts für mich klar auf Chilling Effects hinaus. Das sollte gefürchtet werden…
False positives kommen nicht nur schlecht an, sie strapazieren das eh schon personell unterbesetzte und von ausufernder Bürokratie gelähmte System noch mehr und machen es ineffektiver, weil das Personal, das in der Zeit tatsächliche Verbrechen verfolgen könnte, damit beschäftigt ist, von einem Halluzinationsautomaten herbeifabulierte Verbrechen zu untersuchen. Außerdem entsteht dadurch eine Alarmmüdigkeit, und die Leute, die die Meldungen des automatischen Systems bearbeiten, werden sie zunehmend ignorieren, weil sie annehmen, dass es sich eh nur wieder um einen Fehlalarm handelt. Dadurch werden auch die tatsächlichen Verbrechen, die das System zufällig erkennt, weniger verfolgt.
Das ist also auf allen Ebenen maximal kontraproduktiv. Der Einzige, der davon profitiert, ist der Hersteller des Systems und die Politiker, die von ihm “Spenden” oder hochbezahlte Pöstchen im Aufsichtsrat kriegen.