Smart City: Überwachung und Verhaltensökonomie, die Fälle von Venedig und Ivrea

Autor: Matte | Serve una legge | Veröffentlichung: 23/04/2022 | Übersetzt von: Simon Satoshi 12.07.22 - 744733 | Link: Original Smart city: sorveglianza ed economia comportamentale, i casi di Venezia e Ivrea

Heute sprechen wir über zwei unterschiedliche Fälle, die jedoch durch den gleichen roten Faden verbunden sind: Smart Cities und den plötzlichen Boom allgegenwärtiger Systeme zur Überwachung und Kontrolle des Verhaltens von Menschen.

Die Geschichte beginnt mit einem Tweet des Bürgermeisters von Venedig, Luigi Brugnaro, der sich über den Wiederbeginn der Touristensaison und das Experimentieren mit Online-Buchungen freute, die obligatorisch sein werden, um als Tourist in die Stadt zu gelangen.
Zwei Tage später kam aus diesem Tweet im Corriere del Veneto eine weitere Nachricht heraus, die sich ebenfalls auf die venezianische Touristensaison bezog und meine Aufmerksamkeit erregte. Die Schlagzeile lautete: „Venedig, 20.000 Geistertouristen sind in der Stadt, aber sie erscheinen nicht: Telefonsignale nageln sie fest “.
Eine Passage in dem Artikel hatte mich besonders interessiert:

Einige mögen denken, dass die Smart Control Room-Nummern nicht genau sind, aber das ist nicht der Fall: Das System kann (unter Beachtung der Datenschutzregeln) sehen, welches und wieviele Handy sich in der Stadt befindet. Und um herauszufinden, wer sich in Laguna aufhält, kontaktieren sie um 4 Uhr morgens die anwesenden Smartphones (mobile phone tracking). Das System kann herausfinden, woher sie kommen (also am Ostermontag waren 35.990 Einwohner zu Hause) und wo sie sind. Der Fehlerspielraum ist vorhanden

Der Artikel erklärte nicht, was der Smart Control Room war, von dem sie sprachen, aber er spezifizierte, dass die Verwaltung von Venedig dank diesem in der Lage ist, jedes Mobiltelefon in der Stadt, seinen Ursprung und seinen Standort zu sehen.

Eine Frage, die es wert war, untersucht zu werden, und das tat ich auch.

Der „intelligente Kontrollraum“ von Venedig

Anscheinend ist der Smart Control Room (SCR) eine Art 24-Stunden-Betriebskontrollraum, der mit allen Überwachungs- und Sensorsystemen der Stadt verbunden ist. Es wurde von Venis (Venezia Informatica e Sistemi SpA) zusammen mit TIM entwickelt und im September 2020 eingeweiht.
Auf der Website von TIM wird das SCR wie folgt beschrieben:

Ein einheitliches Kontrollzentrum, ausgestattet mit den neuesten Technologien und ausgerüstet, um Informationen darüber zu erhalten, was nicht nur in der Stadt Venedig, sondern in der gesamten Metropolregion passiert. [...]

Eine riesige Menge an Daten- und Videostreams gelangt von den im gesamten Gebiet verteilten Kontrollzentren und Sensoren in den Smart Control Room . Dies sind zum Beispiel die Anzahl der Menschen in Venedig, die Art der Boote in den Kanälen, die Passagen des öffentlichen Straßen- und Wasserverkehrs, die Touristenströme, die Wettervorhersage und die Parkplatzsituation. Ihre Analyse mit Hilfe von Verarbeitungssystemen, die den Datenschutz [...]

Bei der Recherche bin ich dann auf ein Video einer Veranstaltung während der Mailänder Digitalwoche 2021 gestoßen, in dem Susanna Jean von TIM präzise über den Fall „Smart Venice“ sprach und ihn wie folgt beschrieb (1):

„Ein innovatives Projekt, das aus verschiedenen Komponenten und einer horizontalen Schicht besteht, die Informationen in Echtzeit sammelt , mit Videoanalyse, Sensoren, IoT und allen bereits vorhandenen Systemen. Ziel ist es, Verwaltung und Strafverfolgung einen Echtzeit- und kontinuierlichen Überblick über das Geschehen zu geben, einschließlich maschinellem Lernen und Datenanalyse für Vorhersagen und Simulationen. Die Cloud-Schicht wird in einem physischen Smart Control Room konkretisiert, der der Ort der Aggregation der verschiedenen Komponenten ist.

Als ich mich dann der Website von Venis SpA zuwandte , die den Technologieteil behandelte, fand ich diese Informationen:

Im SCR fließen die Bilder der 400 Überwachungskameras, Wettervorhersagen, Daten über die physische Präsenz in dem Gebiet, die es beispielsweise ermöglichen, mögliche Menschenansammlungen zu identifizieren (ein kritisches Element besonders in dieser Ausnahmezeit) und Daten über Verkehrstrends auf Wasser und Land. [...] Alle diese Daten werden dann unter Wahrung der Privatsphäre erneut verarbeitet , um öffentliche Dienste zu optimieren und neue zu entwerfen, basierend auf wissenschaftlichen Daten.

Zusammengefasst: Sensoren, Kameras, Big Data, IoT und maschinelles Lernen. All dies, verpackt und verfügbar für die Verwendung durch Administratoren und Strafverfolgungsbehörden im Smart Control Room.
Sowohl TIM als auch Venis legen großen Wert darauf, zu betonen, dass alles unter „Wahrung der Privatsphäre“ geschieht. Abgesehen von Werbeaussagen konnte ich jedoch keine konkreten Zusicherungen finden .
Nirgendwo konnte ich irgendwelche Informationen, nicht einmal grundlegende Informationen, über die Verarbeitung personenbezogener Daten finden; ebenso wie ich keine Informationen über Garantien für die Rechte und Freiheiten von Menschen finden konnte, die sich unter einer 24-Stunden-Überwachung durch eine solche Leitstelle befinden.
Jemand könnte sagen: „Aber du kennst Matte, es sind aggregierte Daten, also anonym, so wird die Privatsphäre geschützt.“

Nicht wirklich.

Selbst unter der plausiblen Annahme, dass nur aggregierte Daten die SCR-Betreiber erreichen, sind diese Daten das Ergebnis einer vorgelagerten Verarbeitung (durch TIM und/oder andere Parteien) von personenbezogenen Daten und Metadaten (2), die dank Sensoren und Kameras gewonnen wurden, und Telefonnetze in der Stadt.
Wenn wir uns dann auf das verlassen wollen, was der Corriere del Veneto geschrieben hat, können wir sicherlich nicht leugnen, dass wir es mit einer sehr allgegenwärtigen Verarbeitung personenbezogener Daten zu tun haben: "Das System schafft es, jedes Handy in der Stadt zu erkennen [...] Smartphones werden um 4 Uhr nachts gezählt. Sie können herausfinden, woher sie kommen und wo sie sind.
Zweifellos handelt es sich bei der in Venedig durchgeführten Behandlung um eine systematische Nutzung riesiger Datenmengen zur Beobachtung, Überwachung und Kontrolle von Personen, sowie eine Behandlung von Metadaten für organisatorische und "Sicherheits"-Zwecke im Zusammenhang mit der Stadt.
Da die Verarbeitung im Auftrag der Gemeinde erfolgt, muss diese die Achtung der Rechte und Freiheiten der Bürgerinnen und Bürger gewährleisten und die Risiken, die sich aus der Datenverarbeitung ergeben, mindern – wie es auch das europäische Recht vorschreibt.
Wo bleiben Transparenz, Verhältnismäßigkeit, Legitimität und Risikobewertung? Wer weiß?
Diese besondere Art der Datenverarbeitung fällt auch unter die von der Datenschutzbehörde im Jahr 2018 identifizierten Hochrisikokategorien , für die eine Folgenabschätzung obligatorisch ist:

Verarbeitung, die die systematische Verwendung von Personendaten zur Beobachtung, Überwachung oder Kontrolle beinhaltet, einschließlich der Erhebung von Daten über Netzwerke, die auch online oder über Apps durchgeführt werden, sowie die Verarbeitung eindeutiger Kennungen, die zur Identifizierung von Benutzern von Informationen geeignet sind für  Dienstleistungsgesellschaft, einschließlich Webdienste, interaktives Fernsehen usw., in Bezug auf Nutzungsgewohnheiten und Betrachtungsdaten über längere Zeiträume. Dazu gehört auch die Verarbeitung von Metadaten, z. B. in der Telekommunikation, im Bankwesen usw., die nicht nur zur Profilerstellung, sondern allgemeiner aus organisatorischen Gründen, Budgetschätzungen, Technologie-Upgrades, Netzwerkverbesserungen, Angeboten von Betrugsbekämpfungsdiensten, Anti-Spam, Sicherheit, usw.

Was ist mit dem Sicherheitsthema, das in allen Pressemitteilungen mehrfach aufgegriffen wird? Wie wurden die positiven Auswirkungen dieser allgegenwärtigen Überwachung auf die Sicherheit der Bürger bewertet? Noch wichtiger - Sicherheit wovor?

Wie ich auch in diesem Artikel ausgeführt habe, orientiert sich die italienische Politik seit Jahren an der Wahrnehmung von Sicherheit (oder Unsicherheit), um den immer intensiveren Einsatz physischer Überwachungstechnologien zu rechtfertigen. Aber jenseits der Wahrnehmung gibt es nichts. Tatsächlich: Die Daten sagen das Gegenteil: Kriminalitätsraten haben normalerweise nichts mit der Anzahl der Kameras in der Stadt zu tun.

Reservierungen und Kontrollräume

Um den Kreis zu Venedig zu schließen, verweise ich schließlich zurück auf die Nachrichtenmeldung über das Experimentieren mit Reservierungen für den Zugang zur Stadt.
Was passiert, wenn wir Reservierungen, die sich auf identifizierte Personen beziehen, mit einem Kontrollsystem wie dem von SCR kombinieren? Nun, was passiert ist, dass wir alle Voraussetzungen dafür haben, dass Venedig ein Freiluftkäfig wird.
Das Reservierungssystem wird es der Stadtverwaltung ermöglichen, jede einzelne Person zu identifizieren, die Venedig besucht, während das SCR es ihr ermöglicht, ihre Bewegungen und Unterkünfte zu überwachen. Das Abgleichen von Daten nach Bedarf wird ein Kinderspiel sein.

Sind sich Touristen (italienische und internationale) bewusst, dass sie von dem Moment an, in dem sie Venedig zum ersten Mal betreten, bis zu ihrer Abreise ständig überwacht werden? Was ist mit den Bewohnern?

Das „Smart Ivrea“-Experiment

Bei der Recherche zum Smart Control Room stieß ich auf ein weiteres Projekt, an dem TIM beteiligt war, das von „Smart Ivrea“.
Das Projekt „Smart Ivrea“ ist eine Initiative, die von AgID geleitet und von MISE finanziert wird. Es ist auch der erste Prototyp zum Testen einer nationalen Plattform für intelligentes Community-Management (3).

Das Experimente begann im ersten Quartal 2020 und steht nun kurz vor seinem Abschluss. Die Idee ist, die Plattform basierend auf den Ergebnissen der Ivrea-Studie landesweit zu replizieren und zu skalieren.
Die Ziele der Plattform sind in der MISE-Förderdokumentation beschrieben:

Die Neuheit besteht in der Entwicklung eines Smart Cities-as-a-Service (Scaas)-Modells, das darauf abzielt, die Erbringung bestehender öffentlicher Dienstleistungen zu optimieren, indem einige Prinzipien der Verhaltensökonomie (Belohnungssystem für die Annahme tugendhaften Verhaltens der Bürger, Stimmungsanalyse) und partizipativ eingeführt werden Governance (eVoting und Crowdfunding), Bestimmung der aktiven Bürgerbeteiligung am sozialen, kulturellen und politischen Leben des Territoriums, bis hin zur Einführung des ersten nationalen virtuellen Währungsökosystems (Ivrea-Coin), durch das der Bürger sowohl die Dienstleistungen, die von der Verwaltung und möglicherweise von kleinen und mittleren Unternehmen angeboten werden bezahlen kann.

Als ich nachforschte, wie die Plattform funktioniert, fand ich ein Interview mit Marco Pittorri von Trust Technologies (TIM-Partner), in dem er das System (4) wie folgt beschreibt:

Bürger können per App auf Dienste zugreifen. Der Benutzer authentifiziert sich mit einer SPID-zertifizierten Identität, die dann in die Blockchain aufgenommen und mit einer ID-Wallet verknüpft wird, die vom Bürger mit zwei Hauptfunktionen verwendet wird: um öffentliche Dienstleistungen (Busse, Steuern usw.) zu bezahlen und eine Belohnung zurückzuerhalten entsprechend der korrekten Wahrnehmung seiner Rolle als Bürger: durch regelmäßiges Zahlen von Steuern, Inanspruchnahme öffentlicher Dienstleistungen oder Einkäufe in angeschlossenen Geschäften, um die lokale Wirtschaft anzukurbeln, kann er IVREA COIN zurückerhalten, die er wiederverwenden kann, um Dienstleistungen der Gemeinde zu bezahlen. Der Nutzen für die Bürger ist die Teilnahme am Leben der Gemeinde und die Belohnung für gutes Benehmen .

Der Kern des Projekts dreht sich um das Konzept der Verhaltensökonomie und Ivrea Coins, die die Bürger dazu anregen, Verhaltensweisen auszuführen, die von denjenigen, die das System entwickelt und implementiert haben, als richtig erachtet werden.

Nudging und Hypernudge

Das Thema der Verhaltensökonomie ist eng mit der von Thaler und Sunstein im Jahr 2008 entwickelten „Nudge-Theorie“ verwandt. Sie definierten „Nudge“ folgendermaßen:

Ein Nudge, wie wir den Begriff verwenden werden, ist jeder Aspekt der Entscheidungsarchitektur, der das Verhalten von Menschen auf vorhersehbare Weise verändert , ohne Optionen zu verbieten oder ihre wirtschaftlichen Anreize wesentlich zu verändern.

Unter ihrer Definition verstehen wir zwei Dinge: Nudge ist das Ergebnis einer Entscheidung derer, die über ein bestimmtes System nachdenken und es entwickeln, das sowohl das Supermarktregal als auch eine App im Zusammenhang mit der Smart City sein kann. Es ist ein Mechanismus, der, ohne Menschen bestimmte Entscheidungen zu verbieten oder zu zwingen, es schafft, ihr Verhalten auf vorhersehbare Weise zu ändern .
Im Wesentlichen ist Nudge ein Mechanismus, um menschliches Verhalten zu standardisieren und vorhersehbar zu machen.
Wenn Anreize mit allgegenwärtigeren digitalen Systemen verknüpft werden, mit künstlicher Intelligenz und Big-Data -Technologien, die menschliches Verhalten simulieren und vorhersagen können, wird das Problem ziemlich kompliziert.

In diesen Fällen sprechen einige von Hypernudge.

Algorithmen des maschinellen Lernens werden häufig verwendet, um Daten über die Entscheidungen und Handlungen von Menschen zu verarbeiten, wie dies beispielsweise in sozialen Netzwerken der Fall ist, wodurch der sogenannte „Filterblasen“-Effekt entsteht: Der Algorithmus sammelt Daten über unsere Interaktionen und schlägt uns Inhalte vor basierend auf unseren vergangenen Handlungen. Auf diese Weise entsteht ein rückwirkender Teufelskreis, in dem Menschen aufgefordert werden, bestimmte Maßnahmen zu ergreifen, die auf ihren zuvor getroffenen Entscheidungen basieren.
Der Hypernudging-Effekt führt zu heimtückischem Zwang: Was wie eine Wahlmöglichkeit aussieht, ist tatsächlich eine definierte Menge standardisierter Optionen, die vom System erstellt werden. Das Gegenteil von Willensfreiheit und Selbstbestimmungsfreiheit.
Das Ivrea-Experiment erreicht diese Fähigkeit wahrscheinlich noch nicht, aber der Weg ist sicherlich vorgezeichnet.

Die Verleugnung dessen, was uns menschlich macht

1998 argumentierte James C. Scott (5), dass jeder Versuch des Staates, die Gesellschaft zu rationalisieren, zu vereinfachen und zu standardisieren, immer zur Schaffung autoritärer Mächte geführt habe, die sich oft in echtem Totalitarismus und menschlichen Tragödien entluden.

China war vielleicht eines der ersten Länder der Welt, das zu diesen Themen Theorien aufstellte, wobei Lin Junyues berühmtes Papier hier erwähnt wird. Der Zweck bestand darin, Einzelpersonen dazu anzuregen, bestimmte Verhaltensweisen auszuführen, um die Gesellschaft als Ganzes zu formen und zu rationalisieren.
Wie ich oft sage, ist das Problem mit Anreizen genau, dass sie funktionieren.

In dem Artikel „ Punktbürgerschaft und der ethische Staat, von Rom nach Bologna “ habe ich gesagt, dass soziale Bewertungssysteme die Inkraftsetzung des ethischen Staates sind, in dem der Bürger zu einem Rädchen im System wird, ohne wirkliche Wahlfreiheit.

Es ist kein Zufall, dass wir immer von „tugendhaftem“ oder „korrektem“ Verhalten sprechen: Dies sind notwendige Worte, um die Idee der Rechtschaffenheit und Würde der Menschen nur innerhalb der Gemeinschaft zu bekräftigen, die aus Menschen besteht, die sich laut „korrekt“ verhalten von Dritten vorgegebene Standards. Wer über die Standards hinaustritt, bleibt außerhalb der Gemeinschaft und verliert damit jede Würde als Bürger. Teilweise haben wir das beim Green Pass/Impfpass gesehen.

Soziale Scoring-/Prämiensysteme sind die Absage an Individualismus, kritisches Denken und vom Standard abweichendes Verhalten. Die menschliche Evolution basiert auf (moralischem) Handeln und dem Experimentieren mit dem Unbekannten. Algorithmen hingegen arbeiten umgekehrt: Sie schlussfolgern nur auf der Grundlage des vergangenen Hintergrunds. Eine von Algorithmen regierte menschliche Gesellschaft ist eine unbewegliche menschliche Gesellschaft, ohne Moral und unfähig zur Evolution. Im Grunde die Leugnung von allem, was uns Menschen ausmacht.

Ich glaube nicht, dass italienische Bürgermeister solche Überlegungen anstellen. Vielmehr lassen sie sich von Projekten verzaubern, die von Technokraten auf der Suche nach Ruhm und öffentlichen Geldern vorangetrieben werden, in einer historischen Zeit, in der künstliche Intelligenz, IoT und Blockchain die Schlagworte sind, um alle Arten von Finanzierung zu erhalten.
Sie verkaufen diese Systeme mit schönen Worten, Präsentationen und einprägsamen Pressemitteilungen. Sie sagen uns, dass sie für unsere Sicherheit und öffentliche Effizienz sind. Diese Innovation ist wunderschön, da die Menschen im Mittelpunkt des Ökosystems von Dienstleistungen stehen.

Mein Gefühl ist, ja, der Mensch wird zunehmend im Mittelpunkt stehen – aber eher in den Zäunen eines High-Tech-Geheges; wie ein weidendes Vieh, das auf die Schlachtung wartet.

Anmerkungen:
1 Paraphrasierter Text, Link zum Interview
2 Metadaten beziehen sich auf jene Informationen, die nicht direkt auf Personen beziehbar sind, sondern Ereignisse, Handlungen oder andere Informationen beschreiben. Ein typisches Beispiel für Metadaten sind Standortdaten (Längen- und Breitengrad eines Geräts zu einem bestimmten Zeitpunkt).
3 https://www.agid.gov.it/it/agenzia/stampa-e-comunicazione/notizie/2020/01/10/al-smart-ivrea-project
4 Paraphrasierter Text, Link zum Interview
5 Seeing Like a State : Wie bestimmte Pläne zur Verbesserung des menschlichen Zustands gescheitert sind

Sofern nicht anders angegeben, steht der Inhalt dieses Artikels unter der Lizenz CC BY-SA 4.0

Follow @EuropeanBTC21