Differential Privacy – Datenschutz mit technischen Mitteln

AI Quick Summary

Die technischen Möglichkeiten der Verarbeitung grosser Datenmengen sind in den letzten Jahren stark gewachsen. Bei allen Chancen beinhaltet die Datenanalyse aber auch Risiken. Insbesondere stellt sich die Frage, welche aggregierten Erkenntnisse aus Datensätzen veröffentlicht werden können ohne die berechtigen Interessen für Datenschutz der beteiligten Personen oder Organisationen zu verletzen. [siehe ausführliche Beschreibung für weitere Details] Ausgangslage und ProblemstellungDie technischen Möglichkeiten der Verarbeitung grosser Datenmengen sind in den letzten Jahren stark gewachsen. Gemeinsam mit der immer grösseren Verfügbarkeit und Vernetzung von Datensätzen eröffnet dies ganz neue Möglichkeiten mittels Data Science oder maschinellem Lernen wichtige Informationen aus diesen Daten zu erhalten. Mögliche Anwendungen befinden sich in fast allen Lebensbereichen, von der (personalisierten) Werbung, über Spracherkennung und Textverarbeitung bis zu besseren medizinischen Behandlungen; um nur ein paar wenige konkrete Beispiele zu nennen. Bei allen Chancen beinhaltet die Datenanalyse aber auch Risiken. Insbesondere stellt sich die Frage, welche aggregierten Erkenntnisse aus Datensätzen veröffentlicht werden können ohne die berechtigen Interessen für Datenschutz der beteiligten Personen oder Organisationen zu verletzen.Zwei konkrete Beispiele:Während der Corona-Pandemie wurde in der Schweiz diskutiert, ob die Anzahl Fälle nach Postleitzahl aufgeschlüsselt gemeldet werden sollen. Während dies bei Gemeinden mit grossen Einwohnerzahlen im Allgemeinen kein Problem darstellt, könnte dies bei kleinen Einwohnerzahlen Rückschlüsse auf den Teststatus von Individuen ermöglichen.Ein zweites Beispiel ist die Verbesserung von Smartphone-Anwendungen aufgrund von Benutzerdaten, z.B. Wortvorschläge bei der Texteingabe. Während alle Benutzer von einer Verbesserung profitieren, sollen konkrete Vorschläge keine Rückschlüsse auf die Texteingaben anderer Benutzer zulassen. Die eigenen Texteingaben sollen auch nicht unverändert an eine zentrale Datenbank (z.B. von Apple) hochgeladen werden. Konkrete Angriffe haben gezeigt, dass die intuitive Annahme wann Daten anonymisiert sind, oft nicht genügend ist. So hat das US Census Bureau seine eigenen publizierten Daten aus der Volkszählung von 2010 analysiert und festgestellt, dass ein Grossteil der Datensätze rekonstruiert werden konnte. Zusammen mit öffentlich einsehbaren Informationen wie einem Telefonbuch oder einem Stimmregister konnten sogar ca. die Hälfte der Personen namentlich identifiziert werden. (https://www.census.gov/data/academy/webinars/2021/disclosure-avoidance-series/simulated-reconstruction-abetted-re-identification-attack-on-the-2010-census.html) In den letzten Jahren ist deshalb das Studium von technischen Möglichkeiten für “Privacy” zu einem wichtigen Forschungszweig der Kryptographie geworden. Neu an der Forschung in diesem Gebiet ist, dass die Datenschutzanforderungen und erreichten Datenschutz-Eigenschaften genau quantifiziert werden. Insbesondere das Konzept der “Differential Privacy” erfreut sich grosser Beliebtheit: die Idee hinter diesem Konzept ist, dass es für publizierte Daten keinen Unterschied machen sollte, ob eine einzelne Person im Datensatz enthalten ist oder nicht. Damit wird die Privatsphäre von Individuen gewahrt.Die erreichte «Privacy» kann dabei nicht nur genau quantifiziert werden, sondern auch mittels einem «Privacy Budget» je nach Sensibilität der Daten alloziert werden. Der erreichte Schutz der Daten ist unabhängig davon, welche weiteren Daten (Telefonbuch etc.) der Angreifer noch zur Verfügung hat. Das Ziel «differential privacy» wird erreicht, indem persönliche Daten durch das Hinzufügen von Rauschen verborgen werden. Gemittelt auf grössere Datensätze sind die Auswirkungen des Rauschens aber klein oder heben sich sogar gegenseitig auf, sodass weiterhin gute statistische Resultate durch Datenanalyse möglich sind. Erste Anwender aus der Industrie sind grosse Techfirmen und das US Census Bureau:Bei Apple wird das Konzept auf Smartphone-Benutzerdaten angewandt: nur modifizierte Daten werden vom Smartphone an die zentrale Datenbank hochgeladen und zur Verbesserung der Anwendungen verwendet. (https://www.apple.com/privacy/docs/Differential_Privacy_Overview.pdf).Das US Census Bureau wendet es für die Daten der Volkszählung von 2020 an: nur leicht verrauschte Statistiken werden publiziert (https://www.census.gov/programs-surveys/decennial-census/decade/2020/planning-management/process/disclosure-avoidance.html) Die notwendigen theoretischen Grundlagen zum Verständnis der Funktionsweise dieser “Tools” sind allerdings nicht einfach zu verstehen. Ziel dieses Projekts ist es deshalb, «Differential Privacy» verständlich zu machen. Dafür soll insbesondere eine Übung entwickelt werden, mit der Studierende das Konzept selbst anwenden können.Ziel der Arbeit und erwartete ResultateZiel der Arbeit ist es, das Konzept «Differential Privacy» zu verstehen. Insbesondere folgende Punkte: An welchen Stellen kann Rauschen zu Daten hinzugefügt werden? (z.B. beim Einlesen, Abändern der Datenbank oder Erstellen der Statistik)Welche Arten von Verteilung von Rauschen gibt es und wie unterscheiden sie sich?Welche Anwendungsfälle gibt es? (z.B. Erstellen von synthetischen Daten, publizieren von Statistiken, Machine Learning, interaktive Queries) Was bedeutet das «Privacy Budget» und wie kann es alloziert werden?Was muss bei den verschiedenen Use Cases beachtet werden für die Security/Privacy? Diese Themen sollen so aufgearbeitet werden, dass sie einem breiteren Publikum verständlich gemacht werden können (z.B. Studierende). Dann soll dazu eine Übung kreiert werden, bei der z.B. ein Datenset in eine «differentially private» Version umgewandelt wird oder statistische Daten auf «private» Art und Weise evaluiert. Die Übung soll mind. 2 Anwendungsfälle abdecken. Als Tool für diese Übung soll ARX verwendet werden, ein Standard-Tool im Bereich Datenschutz/Privacy (https://arx.deidentifier.org/). Die Verwendung von anderen Libraries o.ä. ist möglich, falls sich dies als sinnvoll erweist. Gewünschte Methoden, VorgehenVerstehen der TheorieVerstehen von Angriffen, welche die Notwendigkeit von Differential Privacy zeigenAufarbeiten von praktischen Anwendungsfällen in der IndustrieAufbereiten des Materials, sodass es einem breiteren Publikum verständlich istErstellen von zwei Übungen, z.B. Ein Datenset in eine «differentially private» Version zu überführen, wobei die statistischen Eigenschaften erhalten bleibenStatistische Daten über ein Datenset auf eine «differentially private» Art berechnenKreativität, Varianten, InnovationBei der Umsetzung, wie das Thema «Differential Privacy» einem breiten Publikum verständlich gemacht werden soll sind verschiedenste Möglichkeiten denkbar. Ebenso kann der genaue Inhalt der Übung (in Absprache mit der Betreuungsperson) gewählt werden. Schliesslich sind auch bei den technischen Mitteln, e.g. ARX oder Library, Varianten möglich.

Project Idea Metadata

Project Idea Name: Differential Privacy – Datenschutz mit technischen Mitteln
Date: 11/25/2021 7:31:35 PM
Administrators:

Project Idea Description

Ausgangslage und Problemstellung

Die technischen Möglichkeiten der Verarbeitung grosser Datenmengen sind in den letzten Jahren stark gewachsen. Gemeinsam mit der immer grösseren Verfügbarkeit und Vernetzung von Datensätzen eröffnet dies ganz neue Möglichkeiten mittels Data Science oder maschinellem Lernen wichtige Informationen aus diesen Daten zu erhalten. Mögliche Anwendungen befinden sich in fast allen Lebensbereichen, von der (personalisierten) Werbung, über Spracherkennung und Textverarbeitung bis zu besseren medizinischen Behandlungen; um nur ein paar wenige konkrete Beispiele zu nennen.

Bei allen Chancen beinhaltet die Datenanalyse aber auch Risiken. Insbesondere stellt sich die Frage, welche aggregierten Erkenntnisse aus Datensätzen veröffentlicht werden können ohne die berechtigen Interessen für Datenschutz der beteiligten Personen oder Organisationen zu verletzen.

Zwei konkrete Beispiele:

Während der Corona-Pandemie wurde in der Schweiz diskutiert, ob die Anzahl Fälle nach Postleitzahl aufgeschlüsselt gemeldet werden sollen. Während dies bei Gemeinden mit grossen Einwohnerzahlen im Allgemeinen kein Problem darstellt, könnte dies bei kleinen Einwohnerzahlen Rückschlüsse auf den Teststatus von Individuen ermöglichen.
Ein zweites Beispiel ist die Verbesserung von Smartphone-Anwendungen aufgrund von Benutzerdaten, z.B. Wortvorschläge bei der Texteingabe. Während alle Benutzer von einer Verbesserung profitieren, sollen konkrete Vorschläge keine Rückschlüsse auf die Texteingaben anderer Benutzer zulassen. Die eigenen Texteingaben sollen auch nicht unverändert an eine zentrale Datenbank (z.B. von Apple) hochgeladen werden.

Konkrete Angriffe haben gezeigt, dass die intuitive Annahme wann Daten anonymisiert sind, oft nicht genügend ist. So hat das US Census Bureau seine eigenen publizierten Daten aus der Volkszählung von 2010 analysiert und festgestellt, dass ein Grossteil der Datensätze rekonstruiert werden konnte. Zusammen mit öffentlich einsehbaren Informationen wie einem Telefonbuch oder einem Stimmregister konnten sogar ca. die Hälfte der Personen namentlich identifiziert werden. (https://www.census.gov/data/academy/webinars/2021/disclosure-avoidance-series/simulated-reconstruction-abetted-re-identification-attack-on-the-2010-census.html)

In den letzten Jahren ist deshalb das Studium von technischen Möglichkeiten für “Privacy” zu einem wichtigen Forschungszweig der Kryptographie geworden. Neu an der Forschung in diesem Gebiet ist, dass die Datenschutzanforderungen und erreichten Datenschutz-Eigenschaften genau quantifiziert werden. Insbesondere das Konzept der “Differential Privacy” erfreut sich grosser Beliebtheit: die Idee hinter diesem Konzept ist, dass es für publizierte Daten keinen Unterschied machen sollte, ob eine einzelne Person im Datensatz enthalten ist oder nicht. Damit wird die Privatsphäre von Individuen gewahrt.

Die erreichte «Privacy» kann dabei nicht nur genau quantifiziert werden, sondern auch mittels einem «Privacy Budget» je nach Sensibilität der Daten alloziert werden. Der erreichte Schutz der Daten ist unabhängig davon, welche weiteren Daten (Telefonbuch etc.) der Angreifer noch zur Verfügung hat.

Das Ziel «differential privacy» wird erreicht, indem persönliche Daten durch das Hinzufügen von Rauschen verborgen werden. Gemittelt auf grössere Datensätze sind die Auswirkungen des Rauschens aber klein oder heben sich sogar gegenseitig auf, sodass weiterhin gute statistische Resultate durch Datenanalyse möglich sind.

Erste Anwender aus der Industrie sind grosse Techfirmen und das US Census Bureau:

Bei Apple wird das Konzept auf Smartphone-Benutzerdaten angewandt: nur modifizierte Daten werden vom Smartphone an die zentrale Datenbank hochgeladen und zur Verbesserung der Anwendungen verwendet. (https://www.apple.com/privacy/docs/Differential_Privacy_Overview.pdf).
Das US Census Bureau wendet es für die Daten der Volkszählung von 2020 an: nur leicht verrauschte Statistiken werden publiziert (https://www.census.gov/programs-surveys/decennial-census/decade/2020/planning-management/process/disclosure-avoidance.html)

Die notwendigen theoretischen Grundlagen zum Verständnis der Funktionsweise dieser “Tools” sind allerdings nicht einfach zu verstehen.

Ziel dieses Projekts ist es deshalb, «Differential Privacy» verständlich zu machen. Dafür soll insbesondere eine Übung entwickelt werden, mit der Studierende das Konzept selbst anwenden können.

Ziel der Arbeit und erwartete Resultate

Ziel der Arbeit ist es, das Konzept «Differential Privacy» zu verstehen. Insbesondere folgende Punkte:

An welchen Stellen kann Rauschen zu Daten hinzugefügt werden? (z.B. beim Einlesen, Abändern der Datenbank oder Erstellen der Statistik)
Welche Arten von Verteilung von Rauschen gibt es und wie unterscheiden sie sich?
Welche Anwendungsfälle gibt es? (z.B. Erstellen von synthetischen Daten, publizieren von Statistiken, Machine Learning, interaktive Queries)
Was bedeutet das «Privacy Budget» und wie kann es alloziert werden?
Was muss bei den verschiedenen Use Cases beachtet werden für die Security/Privacy?

Diese Themen sollen so aufgearbeitet werden, dass sie einem breiteren Publikum verständlich gemacht werden können (z.B. Studierende).

Dann soll dazu eine Übung kreiert werden, bei der z.B. ein Datenset in eine «differentially private» Version umgewandelt wird oder statistische Daten auf «private» Art und Weise evaluiert. Die Übung soll mind. 2 Anwendungsfälle abdecken. Als Tool für diese Übung soll ARX verwendet werden, ein Standard-Tool im Bereich Datenschutz/Privacy (https://arx.deidentifier.org/). Die Verwendung von anderen Libraries o.ä. ist möglich, falls sich dies als sinnvoll erweist.

Gewünschte Methoden, Vorgehen

Verstehen der Theorie
Verstehen von Angriffen, welche die Notwendigkeit von Differential Privacy zeigen
Aufarbeiten von praktischen Anwendungsfällen in der Industrie
Aufbereiten des Materials, sodass es einem breiteren Publikum verständlich ist
Erstellen von zwei Übungen, z.B.
Ein Datenset in eine «differentially private» Version zu überführen, wobei die statistischen Eigenschaften erhalten bleiben
Statistische Daten über ein Datenset auf eine «differentially private» Art berechnen

Kreativität, Varianten, Innovation

Bei der Umsetzung, wie das Thema «Differential Privacy» einem breiten Publikum verständlich gemacht werden soll sind verschiedenste Möglichkeiten denkbar. Ebenso kann der genaue Inhalt der Übung (in Absprache mit der Betreuungsperson) gewählt werden. Schliesslich sind auch bei den technischen Mitteln, e.g. ARX oder Library, Varianten möglich.