Post Mortem · Épisode 12
#12 Comment Google anonymise vos données personnelles avec la Differential Privacy
Écouter cet épisode
Épisode 12 · Comment Google anonymise vos données personnelles avec la Differential Privacy
Spotify
Apple PodcastsSommaire
Une conversation avec Damien Desfontaines, Senior Software Engineer, Privacy @ Google
Show Notes
De vos emojis favoris sur iOS à l’affluence dans votre boutique préférée sur Google Maps; comment ces informations sont obtenues? Et quelles garanties peut-on avoir quant à la préservation de l’anonymat des utilisateurs?
Dans ce post mortem thématique, le Docteur Damien Desfontaines — Senior Software Engineer, Privacy pour Google nous parle de Differential Privacy (confidentialité différentielle).
Avec des centaines de millions d’utilisateurs actifs chaque jour, les géants du numérique bénéficient de données précises d’utilisation. Ces données, quand elles sont agrégées, peuvent aider à adresser des problèmes de santé publique et améliorer l’expérience utilisateur globale.
Après un bref historique des techniques d’anonymisations (02'00"), on définit la confidentialité différentielle et ses propriétés (06'50") avant de revenir sur un cas d’usage rencontré au sein de Google (20'18") pour enfin discuter des implémentations existantes (27'58") et des challenges à l’adoption de cette technique (34'13").
Sur Apple Podcast, vous devriez avoir accès aux chapitres avec les liens et illustrations, l’illustration de la Randomized Response devrait être utile!
Ressources
- Latanya Sweeney et la ré-identification des données médicales du gouverneur du Massachusetts, William Weld en 1997. Wikipedia
- Le blog de Damien sur la Differential Privacy, c’est très visuel et de nombreux articles sont grand public https://desfontain.es/privacy/differential-privacy-awesomeness.html (~10mins de lecture). Une version html de sa thèse Lowering the cost of anonymisation est également disponible sur son site. Les chapitres légers en maths sont indiqués par une fleur ✿.
- Pour le cas d’usage de la Differential Privacy chez Apple cité en intro, voir le papier de la Differential Privacy Team d’Apple : Learning with Privacy at Scale, disponible ici https://docs-assets.developer.apple.com/ml-research/papers/learning-with-privacy-at-scale.pdf
- Un exemple d’usage de la Differential Privacy chez Google; Les Community Mobility Reports, pour une vision de l’impact du covid sur la mobilité des personnes https://www.google.com/covid19/mobility/
- Description du processus d’anonymisation pour les Google Community Reports “Google COVID-19 Community Mobility Reports: Anonymization Process Description”, https://arxiv.org/abs/2004.04145
- Le papier Differentially Private SQL with Bounded User Contribution, https://arxiv.org/abs/1909.01917 publié par Damien et son équipe pour faciliter l’utilisation de la Differential Privacy par les analystes en étendant les capacités de SQL
- La librairie open source de Google sur la confidentialité différentielle est disponible sur GitHub: https://github.com/google/differential-privacy
Fun Facts
- The Fundamental Law of Information Recovery, Cynthia DWork: ““Overly accurate” estimates of “too many” statistics is blatantly non-private” extrait du livre “The Algorithmic Foundations of Differential Privacy.”
- Natyana Sweeney est à l’origine de l’observation “87% of the U.S. population is uniquely identified by date of birth, gender, postal code.” Source: wikipedia
Images utilisées dans l'épisode
L'image d'intro est un extrait du papier Learning with Privacy at Scale, Apple Differential Privacy Team, https://docs-assets.developer.apple.com/ml-research/papers/learning-with-privacy-at-scale.pdf
Cet histogramme présente les emojis les plus utilisés en langue anglaise sur iOS.
La deuxième illustration est pour la Randomized Response, concept expliqué par Damien dans cet article: https://desfontain.es/privacy/differential-privacy-in-more-detail.html#rr
La troisième image illustre le top 3 des raisons d'utiliser la Differential Privacy, expliqué dans cet article de Damien: Differential Privacy In More Detail.
Ici on illustre l'évolution de la connaissance de l'attaquant en fonction du privacy budget epsilon ε.
La dernière image illustre le cas d'usage de la Differential privacy à Google; Les Community Mobility Reports destinés à aider les pouvoirs publics à comprendre l'évolution de la mobilité d'une population dans une zone donnée en période de Covid par raport à une période normale.
L'intégralité des épisodes du Post Mortem Podcast est disponible sur la page du podcast, c'est par ici 😇🎙