mag'
23
d’algorithmes de plus en plus autonomes, c’est la quan-
tité et non la qualité des données qui exposent les per-
sonnes à des vulnérabilités nouvelles.
Face à cela, nous ne sommes pas totalement démunis.
La vie privée est aussi protégée par l’article 8 de la
Convention européenne des Droits de l’Homme ou par
l’article 7 de la Charte des droits fondamentaux de
l’Union européenne. On peut donc imaginer la protec-
tion de la vie privée intentionnelle, relationnelle, psy-
chique ou imaginer le développement d’un droit à
« l’avenir non toujours pré-deviné». Cela dépendra des
interprétations fournies par les jurisprudences compé-
tentes. On peut aussi imaginer gérer la problématique
du profilage intensif permise par les
Big Data
grâce au
droit de la concurrence. Ainsi, le droit doit faire preuve
d’imagination pour combiner différents outils préexis-
tants, et les faire éventuellement évoluer, afin de leur
donner une réelle effectivité dans ce nouveau paysage.
Que cherchent les gouvernements
et les organisations qui recourent
au
Big Data
?
L’engouement autour de ce phéno-
mène présenté comme révolution-
naire pousse certainement les
gouvernements et les entreprises à recourir au
Big Data
.
Pour compenser une crise assez remarquable de la
représentation, nous survalorisons le réel à tel point que
cela devient une obsession. Ce système est dangereux
car tout en se présentant comme objectif, il enregistre
presque naturellement les inégalités socioéconomiques
et les discriminations existantes dans la société.
Ainsi dans le domaine des ressources humaines, des
employeurs peuvent être tentés d’utiliser les systèmes de
recommandation automatisés fondés sur l’analyse de
données massives par des algorithmes pour les aider
dans leurs décisions d’embauche ou de promotion. Pour
être anonymisées, les données sont désindexées et
expurgées de tout ce qui pouvait les relier au contexte
dans lequel elles ont été produites. Du coup au lieu de
corriger les biais inhérents à la réalité sociale, elles en
créent d’autres. Peu à peu, nous établissons de nouvelles
Grand angle
catégorisations que sont les profilages et qui vont prési-
der à la destinée des individus.
N’y aura-t-il pas aussi des usages bénéfiques? Les
Big Data
constituent-ils une transformation sociale
utile dans des domaines comme ceux de la justice ou
de la santé?
Les
Big Data
et les algorithmes sont pour moi des outils,
des interfaces cognitives qui changent beaucoup de
choses à notre manière de gouverner, et pourraient nous
rendre aussi beaucoup plus intelligents. Il est nécessaire
d’être attentif au type de données incorporées dans les
Big data
, et surtout garder un esprit critique.
Je vois énormément de transformations sociales posi-
tives rendues possibles par cette intelligence des don-
nées. Les algorithmes et les
Big Data
, à la condition
qu’ils soient bien paramétrés, nous donnent un accès
inédit à la complexité du monde. Dans le domaine extrê-
mement complexe de la justice, je
suis plus pessimiste parce que le
risque de se passer de la prudence
du juge est grande. Il est en effet très
peu probable qu’un décideur humain
s’écarte d’une recommandation de
maintien en détention au risque de
prendre personnellement la responsabilité d’un éventuel
échec.
Dans le domaine de la santé ou de l’épidémiologie, je
pense que les perspectives sont prometteuses. Croiser
des données en quantité massive apporte une nouvelle
vision des causes possibles des problèmes de santé.
Dans le domaine de la protection de l’environnement, de
l’astronomie, les perspectives sont également
formidables !
Propos recueillis par Sophie Grallet
et Aurélie Verneau
Les algorithmes,
bien paramétrés,
nous donnent
un accès inédit à la
complexité du monde
Pour allez plus loin
Thomas Berns, Antoinette Rouvroy, «Gouvernementalité algorithmique et
perspectives d’émancipation»,
Réseaux
, n° 177, 2013/1, p. 163-196.
Mireille Hildebrandt, Antoinette Rouvroy (ed.),
Law, Human Agency and
Autonomic Computing - The Philosophy of Law Meets the Philosophy of
Technology
, Abington, Routledge, 2011.
Antoinette Rouvroy, « Peut-on apprendre avec des nuages ? »,
Documentaliste – Sciences de l’Information
, vol. 47, 2010/1, p. 56-67.
Thomas Berns, Antoinette Rouvroy, «Le nouveau pouvoir statistique Ou
quand le contrôle s’exerce sur un réel normé, docile et sans événement car
constitué de corps "numériques"»,
Multitudes
, n°40, 2010/1, p. 88-103.
Antoinette Rouvroy,
Human Genes and Neoliberal Governance :
A Foucauldian Critique
, Abington/New-York, Routledge-Cavendish, 2007.
