[ Coups de Gueule – Épisode 7/20 ]
LES ALGORITHMES NE PRÉDISENT
RIEN… MAIS VONT TOUT CHANGER !
Pablo Jensen est directeur de recherche au CNRS, membre du laboratoire de physique de l’Ecole normale supérieure de Lyon et spécialiste des systèmes sociaux. Il est notamment l’auteur de Pourquoi la société ne se laisse pas mettre en équations (Seuil, 2018).
C‘est bien connu, les prédictions sont difficiles, surtout quand elles concernent l’avenir… Cela est encore plus vrai quand il s’agit de prédictions sociales. Le récent florilège de pronostics sur la coupe du monde, à coup d’algorithmes sophistiqués, a invariablement placé en tête l’Allemagne ou l’Espagne, toutes deux éliminées sans gloire dès les premières étapes de la compétition. Plus sérieusement, des économistes se sont livrés à une analyse rétrospective des prédictions de croissance des principaux organismes officiels (FMI, INSEE, OCDE…). Le verdict est sans appel : leurs prévisions sont à peine plus fiables qu’un modèle très simple, prédisant que la croissance de l’année à venir sera…la même que celle de l’année écoulée ! La complexité des modèles utilisés servirait-elle simplement à donner une apparence de scientificité, pour légitimer politiquement les prédictions ?
On pourrait imaginer que la récente avalanche de données sociales permettra de mieux ajuster les modèles, conduisant à des résultats plus fiables. Et il est vrai qu’on ne compte plus les annonces sur la puissance des prédictions : on connaîtrait les lieux des prochains crimes, les chances de récidive d’un coupable, ou notre prochain achat sur Internet. Faut-il prendre ces prédictions pour argent comptant ? Pas du tout ! D’abord parce que le secret qui entoure la plupart des prédictions, par intérêt commercial ou militaire, est propice aux fantasmes médiatiques exagérant leur puissance. Et surtout, parce que les études publiques, qui permettent d’évaluer l’efficacité de ces approches aboutissent invariablement à des prédictions décevantes. Ainsi, un logiciel utilisé sur plus d’un million de délinquants aux États-Unis n’est pas plus précis ou équitable que les prédictions faites par des personnes sans expertise judiciaire, comme l’a montré un article publié en janvier dernier dans la prestigieuse revue Science. Une autre étude a rassemblé un milliard et demi de tweets pour tenter de prédire leur succès, leur nombre de retweets. Le résultat des recherches menées par Duncan Watts, star du domaine et patron de la recherche à Microsoft, est clair : le succès d’un tweet reste largement imprévisible. Techniquement, seule 20 % de sa variabilité est expliquée par leur modèle, pourtant très complexe, et d’ailleurs incompréhensible, comme d’habitude pour les méthodes utilisant les réseaux de neurones. Ces échecs résultent de l’instabilité du monde social. Car les algorithmes qui analysent les mégadonnées “apprennent” des régularités sur une partie des données, puis les extrapolent au reste, approche vouée à l’échec dans un monde variable.
Attention ! Il ne faut pas pour autant minimiser l’impact de la révolution numérique. Elle a déjà fait ses preuves dans des domaines importants comme la santé ou les véhicules autonomes. Mon point de vue est que son impact sur nos sociétés ne passe pas par des prédictions précises, quasi magiques, de nos comportements. Quand on possède un grand nombre de données sur beaucoup de personnes, des prédictions banales deviennent, par un effet de masse, socialement puissantes. Et la domination des détenteurs des données sera renforcée par le contrôle social que les données permettent, par le dressage des individus devenus traçables, à l’image du “crédit social” mis en place en Chine. Pas besoin de fantasmer sur les prédictions des algorithmes pour tenter d’en prendre le contrôle !
Tribune issue du dernier numéro de notre magazine AUDIENCE
ADEKWA Avocats
Cabinet d’avocats
Lille – Douai – Valenciennes – Bordeaux