[Index] Libertés : pour parler des libertés, y compris numériques...

Pour les gens qui ont simplement envie de discuter sans souhaiter faire passer d'information particulière.
Message
Auteur
Avatar du membre
Controleur
Passionné
Messages : 435
Enregistré le : samedi 27 août 2016 à 18:09
Localisation : France(mobile)

Re: [Index] Libertés : pour parler des libertés, y compris numériques...

#1171 Message par Controleur » jeudi 14 mai 2020 à 11:51

Tugdual a écrit :
jeudi 14 mai 2020 à 9:55
La loi contre la haine sur Internet :
Voir aussi :
:arrow: Une balle dans le pied que s'est tiré le gouvernement
Diagnostique autiste par le CRA en mars 2009

Si vi pacem, para bellum

Traduction Latine: Si tu veux la paix, prépare la guerre

Contrôleur des finances publiques 2ème classe en trésorerie municipale.

Adepte de la médecine chinoise.

Avatar du membre
Tugdual
Modérateur
Messages : 26884
Enregistré le : jeudi 15 novembre 2012 à 0:13
Localisation : Nord-44
Contact :

Re: [Index] Libertés : pour parler des libertés, y compris numériques...

#1172 Message par Tugdual » jeudi 14 mai 2020 à 11:55

TCS = trouble de la communication sociale (24/09/2014).

Avatar du membre
freeshost
Forcené
Messages : 28293
Enregistré le : lundi 15 juillet 2013 à 15:09
Localisation : CH

Re: [Index] Libertés : pour parler des libertés, y compris numériques...

#1173 Message par freeshost » jeudi 14 mai 2020 à 11:58

Tout cela devrait nous encourager à lutter encore plus contre le big data et le pistage des citoyens et de leurs habitudes.

Ou à faire le moins de choses connectés : retirer au bancomat, payer cash, télécharger puis imprimer ou acheter en magasins physiques les livres, imprimer et partager hors ligne, acheter le moins d'objets connectés pour ne pas s'emprisonner dans l'internet des objets.
Pardon, humilité, humour, hasard, confiance, humanisme, partage, curiosité et diversité sont des gros piliers de la liberté et de la sérénité.

- Ah ! j'ai été diagnostiqué Asperger Haut Potentiel à Cery (CH) en l'été 2014, mais tu le savais. :)

Avatar du membre
Tugdual
Modérateur
Messages : 26884
Enregistré le : jeudi 15 novembre 2012 à 0:13
Localisation : Nord-44
Contact :

Re: [Index] Libertés : pour parler des libertés, y compris numériques...

#1174 Message par Tugdual » jeudi 14 mai 2020 à 12:34

Freeshost, l'Allemagne est le pays idéal pour toi : :mryellow:
TCS = trouble de la communication sociale (24/09/2014).

Avatar du membre
freeshost
Forcené
Messages : 28293
Enregistré le : lundi 15 juillet 2013 à 15:09
Localisation : CH

Re: [Index] Libertés : pour parler des libertés, y compris numériques...

#1175 Message par freeshost » jeudi 14 mai 2020 à 15:22

Je vais changer utiliser une partie de mon argent en euros et aller parfois en Allemagne une fois que nous pourrons de nouveau traverser les frontières. :lol:
Pardon, humilité, humour, hasard, confiance, humanisme, partage, curiosité et diversité sont des gros piliers de la liberté et de la sérénité.

- Ah ! j'ai été diagnostiqué Asperger Haut Potentiel à Cery (CH) en l'été 2014, mais tu le savais. :)

Avatar du membre
freeshost
Forcené
Messages : 28293
Enregistré le : lundi 15 juillet 2013 à 15:09
Localisation : CH

Re: [Index] Libertés : pour parler des libertés, y compris numériques...

#1176 Message par freeshost » jeudi 14 mai 2020 à 16:12

De l'alternumérisme : d'autres numériques sont-ils possibles ?
Spoiler : Citation : 
Hubert Guillaud
13/02/2020

Il y a des livres qui vous font profondément réfléchir. C’est certainement le cas des livres les plus critiques à l’encontre des enjeux technologiques – et ils sont nombreux. Les arguments de ceux qui s’opposent à la numérisation sont bien plus pertinents et nécessaires que les arguments de ceux qui vous promettent du bonheur numérique ou qui continuent à soutenir que l’innovation technologique tient du progrès sans observer concrètement ses limites et ses effets délétères. Le nouveau livre publié par les éditions La lenteur – Contre l’alternumérisme (La Lenteur, 2020, 128p.), signé de l’étudiante en philosophie Julia Laïnae, membre des Décâblés, et de l’informaticien Nicolas Alep, membre de Technologos -, est assurément un livre qui interroge les arguments de ceux qui espèrent d’un autre numérique dont je suis. En cela, il est assurément nécessaire de nous y confronter.

Quelles alternatives numériques ?

Les deux auteurs, impliqués dans des mouvements technocritiques radicaux, livrent une critique nourrie à l’égard de ceux qu’ils appellent les « alternuméristes », c’est-à-dire ceux qui prônent ou croient qu’un autre numérique est possible (comme les altermondialistes des années 2000 portaient l’espoir qu’une mondialisation plus juste et plus fraternelle était possible). Mais cet autre numérique est-il possible ? Les promesses d’un numérique plus juste, plus fraternel, plus responsable, plus équitable, plus éthique, plus inclusif, plus démocratique, plus frugal… n’ont cessés d’être répétées à mesure que nous nous en éloignions chaque jour davantage. À l’image des excuses à répétitions de Mark Zuckerberg, le numérique ne cesse de promettre qu’il va demain s’humaniser, alors qu’en fait, il ne cesse, de scandale en scandale, de se révéler chaque jour encore moins humain qu’hier. Dans ce petit livre, les auteurs qui s’opposent à toute forme d’informatisation du monde cherchent à expliquer pourquoi ils ne rejoignent pas ceux qui espèrent un « autre numérique ». Pour eux, nous devons nous « montrer lucide sur ce que la numérisation a déjà occasionné comme régressions, pour permettre de bien faire comprendre en quoi les propositions alternuméristes peuvent être source d’illusions ». Ils soulignent, à la suite d’une longue littérature critique, combien la numérisation du monde a renforcé le pouvoir des entreprises, la centralisation et la concentration du pouvoir social (notamment dans les bases de données de Pôle emploi, de la Caisse d’allocations familiales, de l’Education Nationale, de l’université, des outils de gestion de la santé, de l’action sociale ou de l’éducation spécialisée, des logiciels RH des entreprises, des systèmes d’accès aux droits pour les étrangers…), ont aggravé l’exploitation du travail et les discriminations à l’égard des plus démunis. Pour eux, ce ne sont pas là des dérives qu’il suffirait de corriger ou des externalités négatives à intégrer, mais bien des logiques gestionnaires qui s’imposent dans chaque activité, avec des conséquences économiques, politiques, sociales, cognitives, psychologiques, relationnelles et culturelles sans précédent.

Pour Laïnae et Alep, l’alternative numérique n’existe pas. Parce que les processus et outils induits par le numérique sont devenus le levier même du néolibéralisme, son moyen de s’imposer à tous et partout, il n’y a pas d’autre solution que de refuser leur utilisation ou de les rendre inopérants. Il n’y a pas d’autres options qu’arrêter la machine, comme le pointait récemment, le chercheur et cofondateur de la Quadrature du Net, Félix Tréguer, dans la conclusion de son livre L’utopie déchue. À l’heure où le découplage entre pouvoir et technologie se fait toujours désirer et semble de moins en moins probable tant le Big Data et l’Intelligence artificielle promettent une recentralisation phénoménale, face à la prolifération informatique, il nous faut articuler des stratégies plus radicales. « Ce dont nous avons besoin, ce n’est pas d’un patch logiciel, d’un bricolage juridique, ni même d’un peu d’éthique. Ce qu’il nous faut d’abord et avant tout, c’est arrêter la machine ». Et ce constat sonne chaque jour d’autant plus pertinent que les efforts pour imposer la transparence, la séparation des pouvoirs, la responsabilité, l’éthique… semblent demeurer des voeux pieux à mesure que l’informatisation s’impose et s’étend.

Les alternumérismes en question

Contre l’alternumérisme s’en prend à nombre d’initiatives pour lesquelles nous avons plus que de la sympathie. Aux acteurs qui travaillent à rendre le numérique plus durable, accusés de vouloir seulement ajouter des « paramètres environnementaux » pour justifier une croissance et des bénéfices, sans jamais questionner la démesure et le manque de sens d’une informatique même plus écoresponsable. Aux acteurs de l’émancipation individuelle et collective qui prônent le Cyberminimalisme et une reconquête attentionnelle, sans jamais remettre en question la nécessité même de ces outils qui font « écran au monde », qui prônent plus une reconquête qui tient plus du développement personnel que « d’un appel à s’organiser collectivement pour résister à la tyrannie technologique ». Pour Alep et Laïnae, nous sommes plus là dans une « écologie mollassonne » qui tient plus d’une soumission à un art de vivre connecté et allégé qu’autre chose. Mais peut-on avoir une utilisation limitée, calculée, non aliénante, intelligente du numérique ? Ne risque-t-on pas de tomber dans un relativisme résigné à la fatalité du monde numérique qui peut ainsi continuer son expansion sans entrave ? « Le citoyen moderne, toujours au bord du burn-out numérique, se retrouve obligé d’oeuvrer à sa propre « débranchabilité » pour rester dans les rails de son monde connecté, mais sans tomber dans la folie – folie qui le rendrait inutilisable aux yeux du système. » Au final, ne sommes-nous pas confrontés à une liberté réduite à sa plus simple expression, qui nous somme de trouver un espace de liberté à conquérir dans des limites que d’autres fixent par-devers nous ?

L’essai s’en prend également aux acteurs de l’inclusion numérique dénoncés comme les tenants d’un plan d’intégration massif au monde connecté, consistant à préparer tout le monde à une vie numérique, notamment ceux qui y sont le plus éloignés, par de la formation et de l’accompagnement, afin qu’il n’y ait plus aucune entrave à son déploiement. En conduisant tout le monde à s’autonomiser du numérique, nous préparons un monde qui lui soit totalement dépendant, un conditionnement dont nous n’aurons plus les moyens de nous extraire. Or, le numérique est devenu « trop complexe pour qu’aucun humain ne soit à même d’en comprendre le fonctionnement complet », rappellent les auteurs. La « banalité du mal » peut s’exercer dans la plus totale opacité, et le développeur de logiciel libre le mieux intentionné voir son code utilisé pour optimiser le tir de drones ou l’emprisonnement des migrants. Pour les radicaux, nulle part on ne nous invite à remettre en question ce déploiement numérique : partout on nous invite à y trouver notre place. On nous invite à partager collectivement les promesses du numérique, pas à s’interroger sur ce qu’il faudrait changer pour ne pas être dépossédés de nos conditions d’existence. Pour tous les alternuméristes, estiment les radicaux, le numérique est et demeure la condition du futur. C’est faire peu de cas, il me semble, de certains refus : de formes de refus de certaines technologies (comme la reconnaissance faciale…), du fait que certaines critiques du numérique souhaitent que le numérisme ne soit pas la seule et unique modalité d’accès au monde (par exemple en défendant que, malgré le plan de modernisation de l’administration, tous les services publics demeurent accessibles hors de démarches dématérialisées, comme le soutien le Défenseur des droits dans son excellent rapport sur « Dématérialisation et inégalités d’accès aux services publics »).

Les auteurs s’en prennent également aux tenants d’un internet décentralisé comme aux libristes. Ils soulignent que le piège de l’utopie des pionniers, a « répandu partout la croyance fondamentale selon laquelle la technologie est en elle-même un vecteur de changement social positif ». C’est ce que montrait notamment Fred Turner dans Aux sources de l’utopie numérique, mais aussi Celia Izoard dans « L’utopie des technopoles radieuses »… le fantasme d’émancipation par la technologie est toujours vivace, toujours dominant. Il suffirait de « bricoler nos technologies », d’en être les coproducteurs pour pirater, réguler, l’infrastructure technocapitaliste… Or, soulignent les contempteurs du numérique : « se réapproprier l’usage des dispositifs numériques en bout de chaîne ne change rien à l’ensemble du système technicien ».

« Les technologies numériques ne sont pas réappropriables, car elles sont le fruit d’une société de masse, d’experts, constituée de rapports de domination et d’exploitation, d’infrastructures complexes et gigantesques dont les citoyens ne peuvent qu’être dépossédés : on ne mettra pas des centrales nucléaires en autogestion, de même qu’on n’impliquera pas les citoyens de manière « participative » dans l’exploitation d’une mine au Congo, ou qu’on ne produira pas de manière « écologique » des claviers en plastique, des puces en silicium, des écrans de verre, des milliers et milliers de kilomètres de câbles sous-marins. »

La critique libriste « s’inscrit finalement totalement dans le cadre juridique de la propriété et du droit d’auteur, relativisant fortement sa portée subversive ». « Le logiciel libre n’est qu’une modalité de développement informatique et de licence de diffusion, il ne remet pas en cause la recherche d’efficacité, la rationalité instrumentale qui sont au fondement des technologies numériques ». Pire, assènent les radicaux : une diffusion libre ou un développement coopératif ne sont « en aucun cas une garantie que le code produit soit bon ou utilisé à bon escient ». Le monde numérique est traversé « de phases d’hystérisation collective autour de technologies (la blockchain, l’informatique quantique, le web sémantique, le courant porteur en ligne, etc.) sorte de conjonctions entre bulles spéculatives et explosions de foi techniciennes » auxquels chacun doit se conformer, ne laissant à toute critique que des marges de manoeuvre toujours plus restreintes. L’ouverture des algorithmes ou des données, sont également renvoyés à leurs limites : « que se passerait-il si tous les algorithmes étaient ouverts ? », interrogent-ils. Est-ce que cela ne ferait que déplacer les zones d’ombres toujours plus loin, à l’image de Parcoursup où l’opacité s’est déplacée dans les critères de sélection de chaque filière de chaque université ? Personne n’assume jamais ses biais idéologiques, et l’Etat n’y fait pas exception, soulignent-ils. Si YouTube ou Facebook nous permettait de sélectionner leurs critères de recommandation, découvririons-nous autre chose que le fait que le volume de publication empêche toute éditorialisation humaine ? Certes, concèdent-ils, des algorithmes ouverts sont préférables à des algorithmes fermés. Pouvoir en exposer et en discuter les intentions est important, mais est-ce suffisant pour limiter la production et le traitement de données ? En tout cas, jusqu’à présent, malgré les alertes lancées par les alternuméristes, nous ne sommes pas vraiment arrivés à limiter ou à réduire la production et le traitement, à limiter la durée d’exploitation des données, à limiter leur exploitation proportionnellement à leur finalité, à imposer le consentement préalable… Comment ne pas être d’accord avec eux, quand ils rappellent que seul un recul drastique de l’informatisation pourrait contrecarrer les dérives actuelles ? La critique – même argumentée comme celle documentée de l’échec des technologies de vidéosurveillance -, sous quelque forme que ce soit, n’a rien fait reculer !

Même la neutralité d’internet ne trouve pas grâce auprès des iconoclastes de la Lenteur ! Sur l’internet, la centralisation joue à plein et formate nos usages toujours plus majoritaires. Certes, les usages minoritaires continuent de s’y exprimer, mais dans les marges de réseaux toujours plus omniprésents et centraux. Les réseaux sociaux distribués (comme Mastodon) et autres alternatives distribuées des alternuméristes sont finalement tout à fait compatible avec la surpuissance de Facebook. Les plateformes alternatives cohabitent avec des plateformes toujours plus hégémoniques.

La conclusion est cinglante, même si nous l’avons déjà lu : nous vivons désormais dans un système qui est devenu l’infrastructure centrale du productivisme, du scientisme, du capitalisme et de la mondialisation. Et cette infrastructure converge avec d’autres infrastructures de réseaux, les modélisant et les transformant à son image : les réseaux électriques, d’eau, d’énergie, de transport, de distribution deviennent à leur tour maillés, intelligents, communicants et interconnectés. Internet impose son lexique partout. « Croire qu’internet puisse être neutre, c’est nier qu’il est un fait social total« , c’est refuser de voir son rôle « surdéterminant », « neutralisant toute critique en la laissant s’exprimer dans les marges ». La neutralité et la liberté de choix, dans ces conditions, n’ont plus aucun sens.

La production de données peut-elle avoir d’autres finalités qu’une logique gestionnaire ?

Pour Laïnae et Alep, la transparence et la calculabilité ne sont pas des remèdes au déficit profond de démocratie inscrite dans la dynamique technologique de notre époque. L’ouverture des données n’est pas le chaînon manquant qui a permis de remettre les technos numériques au service des citoyens ni la boussole morale permettant d’entraîner les technos aliénantes vers la lumière. La charte internationale sur les données ouvertes, censées renforcer la transparence, la redevabilité, l’efficience, l’agilité et l’efficacité des gouvernements et des organisations, n’a pas produit ce qu’elle était censée produire. Depuis des années, la transparence agite le débat public : chaque scandale donnant lieu à des appels a toujours plus de transparence… sans que la publication toujours plus volumineuse de données et de chiffres ne permettent de déclencher de prises de conscience collectives. « Dans la société du spectacle, c’est toujours dans le registre du sensible que cela advient : il aura fallu la photo d’un enfant mort échoué sur une plage pour enflammer (quelques jours) l’opinion publique, les statistiques édifiantes des migrants noyés en Méditerranée n’ont jamais eu cet impact. » Quant au crowdsourcing, cette coproduction de données, que permet-il de plus ?

« Ce que nous critiquons, ce n’est pas le caractère public ou privé d’une donnée, c’est la pertinence de la « prise de données ». Résistant au puçage des troupeaux, aux technologies RFID, à la numérisation de l’école et du travail, à la mesure et au stockage de toute chose, nous défendons la thèse que la prise de données procède d’une réduction du réel et d’une dépossession. Chaque fois qu’une réalité « analogique » se trouve numérisée, il y a rationalisation en vue d’un traitement automatisé. Et une fois numérisées, les données deviennent traitables par un ordinateur, mais ne le sont plus par un cerveau humain. »

Ce qui peut être mesuré éclipse ce qui est important, un semblant d’objectivité éclipse le jugement, comme disait l’historien Jerry Muller.

La civic tech, qui prétend avec l’open data, combler l’écart entre citoyens et gouvernants se révèle également une impasse, une autre modalité de propagande du numérique qui « n’a pas su éviter les écueils de la vieille politique : entrisme, synthèse molle, scissions et luttes intestines ». Quant à la régulation, force est de constater que l’État est bien en peine de nous protéger contre le déferlement numérique : au contraire, il participe surtout de son organisation et de son développement.

On ne peut pas garder d’un côté les bons usages et rejeter les mauvais, car ce serait penser que la technique est neutre, rappellent fort à propos les technophobes. « Le progrès et la catastrophe sont l’avers et le revers d’une même médaille », disait déjà la philosophe Hannah Arendt. « Il n’y a pas de rationalisation de la production sans aliénation des producteurs, pas d’économie numérique sans concentration capitalistique, pas de nucléaire (…) sans ses déchets radioactifs. La numérisation à l’oeuvre actuellement nous surconnecte à la société et nous déconnecte du monde. » « Défendre les bons usages du numérique revient à défendre les bons usages d’une drogue dont on omettrait les potentialités délétères pour se concentrer sur le côté agréable et enrichissant du trip », ironisent Alep et Laïnae. Quant aux possibilités de contrôle face à un changement qui s’opère à une vitesse surhumaine… l’éthique semble toujours courir derrière la technoscience. Quand bien même nous parviendrions à distinguer le bon usage du mauvais, nous restons pris dans les rets d’un projet de société qui promeut l’immédiateté, la puissance, l’énergie et les ressources illimités… et pire, un emballement d’ensemble inéluctable.

Là où l’adresse des technophobes résonne avec nos propres interrogations, c’est quand ils nous disent avec raison que nous n’avons pas réussi jusqu’à présent à contenir une technologie, à arrêter son développement, à maîtriser ses dangers quand bien même leurs coûts pour le vivant aient été désastreux. C’est pourquoi Jacques Ellul parlait de terrorisme feutré de la technologie : elle n’agit pas en terrifiant, mais en normalisant, en banalisant, en se rendant incontournable, indiscutable, évidente… sans proposer d’alternative à l’ordre industriel qui vient. La possibilité concrète de vivre sans smartphone pourrait demain disparaître, quel que soit le degré de marginalité dans lequel on vit. La perspective de services publics 100 % dématérialisés d’ici 2022 nous adresse un futur numérique sans alternative.

Face à l’emprise technologique, peut-on ne pas être radicaux ?

Ce livre interroge le sens de notre opposition quand elle n’est pas radicale ? Peut-on s’opposer mollement ? Il adresse en creux une question à notre liberté… La liberté est-elle de rejeter toute contrainte ou de trouver les moyens de vivre avec certaines d’entre elles, même imposées par-devers nous ? Il pose également une question morale, où la morale des uns est toujours meilleure que celle des autres. Finalement, les technophobes nous disent que leur moral est meilleur que celle des alternuméristes. Nous pouvons leur adresser le constat inverse, sans départager personne : oeuvrer à réformer la technologie n’est-il pas le seul rempart à son déploiement total ? Reste que la critique de fond, celle d’un monde numérique inévitable, sans possibilité d’en sortir, auquel nous sommes sommés de nous adapter est une perspective.

Bien sûr, on ne peut que nous retrouver dans nombre de critiques qu’ils adressent. Oui l’open data est bien souvent restée inoffensive. Oui, l’inclusion numérique semble un leurre face à la manière dont sont opérés et conçus les systèmes. Oui, la transparence des algorithmes semble une quête vaine, qui n’adviendra pas sans volonté politique… Peut-être que cet alternumérisme auquel nous croyons ne fait que nous anesthésier, nous leurrer sur notre possibilité à changer le cours des choses. Effectivement, comme l’ont pointé nombre d’alternuméristes, nous passons bien souvent plus de temps à combattre les mythes et promesses du numérique qu’à faire avancer une autre feuille de route pour le numérique.

Contre l’alternumérisme adresse à ceux qui souhaitent un autre numérique une question de fond : jusqu’où le système doit-il être ajusté, réparé, ouvert, responsable ? Il nous adresse une question sur les limites des systèmes techniques : jusqu’où le numérique doit-il être déployé ? Quels territoires doivent être préservés ? Pourquoi ? Comment ? Et cette question est d’autant plus difficile à adresser que le numérique s’étend et s’intrique, comme toujours plus hors de contrôle. Notre volonté à voir advenir un autre numérique achoppe à définir des limites à son extension sans fin, à interdire des pratiques (et pas seulement à les réguler). Dire que les alternuméristes se bercent d’illusions quant à la possibilité de régulation du rouleau compresseur numérique, nous parle forcément, tant justement nous n’avons pas réussi jusqu’à présent à ne serait-ce que limiter son emprise quelque part. « Ni les commissions d’éthique ou de contrôle, ni les normes, ni les utilisations « réfléchies » ne permettent de maîtriser le système technicien » : on ne contrôle rien si on ne contrôle pas tout ! Devons-nous, pouvons-nous pourtant attester seulement de notre impuissance ? Pouvons-nous réduire les nuisances ? Ou sommes-nous confrontés à une mégamachine hors de contrôle ? Que la technologie soit open source ou écoresponsable change-t-il vraiment la donne ? Oui, nous avons certainement besoin d’une désescalade : mais le numérique peut-il la porter ? « Rien d’humain ne sera possible sans une remise en cause des dogmes du développement industriel et du tout numérique ». Faut-il s’extraire de l’utopie numérique pour prendre en compte les exigences du réel ? Faut-il décâbler le monde ?

On peut constater avec les plus radicaux technocritiques que l’alternumérisme, ce mouvement réformiste, n’a effectivement fait bouger aucune ligne – autrement qu’à la marge -, notamment depuis la désillusion Snowden. Quelle est la portée de notre réformisme quand il répond surtout aux actions des pourvoyeurs de technologies sans parvenir à changer la donne ? Finalement, notre réformisme s’enlise-t-il de n’être pas assez radical ?

J’avoue que je ne sais pas comment répondre aux adresses de ce livre. Il me semble qu’il demeure important d’oeuvrer à un autre numérique, à une autre société… Mais nous devons également faire le constat que notre critique demeure marginale. Que nous avons beau plaider pour un autre numérique, celui-ci n’advient pas, au contraire, il semble chaque jour être relégué un peu plus loin. Qui s’opposera au monde qui vient ? Qui s’opposera à l’injustice si personne ne montre ses nouveaux habits à l’oeuvre dans le numérisme ? Qui appellera à la responsabilité des technologies si nous nous enfermons dans leur refus pur et dur ?

Le livre de Julia Laïnae et Nicolas Alep nous interpelle, mais pouvons-nous y répondre ? Il nous invite à nous radicaliser, à faire entendre plus forts nos refus et nos valeurs. Effectivement, les alternuméristes que nous sommes n’ont pas remporté beaucoup de batailles ces dernières années. Peut-être même avons-nous cédé plus de terrain qu’autre chose. Est-ce que cela signifie que nos combats ne sont pas les bons ? Que nos convictions ne sont pas assez fortes ? Que nous sommes trop timorés ? Peut-être bien. Nous avons beau pointer les errements technologiques, ces dénonciations n’ont pas eu l’impact espéré.

Il me semble que nous pouvons peut-être encore être pour l’alternumérisme. Mais ce qui tenait de l’affirmation devient chaque jour un peu plus une interrogation, tant ce que nous prônons, finalement n’arrive pas à devenir autre chose qu’un instrument, un argument même pour permettre aux excès du numérisme de devenir toujours plus excessifs. Si la promesse de régulation ou la promesse de faire revenir l’innovation dans le giron du progrès social qui anime les alternuméristes ne remporte aucune victoire, il nous faudra bien convenir que les radicaux ont eu plus raison que nous. À lire Contre l’alternumérisme, on se sent tout de même en panne d’arguments. Là, où nous les rejoignons finalement, c’est qu’on sent bien que l’informatisation du monde ne nous mène pas au bon endroit. Que bien souvent, voire de plus en plus souvent, il nous faudrait désinformatiser le monde plutôt que seulement le réguler. Que nous devrions de plus en plus définir des territoires où l’informatique ne devrait pas pénétrer, sans voir toujours clairement lesquels ou comment. Nous voyons bien que nous devrions séparer les pouvoirs plutôt que les intriquer plus avant, alors que le numérique facilite leur confusion… Or nous n’avons pas toujours les outils ou les pouvoirs pour cela. Limiter l’informatisation du monde n’a pas fonctionné. Nous pouvons continuer à prôner un numérique alternatif, mais effectivement, le risque est que nous continuions à fournir des efforts dans le vide. Ce petit livre technocritique fait écho à nos inquiétudes… Et interroge profondément ce que nous n’avons pas accompli. Comme disait Félix Tréguer, avec l’IA, le Big Data et l’alliance entre États et plateformes, nous refermons l’utopie émancipatrice de l’informatique personnelle qu’évoquait Fred Turner. Nous sommes confrontés à un contrôle social toujours plus invasif qui se fait avec l’accord des privilégiés au détriment des plus démunis, à des dispositifs qui ne cessent de s’étendre et de se déployer de manière inexorable et sans grande résistance. Comme le disait récemment Félix Tréguer : cela fait 40 ans qu’on nous propose de miser sur la transparence, l’auditabilité, l’éthique, la réglementation pour protéger nos libertés… sans y parvenir. Ce petit livre interroge les horizons politiques que nous avons à construire en commun. Nous invite à arrêter des machines. Reste à savoir si nous souhaitons toutes les arrêter ? Et si ce n’est pas toutes, lesquelles ? Il interroge nos possibilités d’actions qui effectivement se réduisent à mesure que le numérique innerve la société tout entière. Il nous adresse une question de fond : à défaut de ne pouvoir ou de ne devoir jamais peser sur les choix technologiques, devons-nous nous radicaliser plus avant ? Contre l’alternumérisme est un livre qui nous amène à douter, à interroger le numérique que nous défendons. Ce n’est pas une petite vertu !
Les livres mentionnés dans cet article peuvent m'intéresser, en plus de Penser en algorithmes, de Brian Christian et Tom Griffiths, que je viens d'acheter (en plus de cinq autres livres, et de quatre autres commandés :lol: ), une idée étant de ne pas "déléguer" certaines de nos capacités cognitives à la machine (notamment la mémoire, la recherche d'informations, l'observation, la recherche de compréhension, l'adaptation, la décision), ou le moins possible.

L'article mentionne aussi Jacques Ellul. Vous pouvez aussi lire La société du spectacle, de Guy Debord, et Oeuvres complètes (tomes 1 et 2), d'Ivan Illich. :mrgreen:
Pardon, humilité, humour, hasard, confiance, humanisme, partage, curiosité et diversité sont des gros piliers de la liberté et de la sérénité.

- Ah ! j'ai été diagnostiqué Asperger Haut Potentiel à Cery (CH) en l'été 2014, mais tu le savais. :)

Avatar du membre
freeshost
Forcené
Messages : 28293
Enregistré le : lundi 15 juillet 2013 à 15:09
Localisation : CH

Re: [Index] Libertés : pour parler des libertés, y compris numériques...

#1177 Message par freeshost » jeudi 14 mai 2020 à 17:49

De l’explicabilité des systèmes : les enjeux de l’explication des décisions automatisée
Spoiler : Citation : 
Hubert Guillaud
14/11/2019

Étymologiquement, expliquer, c’est déployer, déplier, c’est-à-dire soulever les ambiguïtés qui se cachent dans l’ombre des plis. C’est donc également « ouvrir » (avec tout le sens que « l’ouverture » – open – a acquis dans le monde numérique), défaire, dépaqueter, c’est-à-dire non seulement enlever les paquets, dérouler les difficultés, mais aussi montrer les noeuds qu’ils forment et comprendre pourquoi ils se forment. Expliquer, c’est clarifier. Mais clarifier comment ? Pour qui ? Que faut-il expliquer (et donc que faut-il ou que laisse-t-on dans l’ombre des plis ?) ? A qui ? Dans quel but ? Quels types d’explications doivent être disponibles ? Quand et où doivent-elles être disponibles ?… Voici quelques-unes des questions qui se posent quand on s’attaque à la question de l’explicabilité des systèmes techniques, notamment des processus algorithmiques et d’intelligence artificielle, mais également de nombres de technologies complexes, de « boîtes noires » auxquelles nous sommes de plus en plus confrontés. Qu’est-ce qu’expliquer ? Comment doit-on expliquer ce qui se dérobe à l’explication ? Explications sur l’explication.

En philosophie on distingue souvent expliquer de comprendre. Dans le Phédon de Platon, Socrate qui dialogue avec ses amis alors qu’il va mourir explique pourquoi il reste là à dialoguer. Il distingue alors l’explication (qui repose sur des causes physiques, simples, causales de son comportement) de la compréhension (qui nécessite d’entendre les raisons et les valeurs de ses actes). Mais l’une et l’autre ont parties liées. Car expliquer, c’est également amener à comprendre. En ce sens, l’un et l’autre sont également un moyen d’action qui peut amener à générer de l’adhésion, ou au contraire, du rejet ou de la contestation. Expliquer, tout comme comprendre, c’est donc également actionner, c’est-à-dire rendre l’action et la transformation possible.

Le philosophe David-Hillel Ruben qui a consacré dans les années 90 un livre (.pdf) à l’explication de l’explication conclut son ouvrage en soulignant que l’explication est « ce qui relie les relations déterminantes », c’est-à-dire qu’elle consiste à montrer ce qui est responsable de ces relations et ce qui les fait, les fabrique, telles qu’elles sont.

Expliquer pour faire société

La question de l’explicabilité des systèmes techniques et notamment des décisions automatisées est un enjeu éthique fort de l’automatisation de nos sociétés, soulignent le philosophe et éthicien italien Luciano Floridi et le chercheur Josh Cowls dans un passionnant article de recherche sur les principes éthiques de l’IA. Pour les deux chercheurs, la question de l’explicabilité, comprise à la fois comme l’intelligibilité (c’est-à-dire la réponse à la question « comment ça marche ? ») et l’éthique de responsabilité (c’est-à-dire la réponse à la question « qui est responsable de la façon dont ça marche ? ») est la modalité qui permet l’application d’une IA éthique et juste. Nombre d’articles de recherche insistent sur la nécessité de rendre les systèmes explicables, c’est-à-dire de comprendre les processus décisionnels de l’IA pour que les utilisateurs comme la société puissent lui demander des comptes. Ce principe d’explicabilité s’exprime souvent sous différents termes allant de la « transparence » à la « responsabilité », en passant par « l’ouverture », « l’intelligibilité » ou « l’interprétabilité ».

L’explication : un enjeu technique ?

La question de l’explicabilité est donc d’abord un enjeu technique, un champ de recherche en soi (on parle d’ailleurs de XAI, pour Explanable artificial Intelligence), d’autant plus important que la performance des techniques d’IA est inversement proportionnelle à leur explicabilité (voir « L’intelligence artificielle va-t-elle rester impénétrable ? » et « Intelligence artificielle : comment sortir de l’opacité ? »). L’apprentissage automatique profond par exemple est l’une des techniques dont les modalités de calculs et les résultats restent les plus obscurs, même à leurs programmeurs. Ce n’est pas pour rien que l’on parle de « boîtes noires » quand on évoque les systèmes de traitement automatisés (cf. « Il est plus que temps que le Big data évalue ses impacts »). L’explicabilité est donc souvent un compromis entre performance et explication. Ce n’est pas le plus simple de ses paradoxes. L’amélioration technique de l’explicabilité des systèmes, notamment en IA, est donc un champ de recherche en soi, qui vise à ce que les systèmes expliquent ce qu’ils font comme leurs résultats, les critères de leurs succès comme de leurs échecs. C’est un champ de recherche qui pour l’instant n’a pas proposé de fortes percées techniques, mais qui renouvelle et approfondit l’épistémologie de l’explication.

D’ailleurs, il se pourrait que ce champ de recherche ne représente qu’un vain espoir, avancent les spécialistes Erwan Le Merrer et Gilles Trédan dans un récent article (.pdf). Pour eux, la quête d’une intelligence artificielle explicable est inatteignable. En fait, expliquent-ils sur AlgorithmWatch, un système peut très bien donner une fausse explication, comme le videur d’une boîte de nuit peut affirmer qu’il ne vous laisse pas entrer parce que vous n’avez pas la bonne cravate ! Un peu comme dans la vie réelle, la véritable raison peut toujours être couverte d’une autre explication. Pour AlgorithmWatch, ce constat plaide pour le développement d’autorités de contrôle et d’enquêtes indépendantes. Comme aujourd’hui les associations peuvent procéder à du « testing » pour évaluer les cas de discrimination à l’entrée des boîtes de nuit, nous avons besoin de pouvoir continuer à réaliser ces tests par delà les explications qui sont fournies par ceux qui déploient les systèmes. Reste que cela nécessite bien sûr des accès les plus ouverts possible au fonctionnement même de ces systèmes, ce qui est bien loin d’être le cas. Bien loin d’être seulement un enjeu technique, l’explicabilité se révèle d’abord et avant tout un enjeu de société. Kate Crawford ne disait pas autre chose quand elle soulignait l’importance de la recherche, de la presse et des associations citoyennes pour débusquer les biais des systèmes.

L’explication est interdépendante et à multiple niveau

Comme nous le notons depuis le début de cet article, l’explicabilité est foncièrement polysémique. Dans le cadre des réflexions réalisées par le groupe de travail Nos Systèmes, nous nous sommes rendu compte que l’explicabilité recouvre une large gamme d’explications, allant d’explications « procédurales » (comment faire, concrètement ? Quelles formalités accomplir ? Quelle succession d’opération exécuter ?…) à la compréhension des critères (quels sont les éléments pris en compte et quels sont leurs « poids » relatifs les uns par rapport aux autres ?) en passant par la clarification des enjeux et motivations (pourquoi ce système ? Que fait-il… ? Et donc que ne fait-il pas ?…).

Outre la gamme d’explications à délivrer, un autre problème concerne les explications elles-mêmes : comment les délivrer ? Une question qui pose à la fois celle de savoir jusqu’où les explications doivent aller (et donc, lesquelles sont passées sous silence) et celle de leur interfaçage avec les systèmes techniques (où et quand doivent-elles être disponibles ?).

En fait, bon nombre de ces notions sont interreliées et interdépendantes. Le niveau d’automatisation du calcul (c’est-à-dire, le fait qu’il prenne des décisions sans interférence humaine) est lié à son explicabilité et son auditabilité (le fait qu’il soit vérifiable, examinable par des tiers). De même le niveau de médiation ou de dialogue influe sur l’explicabilité d’un système : le fait que le traitement propose des modalités de contact ou pas pour demander des explications, le fait qu’il propose (ou pas) une variété de supports d’explications (des FAQ aux vidéos, des schémas aux visualisations, des infographies aux tutoriels en passant par les simulateurs ou par des explications textuelles permettant plusieurs niveaux de compréhension…) ou des réponses personnalisées (avec des garanties sur les délais de réponses voire des modalités offrant des contreparties et des possibilités de recours à l’encontre d’une décision)… sont autant d’éléments qui influent sur l’explicabilité.

On constate au final que plusieurs niveaux d’explications sont possibles… Pour faire simple, les explications peuvent être :

- nulles voire faibles : les explications délivrées sont génériques, procédurales, peu informatives, incomplètes, voire déloyales.

- moyennes : les explications peuvent utiliser des formes multiples (textes, bases de connaissance, vidéos, infographies…) mais demeurent générales avec un degré de profondeur, de complétude, de fiabilité ou de précision faible.

- fortes voire exemplaires : les explications sont personnalisées, voire interactives, précisent les critères, les intentions, les modalités, documentent les résultats avec un degré de précision, de loyauté et de clarté élevé et permettent aux utilisateurs de contester voire leurs offrent des garanties et des modalités de recours en cas d’explication fausse ou insuffisante.

L’explication, une obligation légale et morale

Expliquer – c’est-à-dire motiver les décisions – est essentiel. Comme le rappelait très justement Simon Chignard, conseiller stratégie à Etalab : l’explicabilité est aussi et avant tout une obligation légale. Apporter une explication raisonnable, même imparfaite, est nécessaire pour établir une relation de confiance entre le calcul et les calculés, entre un système et ses administrés. Le RGPD a d’ailleurs introduit un droit d’explication des décisions automatisées. Reste que ces explications doivent être également adaptées au public et justes. Or, le risque bien souvent est de fournir des explications inadaptées aux publics auxquels elles s’adressent, partielles voire partiales, incomplètes ou trop simplistes, ou pire, fausses et mensongères, comme lors d’un refus de crédit qui peut vous donner une raison de refus, alors que la raison principale est tout autre (le fait que vous viviez seul par exemple, que vous soyez une femme ou une personne de couleur… à l’image des très récents soupçons à l’égard de la carte de crédit d’Apple). Un enjeu qui pose une question de fond sur la loyauté des explications elles-mêmes et donc leur contrôle. En ce sens, l’explicabilité est donc à la fois une obligation légale – car le résultat et la modalité d’un calcul doivent pouvoir être rendus au calculé – ce qui suppose des modalités de contrôle. Et une obligation morale : car un système qui délivre un résultat à quelqu’un doit pouvoir le justifier, précisément, fidèlement et factuellement.

L’explicabilité n’est donc pas négociable. Ce qui n’est pas explicable ne peut entrer en discussion avec la société. « L’absence d’interprétabilité n’est pas une option », disions-nous. La philosophe Antoinette Rouvroy nous rappelait qu’il n’y a pas de société sans motivation des décisions, que les finalités d’un traitement doivent nous être transparentes. Que les motivations d’une décision doivent être communiquées et communicables sous une forme intelligible. Pourtant, trop souvent encore, l’explication résiste, notamment parce que les ingénieurs soulignent que fournir des explications fait peser un risque sur la qualité ou la robustesse d’un système. Pour beaucoup de responsables des traitements, les expliquer ou les ouvrir fait peser un risque de subversion, de détournement, comme si la transparence de l’explication faisait peser un risque sur la qualité du traitement lui-même. Chez les data scientists qui conçoivent les algorithmes et les systèmes automatisés, il y a partout une réticence à l’explication par peur d’un « effet rebond » à l’image du Google Bombing qui a longtemps permis aux internautes de se jouer des résultats de Google en y introduisant des formes de détournement. Or, l’opacité des calculs permet surtout de masquer leurs lacunes, leurs faiblesses, leurs failles, c’est-à-dire leurs défauts, les injustices, les biais et les inégalités que les chiffres recouvrent, expliquait brillamment la mathématicienne Cathy O’Neil. Idéalement, un calcul qui mesure parfaitement ce qu’il prétend ne devrait pouvoir être subverti par sa propre transparence. Comme le pointait très récemment la commission éthique des données du gouvernement allemand, plus un système a un impact social, c’est-à-dire un impact sur la vie et l’existence d’individus, plus ceux-ci doivent être contraints à la transparence et contrôlés afin qu’ils mesurent bel et bien ce qu’ils annoncent mesurer.

Où sont les explications ? Vers une échelle des niveaux d’explications ?

L’explication est le parent pauvre des systèmes techniques. Bien souvent, les explications sont tout simplement absentes, comme si elles n’étaient pas nécessaires au fonctionnement des systèmes. Dans le monde de l’innovation, on nous propose souvent une solution avant même de nous expliquer comment elle fonctionne. L’explication vient parfois plus tard. Et nombre de systèmes fonctionnent sans fournir beaucoup d’explications sur ce qu’ils font, comment ils le font, dans quel but et sans proposer de garanties ne serait-ce que sur la fiabilité de leurs explications donc…

Le refus d’explication

Outre leur absence, bien souvent, les explications nous sont refusées. C’est le cas par exemple des « recettes » utilisées par les commissions d’examen des voeux de chaque filière pour trier les candidatures sur Parcoursup. Sous prétexte de protéger les délibérations pédagogiques des jurys d’admission, les algorithmes locaux permettant aux filières de trier les milliers de candidatures qu’elles reçoivent ont été exclus de la règle de communication au public (au prétexte que la loi n’oblige les universités à n’informer que les candidats qui en font la demande). Or, nombre de filières (on estime que c’était le cas de 25 % d’entre elles en 2019) ont mis en place des outils de classement des candidats à l’image des feuilles Excel que montrait Julien Gossa en 2018, permettant par exemple de trier les élèves selon leur lycée de provenance (une pratique discrète qui entérine la sélection sociale). Ce dernier pointait d’ailleurs très bien combien l’évaluation des candidats était compliquée, pour ne pas dire impossible. Il n’empêche que mieux saisir les attendus des filières, leurs critères de classements et de tris, demeure un moyen de comprendre les motivations des sélections… mais dans parcoursup, cette compréhension qui est refusée au candidat est bien souvent démultipliée par le fait que chaque filière va utiliser une méthode qui lui est propre, comme autant de recettes auxquelles il est difficile de se conformer.

Ce n’est bien sûr pas le seul endroit où les explications nous sont refusées. Nombres de demandes que nous pouvons accomplir auprès de systèmes qui s’appuient sur des traitements et calculs prennent en compte des critères qui ne sont pas tous explicites. Les demandes d’affectation pour un poste, les demandes de crédits ou les systèmes de tris automatisés de candidatures à des emplois font parti des systèmes automatisés qui délivrent peu ou pas d’information sur leurs modalités, sur les critères utilisés ou d’explications sur leurs décisions. Nous sommes là confronté à un déni d’information et un déni démocratique qu’il est nécessaire d’armer, en obligeant à la démultiplication des explications des procédures de calcul.

Le code et la transparence : l’explication technique

Au mieux, pour les plus ouverts des systèmes de traitement, on trouve une explication technique : le code, voire la formule du calcul est directement accessible. Parfois elles sont accompagnées d’indications sur les données utilisées et leur pondération dans le calcul… C’est là une explication technique pour technicien. Elle est souvent précieuse, primordiale, mais ne parle qu’aux techniciens, pas à la société à laquelle des explications sont dues. Elle nécessite d’être décodée, dépliée, interprétée, argumentée… Mais, depuis le code, des tiers (associations, citoyens, médias…) peuvent s’en emparer pour interroger la construction qui a eu lieu. C’est le cas notamment de nombre de projets publics qui publient leur code source en accès libre (sur Github) comme LexImpact, un outil qui permet d’estimer l’impact de réformes législatives sur des foyers fiscaux types. Ou encore La Bonne Boîte, un outil qui indique les entreprises qui embauchent pour permettre aux demandeurs d’emploi de mieux cibler leurs candidatures spontanées.

La vraie limite de cette explicabilité technique est qu’elle ne s’impose qu’aux projets qui ont une obligation légale de transparence, et particulièrement aux projets portés par des acteurs publics ou militants, et pas du tout à la plupart des projets privés, même si ceux-ci ont un impact fort sur la vie des gens (comme des systèmes d’attribution de crédit, de police ou de justice, ou de sélection à l’emploi).

La multimodalité des niveaux d’explications

Nombre de systèmes font néanmoins des efforts pour expliquer ce qu’ils font. Certains livrent des explications très simples et basiques, accessibles au plus grand nombre, mais souvent lacunaires voire parcellaires (et là on peut se poser des questions sur l’intention de ces explications et surtout sur leurs limites, visant parfois à masquer ce qui n’est pas expliqué). Beaucoup proposent des explications procédurales, c’est-à-dire qui expliquent les procédures à suivre, plus que les finalités ou les objectifs du système. Certains proposent des explications assez complètes, à l’image du Score Coeur (.pdf), l’algorithme d’attribution des greffons cardiaques réalisé par l’Agence de biomédecine ou encore cette notice détaillant le calcul de la taxe d’habitation sous forme d’un mode d’emploi synthétique… Deux exemples qui soulignent combien l’explication, quand elle se veut loyale et exhaustive, scientifique, demeure néanmoins un processus touffu, dense, compliqué et qui est donc, par nature, difficile d’accès au plus grand nombre.

Enfin, bien plus rares sont les explications qui permettent de personnaliser les éléments du calcul qui ont été opérés, de délivrer des explications personnalisées donc. Ainsi, Facebook par exemple propose de multiples formes d’explications et d’aide sur son fonctionnement (sur l’utilisation des données, sur le fonctionnement du fil d’actualité et sur l’ordre des publications dans le fil d’actualité comme sur les publicités). Cette large gamme d’explications plutôt claires (on y trouve à la fois des textes, des vidéos, des datavisualisations, des graphes… et même des modules interactifs comme le fait d’expliquer par un exemple d’un article de votre flux provenant de votre compte ce qui justifie que vous le voyez apparaître sur votre mur), est-elle pour autant accessible à tous les utilisateurs de FB ? Est-elle complète ? Est-elle loyale ? Ainsi, FB explique par exemple que l’ordre des publications dans notre fil d’actualité est lié à la fréquence d’interaction, au type de publication, aux réactions qu’ont déjà reçu ces publications et à leur caractère récent. Mais des milliers d’autres facteurs entrent en ligne de compte explique la page. Aucun mot n’est dit par exemple sur le fait que FB nous partage plus volontiers des contenus de nos amis qui rejoignent des thématiques qu’il a identifiées comme importantes pour nous, alors que c’est là un critère fort de l’affichage. Par contre, s’il nous propose des modalités pour réguler cet affichage, notamment en sélectionnant mieux les personnes, les pages ou les groupes que l’on suit, mais pas les thématiques qu’il nous attribue. Les explications sur le fonctionnement de FB sont pourtant parmi les plus riches qu’on puisse trouver, mais on voit rapidement leurs limites. Qu’est-ce qui nous est tue ? Qu’est-ce que l’effort d’intelligibilité masque ? Pourquoi le lien entre ce qui nous est affiché et le modèle économique de Facebook n’est-il pas plus clair ?

Simulation et jouabilité : l’explication actionnable

Les simulations et les possibilités de jouabilité sont plus rares encore, mais elles sont particulièrement stimulantes notamment parce qu’elles offrent souvent l’avantage de permettre une compréhension plus fine et donnent à celui qui reçoit les explications des moyens pour contextualiser et adapter sa réponse aux explications. Les systèmes jouables permettent souvent de montrer un peu mieux la complexité qui opère. La jouabilité a pourtant des limites : rares sont les explications qui expliquent et motivent les choix qui ont été faits, les décisions qui ont été prises, les critères qui ont été retenus et écartés. Rares donc sont les spécifications qui proposent de rendre les choix qui ont été faits plus transparents. Peu proposent des descriptions du calcul, des données utilisées. Encore moins proposent de montrer ou d’évaluer une autre méthode de calcul qu’il aurait été possible de proposer.

Dans cette gamme d’explications jouables, on trouve par exemple, les explications à explorer (voire notre dossier : Vers un design de la médiation, jouer avec les interfaces). Des explications interactives permettant une compréhension active via des procédés interactifs, afin de développer « une intuition sur le fonctionnement d’un système », comme le disait leur concepteur, Victor Bret. Parmi les nombreux outils de ce type, on peut également signaler celui réalisé par le studio Dataveyes pour Outbrain, l’agence de recommandation de contenus sponsorisés qui avait besoin d’expliquer à ses clients comment leur algorithme allait placer leurs contenus publicitaires (voir nos explications détaillées : « Vers des algorithmes exemplaires »). Récemment, la Technology Review a proposé une explication explorable pour aider à comprendre les limites de Compas, le très controversé algorithme de calcul du risque de récidive utilisé par la justice américaine. Dans le cadre de son effort vers une « intelligence artificielle de confiance », IBM Research a publié une boîte à outils open source permettant de comprendre plusieurs modèles d’apprentissage automatique, notamment un petit outil pour comprendre les résultats de l’évaluation Fico, qui attribue un score à chaque Américain souhaitant emprunter (selon divers critères, notamment l’historique de paiement et les emprunts que vous avez déjà à charge). Le petit démonstrateur montre d’ailleurs que les explications du calcul sont différentes selon qui l’utilise : il fournit des réponses différentes selon qu’on est un spécialiste des données, un agent chargé de calculer le crédit ou un client.

L’explication forte

On pourrait enfin proposer un ultime niveau sur l’échelle de l’explication : une forme d’explication forte, qui reprendrait toutes les qualités des précédents niveaux et y ajouterait une forme de garantie, de responsabilité à l’égard de ceux à qui on explique. C’est-à-dire qui garantirait un droit de réponse, de contestation, d’amélioration… Voire même des contreparties ou des procédures facilitant la contestation ou les compensations, en cas de défaut d’explication. Bref, des formes de « symétrie » des traitements où les explications délivrées aux calculateurs seraient équivalentes aux explications livrées aux calculés, où les stratégies des calculateurs seraient transparentes aux calculés et garanties.

Pour l’instant, nous n’avons pas trouvé d’exemple pour illustrer cet idéal.

Les explications pour qui ? Les explications comment ?

Cette échelle des niveaux d’explication est pourtant incomplète. Il lui manque notamment deux facteurs : les publics et les interfaces.

La question de savoir à qui se destinent les explications est importante. Bien souvent, on ne trouve des explications que pour un seul niveau de public, alors que celui-ci est bien souvent multiple. Dans les systèmes techniques, l’explication demeure majoritairement technique : elle est avant tout destinée aux ingénieurs, aux développeurs voir aux agents qui vont être amené à interagir avec le système, qui vont devoir développer des outils qui vont s’y brancher, qui vont discuter avec. Bien souvent, elle vise à rendre les ambiguïtés interprétables plus qu’explicables, c’est-à-dire à expliciter les choix de paramètres, leur pondération… Mais malgré leur technicité, ces explications ne sont pas complètes : elles cachent souvent le coeur du système qui relève du secret commercial, privilégiant seulement les options de branchements, les modalités de choix, les procédures accessibles (pas celles qui ne le sont pas). L’expérience montre que bien souvent un système automatisé doit rendre des comptes et des explications à plusieurs types de publics : des autorités de contrôle, des agents chargés de procéder ou d’accompagner le calcul et le public (qui n’est pas non plus unique : les explications ne sont pas les mêmes pour tous publics, pour des enfants ou des adultes par exemple, pour des patients ou pour leur famille, pour des personnes en interne et des personnes extérieures…). Les publics des calculs sont donc multiples, pluriels… Et les explications qu’il faut délivrer aux uns ne sont pas toujours de mêmes natures de celles qu’il faut délivrer à d’autres. Nous avons pour notre part constaté que nombre de projets ont tendance à réduire leurs explications à un utilisateur idéal, oubliant la pluralité des publics qui sont les leurs, et ce alors que la mise en place de systèmes automatisés perturbe toute la chaîne de compréhension du fonctionnement d’une organisation ou d’un calcul.

Enfin, la question de savoir où sont disponibles ces explications est importante. Bien souvent, les explications sont décorrélées de l’outil lui-même, à la manière d’un mode d’emploi papier pour une machine électronique. Les explications sont trop souvent encore à aller les chercher à côté des systèmes. Il faut aller les trouver dans une nasse d’information complexe ou dans des documents extérieurs aux outils eux-mêmes. Elles sont rarement là où on en a besoin, au coeur des interfaces qu’on explore et qu’on ne comprend pas. La plateforme Données & Design de la Cnil donne un exemple parlant d’information contextualisée intégrée au parcours utilisateur : chaque demande d’information relative aux données personnelles lors du parcours d’inscription est explicite. À chaque étape de l’inscription, d’une interaction, des explications sont délivrées, exactement là où elles sont nécessaires.

Polysémiques, multifacettes, continues… : à quoi servent les explications ?

Expliquer semble simple. Mais comme on vient de la voir, à l’heure des systèmes techniques, l’explicabilité n’est pas seulement polysémique, elle est également multifacette.

Comme le soulignent Robert Hoffman, Shane Mueller et Gary Klein, dans leur article « Explaining Explanation for « Explainable AI » », il est nécessaire d’interroger à quoi servent les explications, de comprendre ce qu’elles accomplissent, leur but. Ainsi, rappellent les chercheurs, l’explication est un processus continu. Fournir une explication n’est pas une fin en soi pas plus qu’il n’est une chose que l’on fait une fois pour toutes : cela ne consiste pas à fournir un matériel didactique plus ou moins satisfaisant. Une explication sert à créer de la confiance à toutes les étapes des interactions, ce qui signifie que l’utilisateur doit être capable d’explorer activement les choix dont il dispose et notamment les erreurs possibles.

L’explication est également un processus de co-adaptation : ce n’est pas seulement des instructions ou des informations qu’on délivre à une personne, c’est une collaboration entre celui qui explique, celui qui reçoit l’explication et le système. L’explication est par nature participante et par exemple, doit savoir s’adapter à ce que le destinataire comprend et même, idéalement, s’adapter en retour.

L’explication doit être « déclenchable » insistent-ils : tout n’a pas besoin d’être expliqué. Par contre, il faut saisir les éléments qui nécessitent de déclencher des explications appropriées.

L’explication est également une exploration : elle doit aider l’utilisateur à comprendre les limites du système. Elle doit aider l’utilisateur à comprendre de lui-même : montrer ce qui n’est pas fait pour mieux montrer ce qui est accompli.

Pour le dire plus simplement, une explication sert à comprendre, à discuter et à contester. Elle n’est pas un outil de communication qui doit faire disparaître ses biais, ses erreurs ou ses choix. Elle est un outil loyal qui doit montrer ses lacunes et ses failles, qui doit aider à améliorer le système et le calcul.

Qu’est-ce qu’une bonne explication ? Les caractéristiques d’une bonne explication

Vers des explications contrastables, actionnables
L’iconoclaste Tim Miller a étudié plus de 250 articles scientifiques dans le domaine de la philosophie, de la psychologie et des sciences cognitives pour mettre en avant que la principale caractéristique d’une bonne explication est d’être contrastive (qu’on pourrait traduire par « contrastable » ou « comparable »). Les gens ne demandent pas « pourquoi il y a quelque chose ? », mais plutôt « pourquoi il y a quelque chose plutôt que rien », rappelle-t-il. C’est-à-dire qu’une explication ne se déroule pas pour elle-même, mais en contexte, en regard d’autres éléments. Le caractère « contrasté » permet aux gens de mieux mesurer la différence entre ce à quoi ils s’attendaient et le résultat (et d’interroger ce qu’ils ne savent pas). Donner une explication contrastée est souvent d’ailleurs plus simple pour celui qui doit fournir l’explication. L’enjeu n’est pas de donner toutes les explications ou toutes les causes, mais de permettre de les balancer entre elles, de rendre les explications actionnables, jouables !

Pour mieux comprendre ce qu’est une explication contrastable ou actionnable, donnons un exemple. L’un des meilleurs est celui qu’a conçu l’agence de design britannique IF pour Flock, une assurance pour drone qui peut être souscrit à la volée. Ce travail a consisté à montrer, dans le design même de l’application, les enjeux et impacts des décisions. Ainsi, l’interface calcule un prix pour assurer un drone à la volée, au moment où l’on souhaite l’utiliser, selon le lieu et les conditions météo du moment (voir ces explications). Mais, une fois qu’elle a calculé le prix de l’assurance, elle vous indique également que si le vent était moins fort, ou que si la probabilité de pluie était moins forte, vous payeriez moins cher. D’autres paramètres sont pris en compte pour vous expliquer la tarification qui s’applique à vous : la proximité d’une école ou d’un hôpital peut faire augmenter le prix et l’application peut vous indiquer que si vous vous en éloignez, cela pourrait en faire diminuer le prix. Dans le cadre d’un travail de prototypage pour une assurance auto basée sur le comportement de l’automobiliste, l’agence IF a également esquissé des interfaces qui permettent au conducteur de voir la différence entre son comportement et la norme. Ces exemples, stimulants, permettent de montrer quels facteurs contribuent aux décisions et comment les atténuer ou agir sur ces éléments.

Vers des explications sélectives – mais loyales

Contrairement à ce à quoi on pourrait s’attendre, une bonne explication pour Miller n’est pas une explication complète ou exhaustive. Une bonne explication est « choisie », sélective (et donc biaisée). Les gens ne s’attendent pas à voir une cause unique et complète ni une liste causale exhaustive. Son caractère « sélectionné » est bien sûr un compromis. Son caractère partiel ou incomplet doit pourtant rester fidèle et loyal à ce qu’il se passe réellement.

Les probabilités n’ont pas tant d’importance que l’on croit, explique encore Tim Miller. Si la vérité est importante, se référer aux probabilités ou aux relations statistiques d’une explication n’est pas aussi efficace que se référer aux causes.

Vers des explications sociales

Enfin, les explications sont profondément sociales… Elles relèvent de l’échange, d’un transfert de connaissance, d’une interaction. En ce sens, elles demeurent profondément contextuelles. A toute question posée, plusieurs réponses peuvent être produites, rappelle Miller. En ce sens, la médiation et l’explication sont profondément dépendantes l’une de l’autre. Un système de décision automatisé ne peut donc faire l’économie de médiations adaptées, d’équipes et de solutions dédiées aux dialogues avec les usagers, et se doit d’organiser ce dialogue entre son système et la société.

Tant mieux. Cela nous rappelle que l’explication n’est en rien réductible à une simple technique, à une question objectivable, mais a tout à voir avec une relation et sa complexité.
Pardon, humilité, humour, hasard, confiance, humanisme, partage, curiosité et diversité sont des gros piliers de la liberté et de la sérénité.

- Ah ! j'ai été diagnostiqué Asperger Haut Potentiel à Cery (CH) en l'été 2014, mais tu le savais. :)

Avatar du membre
Tugdual
Modérateur
Messages : 26884
Enregistré le : jeudi 15 novembre 2012 à 0:13
Localisation : Nord-44
Contact :

Re: [Index] Libertés : pour parler des libertés, y compris numériques...

#1178 Message par Tugdual » vendredi 15 mai 2020 à 12:17

Le laxisme de TikTok avec ses jeunes utilisateurs :
TCS = trouble de la communication sociale (24/09/2014).

Avatar du membre
Tugdual
Modérateur
Messages : 26884
Enregistré le : jeudi 15 novembre 2012 à 0:13
Localisation : Nord-44
Contact :

Re: [Index] Libertés : pour parler des libertés, y compris numériques...

#1179 Message par Tugdual » vendredi 15 mai 2020 à 18:36

« db8151dd » : personne ne sait d’où vient :
Extrait :
Plus de 100 millions de lignes de données, qui contiennent près de 23 millions d’adresses email. En février, HaveIBeenPwned, le site de référence des fuites de données, a récupéré un immense jeu de données, confié par un autre site, spécialisé dans la recherche de fuite.

Troy Hunt, l’unique et célèbre administrateur de HaveIBeenPwned, a alors commencé à analyser la base de données pour déterminer son origine. Mais après trois mois de recherche, l’expert a jeté l’éponge.
[...]
Ne sachant à qui l’attribuer, il a nommé la base « db8151dd », du nom d’un identifiant présent sur plusieurs entrées de la base.
TCS = trouble de la communication sociale (24/09/2014).

Avatar du membre
Tugdual
Modérateur
Messages : 26884
Enregistré le : jeudi 15 novembre 2012 à 0:13
Localisation : Nord-44
Contact :

Re: [Index] Libertés : pour parler des libertés, y compris numériques...

#1180 Message par Tugdual » vendredi 15 mai 2020 à 18:38

TCS = trouble de la communication sociale (24/09/2014).

Avatar du membre
Tugdual
Modérateur
Messages : 26884
Enregistré le : jeudi 15 novembre 2012 à 0:13
Localisation : Nord-44
Contact :

Re: [Index] Libertés : pour parler des libertés, y compris numériques...

#1181 Message par Tugdual » vendredi 15 mai 2020 à 18:46

USA : L'amendement proposé il y a quelques jours est voté :
Extrait :
Le Sénat US adopte une mesure qui permet au FBI de collecter sans mandat l'historique de navigation des Américains dans une mise à jour du Patriot Act de 2001
[...]
En gros, l'amendement de McConnell permet aux autorités judiciaires de parcourir l'historique de navigation de quiconque sans l'approbation d'un juge si elles jugent que l'historique de navigation est pertinent pour une enquête. L'amendement empêche le FBI d'accéder au "contenu" de l'historique de navigation Web des utilisateurs, mais il permet au FBI d'accéder aux termes de recherche saisis.
TCS = trouble de la communication sociale (24/09/2014).

Avatar du membre
Tugdual
Modérateur
Messages : 26884
Enregistré le : jeudi 15 novembre 2012 à 0:13
Localisation : Nord-44
Contact :

Re: [Index] Libertés : pour parler des libertés, y compris numériques...

#1182 Message par Tugdual » vendredi 15 mai 2020 à 18:48

Un groupe de défense de la vie privée signale :
TCS = trouble de la communication sociale (24/09/2014).

Avatar du membre
freeshost
Forcené
Messages : 28293
Enregistré le : lundi 15 juillet 2013 à 15:09
Localisation : CH

Re: [Index] Libertés : pour parler des libertés, y compris numériques...

#1183 Message par freeshost » samedi 16 mai 2020 à 21:55

Je ne sais pas si vous aviez déjà partagé cette vidéo :

Tous surveillés : 7 milliards de suspects | ARTE

Je l'ai téléversée ici.
Pardon, humilité, humour, hasard, confiance, humanisme, partage, curiosité et diversité sont des gros piliers de la liberté et de la sérénité.

- Ah ! j'ai été diagnostiqué Asperger Haut Potentiel à Cery (CH) en l'été 2014, mais tu le savais. :)

Avatar du membre
freeshost
Forcené
Messages : 28293
Enregistré le : lundi 15 juillet 2013 à 15:09
Localisation : CH

Re: [Index] Libertés : pour parler des libertés, y compris numériques...

#1184 Message par freeshost » samedi 16 mai 2020 à 22:18

En tout cas, autant que possible, ne vous faites pas de comptes chez Goût-Gueule, Ja Who, etc. Lors de la création de vos comptes, ils vous demandent diverses informations, dont le numéro de téléphone. Et dès que vous avez un problème (mot de passe oublié, synchronisation avec un nouveau téléphone où vous devez réinstaller les applications dont vous êtes devenus dépendants, etc.), ils vous redemandent tout. Et si vous avez changé de numéro de téléphone sans mettre à jour le numéro dans votre compte, c'est galère.

Et moi, je leur dis justement... "Dans quelle galère vous êtes-vous embarqués..." :crazy:
Pardon, humilité, humour, hasard, confiance, humanisme, partage, curiosité et diversité sont des gros piliers de la liberté et de la sérénité.

- Ah ! j'ai été diagnostiqué Asperger Haut Potentiel à Cery (CH) en l'été 2014, mais tu le savais. :)

Avatar du membre
Controleur
Passionné
Messages : 435
Enregistré le : samedi 27 août 2016 à 18:09
Localisation : France(mobile)

Re: [Index] Libertés : pour parler des libertés, y compris numériques...

#1185 Message par Controleur » dimanche 17 mai 2020 à 9:30

freeshost a écrit :
samedi 16 mai 2020 à 22:18
En tout cas, autant que possible, ne vous faites pas de comptes chez Goût-Gueule, Ja Who, etc. Lors de la création de vos comptes, ils vous demandent diverses informations, dont le numéro de téléphone. Et dès que vous avez un problème (mot de passe oublié, synchronisation avec un nouveau téléphone où vous devez réinstaller les applications dont vous êtes devenus dépendants, etc.), ils vous redemandent tout. Et si vous avez changé de numéro de téléphone sans mettre à jour le numéro dans votre compte, c'est galère.

Et moi, je leur dis justement... "Dans quelle galère vous êtes-vous embarqués..." :crazy:
:mrgreen: Je leur dirais tête de slip pour ne pas avoir lu jusqu'au bout les conditions d'utilisation.

Le mois prochain je vais prendre un abonnement à nord vpn et me renseigner aussi pour aller sur des plateformes étrangères comme rutube, vkontakts.

Même avec un pseudo bidon youtube, j'ai du fermé ma chaîne en urgence. Ma planche de salut c'est de prendre des pseudonymes bien franchouillards "Le_Poivrot" ou là je risque pas d'avoir de problème parce que le côté vulgaire et franchouillard fait déjà un tri. Ensuite bon si je met des vidéos en ligne c'est pas pour raconter ma life, franchement c'est pas mon kiff de faire le boulot d'enjoy phoenix ou de me filmer en jouant aux jeuxvidéos.

C'était en gros pour faire comprendre mais j'ai foiré complètement ma communication, le côté lumière et vidéo, son étaient pas au vidéo sauf avec le smartphone ce que ca voulait dire l'autisme au quotidien, le côté superficiel et médiatique en moins.

Et des youtubeurs autistes français, ils ont peu nombreux (Julie Dachez, Baptistel'autiste, AngieMsk) .

Alors c'est sûr c'est pas avec un pseudonyme en rapport avec un mot péjoratif que je vais devenir le nouveau norman, cyprien de youtube. Quoique y'aurait moyen avec du travail, le travail sur le comique de faire des trucs en détournant la bibine pour se taper un délire un dimanche matin. Mais aménager un espace pour youtube dans un T1 bis c'est pas facile que quand j'avais un T2 avec un coin salon pour ça.

Sur instagram, c'est un peu plus travaillé, j'ai 20 followers et c'est déjà bien.
Diagnostique autiste par le CRA en mars 2009

Si vi pacem, para bellum

Traduction Latine: Si tu veux la paix, prépare la guerre

Contrôleur des finances publiques 2ème classe en trésorerie municipale.

Adepte de la médecine chinoise.

Répondre