« Affaire #AnneFrank : le domaine public est une affaire privée. D'après Fleur Pellerin. | Accueil | De la responsabilité du scientifique. Et du développeur. »

22 jan 2016

Commentaires

Flux Vous pouvez suivre cette conversation en vous abonnant au flux des commentaires de cette note.

Pierre

Article très intéressant à lire, merci. Une remarque toutefois:

Si certains algorithmes sont limpides (exemple de la formule du page rank), qu'en est il des algorithmes d'apprentissage dont l'utilisation va croissante ? Je pense particulièrement au "deep learning" : il est facile de décrire comment chaque unité du réseau de neurones artificiels se comporte, mais cela ne permet pas du tout de comprendre les relations entre entrées et sorties du réseau en fonctionnement. Dans vos exemples "quels sont les critères en fonction desquels [...]", la réponse dans le cas de l'utilisation d'un tel algorithme serait probablement "tous les critères"... pas très informatif ! Il en va de même bien sûr lorsqu'un réseau de neurones non artificiel est en jeu: une intervention humaine pour corriger "à la main" quelque chose, par exemple.

Caillou

C'est comme demander le droit à l'oubli. Il n'y a rien de pire que souhaiter le droit à l'oubli. En effet, grâce à vos données, google a appris. Effacer vos données n'effacera pas ce qu'il a appris. Par contre ce qui est sur, c'est que vous, vous n'aurez plus accès à vos informations. Autrement dit, demander à supprimer son compte d'un cloud, cela revient juste à demander au cloud de changer son mot de passe pour le plus y avoir accès (et anecdotiquement à cacher un peu son compte). Exemple, une page indique que mohamed a fait 2 ans de prisons. l'algorithme est passé par là et il a appris que les mohamed ont 10 fois plus de chance d'être coupable que les Pierre, sur un échantillon de 20 personnes. L'algorithme continuera éternellement à vivre avec cette connaissance. Communiquer un algorithme sans tous ses paramètres, ses données d'apprentissage, et ses données d'usage, cela ne sert à rien, on peut transférer l'un dans l'autre volontairement aussi. Les algorithmes simples avec quelques règles sont communicables, mais un bon nombre n'apprendront pas grand chose. Ces algorithmes ont leur propres vie. C'est statistique, en fonction de leur parcours de vie, tel algorithme ou tel autre aura tel sortie. Impossible de pointer la cause de telle sortie... comme il est impossible de savoir systématiquement pourquoi telle personne a commis ce jour là un crime. Alors on donnera des droits et des devoirs aux programmes. Pour cela on a déjà les bases, en parlant de personne morale. Il suffirait de confondre personne morale et non morale. Je pense que la voie des devoirs est bien plus interessante. Par exemple imposer à tel ou tel algorithme des devoirs. Par exemple, imposer (par la loi) à google de fournir telle ou telle information. Personne ne sait, ni ne peut savoir, ce qui 'est' dans les algorithmes de google, au sens ou on l'entendrait communément, pas même ceux qui l'ont programmé. On peut intervenir, ici ou là, comme un médecin essaye d'intervenir sur une partie malade d'un corps, mais les effets secondaires ailleurs sont toujours possible. Le législateur devrait demander des résultats (des devoirs) à ceux (les personnes morales), qui ont les capacités à les fournir.

J-Paul

Bonjour,

Je suis assidu de votre blog passionnant. Mais ne pourriez-vous pas l'éditer dans un format physique moins ''colonnes''. Format étroit, difficile à lire . . .

Merci

Christian

Hello,
La plupart du temps ce n'est pas un algorithme avec une formulation mathématique ; mais plutôt un ensemble de règles et de procédures qui s'empilent, avec des cas particuliers et des exceptions qui peuvent être très nombreux, etc.
Ce n'est pas tant que l'algo n'est pas publiable, c'est que personne n'en a une représentation complète et exhaustive. Même la formule du page rank n'a plus qu'une lointaine ressemblance avec celui qui fait actuellement fonctionner le moteur de recherche.
Ce n'est peut-être pas tant l'algorithme qu'il faut publier que le code souvent kaleideoscopique dans lequel la formule mathématique s'éparpille.

HollyDays

Bonjour,

« nul n'est censé ignorer la loi »

Contresens hélas récurrent au sujet de cette phrase. Ce principe hérité du droit romain (« nemo legem ignorare censetur ») ne signifie pas « tout le monde est censé connaître la loi », mais « personne n'est censé agir comme si la loi ne s'appliquait pas à lui ». Dans cette phrase, le mot « ignorer » est pris dans le sens de « feindre de ne pas connaître ». Autrement dit, ce principe veut dire : la loi s'applique à tout le monde, sans exception, qu'on le veuille ou non (et peu importe qu'on connaisse ou non le contenu de la loi). Demandez à n'importe quel professionnel du droit (avocat, huissier, notaire...), il vous le confirmera.

Pour le reste, je suis d'accord avec vous sur le fait que la formule d'Axelle Lemaire était une idiotie, et qu'elle montre surtout l'ignorance de la Ministre en matière d'informatique et de traitements automatisés (et de documentation des logiciels par les programmeurs eux-mêmes !)

---
@ Pierre

Si je ne me trompe pas, le texte adopté par les députés est celui-ci : « lorsqu’une décision individuelle est prise sur le fondement d’un traitement algorithmique, les règles définissant ce traitement ainsi que les principales caractéristiques de sa mise en œuvre sont communiquées par l’administration à l’intéressé s’il en fait la demande. » (article 2 de la loi qui doit encore faire l'objet d'un vote sur l'intégralité du texte mardi qui vient, 26 janvier ; cet article 2 est destiné à devenir l'article L.311-3-1 du code des relations entre le public et l'administration, cf. http://www.assemblee-nationale.fr/14/dossiers/republique_numerique.asp ).

Cet article 2 signifie que, contrairement à ce que la presse grand public affirme (cf. par exemple l'article du Monde dont notre hôte a fourni le lien en début de billet), l'amendement, non seulement, ne concerne pas que les algorithmes (si elles sont importantes, les données doivent aussi faire partie de ce qui est communiqué), mais surtout, il ne concerne _pas vraiment_ les algorithmes. En fait, c'est plutôt le « plan d'exécution » particulier qui a conduit à la décision concernant celui qui a fait la demande, qui doit être fourni à l'intéressé (et à lui seul, notez bien, d'après le texte de l'article).

Certains vont sans doute demander : quelle différence cela fait-il ? Là encore, je peux me tromper, mais à mon avis, elle est fondamentale : c'est exactement la même différence que celle, pour prendre un exemple informatique, entre publier l'algorithme intégral du compilateur/exécuteur de requêtes d'un système de gestion de base de données, et publier un plan d'exécution pour *une* requête particulière sur *la* base de données utilisée sur ce système. Ou, pour prendre un exemple plus grand public, la différence entre publier tout l'algorithme d'un GPS (plus exactement, l'algorithme de recherche de positionnement par satellite, plus l'algorithme de recherche d'itinéraire, plus l'ensemble des données cartographiques du GPS, plus les données de positionnement du GPS), et publier le détail *d'un* itinéraire particulier.

Question subsidiaire que je me pose : quid de la confidentialité de ce qui est fourni à la personne qui a fait la demande à l'administration ? A-t-elle l'obligation de garder pour elle ce qu'elle a reçu, ou a-t-elle le droit de le rendre public via un quelconque média de masse ? Si vous avez une réponse, je suis preneur.

L'utilisation des commentaires est désactivée pour cette note.

Appetit_couve_1600
Le blog d'un maître de conférences en sciences de l'information.
Réflexions, analyses, signalements, opinions.

"Where is the Life we have lost in living?
Where is the wisdom we have lost in knowledge?
Where is the knowledge we have lost in information?"
T.S. Eliot, in Choruses from The Rock (1934)

Where is the information we have lost in Google ?

POUR CITER UN ARTICLE


Style Hypotheses.org
Ertzscheid Olivier, « Titre du billet », Affordance.info, ISSN 2260-1856. Date de publication. [En ligne] http://affordance.typepad.com/adresse-du-billet.html

Style APA
Ertzscheid, Olivier (date de publication du billet). “Titre du billet”. Affordance.info [carnet de recherche]. ISSN 2260-1856. Date de consultation. http://affordance.typepad.com/adresse-du-billet.html

Style MLA
Ertzscheid, Olivier “Titre du billet”. Affordance.info (souligné) ISSN 2260-1856. Date de publication. [carnet de recherche]. Date de consultation. http://affordance.typepad.com/adresse-du-billet.html

Botte de foin


Postes McF 71ème section sur Galaxie
Tous les contenus de ce blog sont sous licence Creative Commons. Vous pouvez donc les reproduire, les distribuer ou les communiquer à condition :
  • de citer l'auteur
  • de ne pas en faire d'utilisation commerciale
  • d'appliquer ces mêmes conditions à toute création qui résulterait d'une modification, transformation ou adaptation d'éléments tirés de ce blog.
Creative Commons Attribution-NonCommercial-ShareAlike 3.0 Unported

mars 2017

lun. mar. mer. jeu. ven. sam. dim.
    1 2 3 4 5
6 7 8 9 10 11 12
13 14 15 16 17 18 19
20 21 22 23 24 25 26
27 28 29 30 31    
Related Posts with Thumbnails
Casssconn
Classiques connectés
"Mais quiconque affirme qu’il y a de l’argent à faire avec un stock d’ARTICLES SCIENTIFIQUES est soit un idiot, soit un menteur."
Lawrence Lessig. 12 Janvier 2013.
Identité numérique et e-reputation :
DÉCOUVRIR COMMANDER OU LIRE EN LIGNE L'OUVRAGE

Qui suis-je ?

Affordance touitte.