Autoblog de sebsauvage.net

Ce site n'est pas le site officiel de sebsauvage.net
C'est un blog automatisé qui réplique les articles de sebsauvage.net

Les dangers des systèmes automatisés de traitement de l'information

lundi 18 juillet 2011 à 16:59

Je vous ai déjà parlé du taux d'erreur effarant (83% !) du fichier informatique STIC de la gendarmerie police française. Cela ne fait qu'illustrer le fait que les systèmes informatiques ne sont pas infaillibles, et on a trop vite tendance à l'oublier. Et encore plus s'ils sont automatisés. L'état du Massachusetts en a fait l'expérience.

Ils ont reçu une subvention de 1,5 millions de dollars de la part de la sécurité du territoire américain (Homeland Security) pour mettre en place un système d'identification qui veut - je cite - «prévenir le terrorisme, réduire la fraude et améliorer la fiabilité et la précision des documents d'identification produits par l'état.»


Sauf que ça ne marche pas aussi bien que prévu: Un conducteur a reçu une lettre de l'état lui signifiant la révocation de son permis de conduire. De toute bonne fois et pensant n'avoir rien fait de mal, il a dû batailler pendant 10 jours avec l'administration. Il a eu le fin mot: Il a le malheur de ressembler à quelqu'un d'autre. Ce n'est même pas un vol d'identité, juste une ressemblance. Le système informatique s'est trompé et l'avait identifié comme fraudeur.

Certes l'erreur a été corrigée, mais comment peut-on laisser l'ordinateur sanctionner de manière automatique ?

Face aux erreurs informatiques et humaines, le développement des multiples fichiers informatique (publiques ou privés) traquant de manière automatisée vos activités devient un danger pour vous, pour votre travail, votre famille, votre réputation, vos finances, votre liberté. L'enfer est pavé de bonnes intention, et ces fichiers censés améliorer notre sécurité nous mettent en danger socialement, politiquement et économiquement. Il ne faut pas laisser l'ordinateur sanctionner de manière automatique et autonome. Et tout humain devrait être entraîné à conserver son esprit critique face à un message de l'ordinateur. L'ordinateur n'est pas infaillible, les concepteurs de logiciels ne sont pas infaillibles, les utilisateurs de ces systèmes ne sont pas infaillibles. Le doute doit profiter au citoyen.

Mais il faudra encore beaucoup de dommages collatéraux avant que la majorité des gens ouvrent les yeux. D'ici là, beaucoup de dégâts auront été faits.

Peut-être que les Anonymous ont leur rôle à jouer là dedans, en mettant à jour ces absurdités et leurs dangers, voir en les décrédibilisant complètement.


Si vous voulez des lectures plus en profondeur sur le sujet des fichiers, je vous recommande l'excellent blog Bug Brother de Jean-Marc Manach, qui non seulement a une bien meilleure plume que moi, mais a creusé le sujet bien plus en profondeur depuis plusieurs années. Vous pouvez aussi regarder The Risks Digest (en anglais) traitant plus spécifiquement des erreurs informatiques et de leurs conséquences.

Source : http://sebsauvage.net/rhaa/index.php?2011/07/18/14/59/41-les-dangers-des-systemes-automatises-de-traitement-de-l-information