Pourquoi censurer les contenus djihadistes est bien plus difficile qu'une poitrine

Pi.M. Vendredi, 12 Août, 2016 Humanite.fr

La radicalisation djihadiste sur Internet est devenue un point de cristallisation fort du débat, à tel point que des élus LR veulent assigner en justice les réseaux sociaux pour complicité. Il faut pourtant bien comprendre que si Facebook peut supprimer en un clin d’œil une photo de poitrine dénudée, le processus pour repérer un discours djihadiste n’est pas le même.

Si Facebook est (parfois) si rapide pour supprimer une poitrine ou une paire de fesses dénudées, c’est qu’un algorithme veille au grain. Le programme a intégré les caractéristiques mathématiques des parties de l’anatomie qui doivent rester cacher selon sa charte d’utilisation et se révèle relativement efficace. Même si on relève des cas de coudes ou d’aisselles opulentes injustement censurées. Cet algorithme reste une machine qui repère des formes et qu’on peut piéger facilement.

Comment appliquer cette même recette à la propagande djihadiste ? Impossible de le repérer par une caractéristique physique ou anatomique. Et si l’algorithme va chercher des mots, ou des associations de mots comme djihad, kamikaze, Syrie, Daech… Les articles de presse, les prises de parole politique, les interviews de chercheurs, les associations qui luttent pour la resocialisation des djihadistes et bien d’autres encore tomberont sous le coup de la censure aveugle et automatisée. De la même manière bien des œuvres d’art ne passent pas le filtre anti-nudité bête et méchant des réseaux sociaux. Et puis il suffit d’ajouter une faute d’orthographe intentionnelle pour rendre ces détections par mots inopérantes.

Idem pour les images ou les vidéos de propagande -ou même d’exécution- diffusées en masse. Une machine ne peut pas faire simplement la différence avec la bande annonce du dernier blockbuster guerrier américain.
Pour l’instant seule l’intervention humaine, suite au signalement des internautes vigilants ou des autorités est fiable. Et puis cela a créé des centaines d’emplois.
Le gouvernement français d’ailleurs ne chôme pas et a fait fermer 38000 pages Facebook en 2015, de loin en tête de tous les pays. A comparer aux 6500 de Turquie, 550 d’Allemagne, 430 d’Israël ou aux 80 fermées par la Russie…

L’algorithme Deep Text

Après des années de travail, Yahoo!  pense pouvoir bientôt lancer chez Facebook son intelligence artificielle capable de censurer tant la nudité que les contenus violents et les discours d’appels à la haine. Une tâche extrêmement difficile puisqu’il faut que la machine comprenne le sens du texte (et donc la langue), son contexte et qui est son auteur. L’algorithme nommé Deep Text est en test et a passé au crible 2 années de commentaires d’articles publiés chez Yahoo! avec un taux de fiabilité de 90%. 

Il repère le sens des mots, mais aussi la ponctuation et les formes syntaxiques associées aux injures. Il est capable d’apprendre le sens de mots en argot ou de ne pas se laisser piéger par l’orthographe. Les métaphores en revanche le trompent complètement et il faudra dans tous les cas abandonner l’ironie, le sarcasme et le second degré…
En outre, si cet algorithme pourra supprimer toutes insultes les plus courantes, il lui est impossible en revanche d’aller regarder les vidéos de prêche ou d’exécution pour repérer la propagande djihadiste…