grrrrmpf.

grrrrmpf.
— Permalink

Mais whaaaaaat

Mais whaaaaaat
— Permalink

Cloudflare propose désormais un outil de scan anti-pédopornographie y compris pour son offre non payante.

Dans les grandes lignes, cet outil automatisé (hébergé côté Cloudflare) scanne toutes les images et détecte de possibles images pédopornographiques connues (en utilisant un algorithme de fuzzy hash: PhotoDNA -l'article détaille un peu son fonctionnement) et en cas de détection positive d'une image déjà connue, alerte l'administrateur du site.

Peut être fort utile pour de petits sites à contenu généré par utilisateurs et modération à postériori (style forums).
Intention louable, mais: cet outil demeure hébergé et exécuté côté Cloudflare, et de l'aveu même de Cloudflare son fonctionnement exact relève de la "sécurité par l'obscurité" afin de rendre plus difficile la rétro-ingénierie par les producteurs d'images pédoporno pour esquiver la détection.

D'autre part, ça marche qu'avec les images déjà connues par le NCMEC (qui détiennent la base PhotoDNA de référence): des images toutes neuves passeraient entre les mailles de ce filet. On peut mieux faire: détecter de potentielles images pédoporno nouvelles/inconnues avec des algorithmes à réseaux neuronaux, dès l'upload de l'image.