Petit rappel sur les algorithmes de detection : si on vous dit qu'un algo réussi à reconnaitre un visage avec un taux de réussite de 99%, ça ne veut rien dire.

Il faut connaître :
- le pourcentage de faux négatif : une personne n'est pas reconnue alors qu'elle est présente dans l'image
- le pourcentage de faux positif : une personne est reconnue alors qu'elle n'est pas présente

En général, quand on diminue l'un, on augmente l'autre (grosso-modo).

../..

../..

La difficulté est de trouver un compromis. Une détection de tumeur n'aide pas si l'alarme retentit pour toute autre chose qu'une tumeur, même si dans le lot il y en a une.

Dans le cas d'un criminel, puisque c'est ce que nous vend pour imposer la reconnaissance faciale à tous les coins de rue, on souhaite évidemment réduire à néant les faux négatifs : on ne PEUT PAS rater un criminel.

Au risque, vous l'aurez compris, de mettre dans le lot des personnes innocentes.

../..

../..

Ajoutez les biais cognitifs classiques, comme l'oubli de la fréquence de base, et on a un outil dangereux :

Imaginons 0% de faux négatif. C'est utopique, mais un objectif avoué pour les états et entreprises du domaine.

Imaginons 1% de faux négatif : c'est bien en dessous de ce qui existe actuellement.

60'000'000*1% = 60'000

Pour trouver un criminel, il faut arrêter 60'000 français.es.

../..

Follow

@djelouze
Questions/remarques sur ce toot,sans critique de fond sur le thread.

1% de 1 million, c'est 600k, pas 60k.

Et 60k de faux positifs c'est si on scanne toute ma population française, pas ce qui est nécessaire pour trouver une personne, non ?

@djelouze
Oui non, ok, j'ai rien dit pour le deuxième point.

@punky

Oui, et en plus je me suis planté ici aussi : "1% de faux POSITIF". Ça veut que si ta recherche est sur l'ensemble de la population, il y a 1 chance sur 100 que l'ajgo dise "criminel" alors que non. Donc bien 600'000 personnes si la surveillance est généralisée, tu as raison.

À mettre en regard du nombre estimé de terroristes. Ça rend le chiffre encore plus absurde.

Je crois qu'@HygieneMentale a fait une très belle vidéo.là-dessus.

@punky
Rooog oui dis donc, j'ai zappé un zéro !

Sign in to participate in the conversation
Pipou Academy

FR : Ceci est une instance queer, qui vise à être aussi confortable et safe que possible. Nouvelleaux élèves bienvenu'es !
EN : This is a queer instance, who aims to be as comfy and safe as possible. New students welcome !