Petit rappel sur les algorithmes de detection : si on vous dit qu'un algo réussi à reconnaitre un visage avec un taux de réussite de 99%, ça ne veut rien dire.

Il faut connaître :
- le pourcentage de faux négatif : une personne n'est pas reconnue alors qu'elle est présente dans l'image
- le pourcentage de faux positif : une personne est reconnue alors qu'elle n'est pas présente

En général, quand on diminue l'un, on augmente l'autre (grosso-modo).

../..

../..

La difficulté est de trouver un compromis. Une détection de tumeur n'aide pas si l'alarme retentit pour toute autre chose qu'une tumeur, même si dans le lot il y en a une.

Dans le cas d'un criminel, puisque c'est ce que nous vend pour imposer la reconnaissance faciale à tous les coins de rue, on souhaite évidemment réduire à néant les faux négatifs : on ne PEUT PAS rater un criminel.

Au risque, vous l'aurez compris, de mettre dans le lot des personnes innocentes.

../..

../..

Ajoutez les biais cognitifs classiques, comme l'oubli de la fréquence de base, et on a un outil dangereux :

Imaginons 0% de faux négatif. C'est utopique, mais un objectif avoué pour les états et entreprises du domaine.

Imaginons 1% de faux négatif : c'est bien en dessous de ce qui existe actuellement.

60'000'000*1% = 60'000

Pour trouver un criminel, il faut arrêter 60'000 français.es.

../..

Follow

@djelouze
Questions/remarques sur ce toot,sans critique de fond sur le thread.

1% de 1 million, c'est 600k, pas 60k.

Et 60k de faux positifs c'est si on scanne toute ma population française, pas ce qui est nécessaire pour trouver une personne, non ?

@djelouze
Oui non, ok, j'ai rien dit pour le deuxième point.

@punky

Oui, et en plus je me suis planté ici aussi : "1% de faux POSITIF". Ça veut que si ta recherche est sur l'ensemble de la population, il y a 1 chance sur 100 que l'ajgo dise "criminel" alors que non. Donc bien 600'000 personnes si la surveillance est généralisée, tu as raison.

À mettre en regard du nombre estimé de terroristes. Ça rend le chiffre encore plus absurde.

Je crois qu'@HygieneMentale a fait une très belle vidéo.là-dessus.

@punky
Rooog oui dis donc, j'ai zappé un zéro !

Sign in to participate in the conversation
Pipou Academy

Bienvenue sur l’accueil de Pipou Academy ! Nous sommes un établissement de langue principalement française et anglaise (autres langues bienvenues !) ouvert à tous les élèves pipou.
Qu’est-ce qu’un.e pipou ? Vaste et scientifique question qui n’a qu’une réponse : l’élève pipou est une personne gentille ou qui vise à l’être.
Les valeurs de notre académie :
- L’académie Pipou prône la bienveillance. Nous visons à créer un espace aussi accueillant que possible, où chaque élève se sentira à l’aise et saura qu’iel peut être ellui-même (tant que « ellui-même » n’est pas « un.e vil.e vilain.e »).
- Nous accueillons toutes les lettres du sigle LGBT+ et les alliés. Les personnes de toutes origines, opinions et orientations sont les bienvenues dans notre établissement, tant qu’elles s’efforcent de suivre notre règlement !

Welcome on Pipou Academy’s portal! We are mainly a French-speaking or English-speaking establishment, but other languages are welcome too. Our school is open to all interested pipous!
What is a pipou? A pipou is a complex creature that might be described in one sentence: someone who is either nice, either aiming to be nice.
Our values:
- Pipou Academy puts an emphasis on kindness. Our goal is to create a welcoming, laid-back space where everyone can feel at ease and be theirselves (as long as "theirselves" is not "a big meanie"!).
- We welcome all the letters from the LGBT+ sigils, as well as allies. Whoever you are, you are welcome here, as long as you try to follow our rules!