La reconnaissance faciale soulève divers problèmes sur le plan des droits de l'homme :
La reconnaissance faciale permet une surveillance dans l'espace public sans consentement. Cela menace le droit à l'anonymat et peut conduire à un État de surveillance totale, notamment en cas d'utilisation par les pouvoirs publics.
En raison de logiciels défaillants, des innocents peuvent être pris à tort pour des suspects et se retrouver dans le collimateur de la police, ce qui a de graves conséquences pour les personnes concernées. De plus, les algorithmes sont principalement entraînés à partir d’images d’hommes blancs. Ils reconnaissent donc moins bien les personnes à la peau plus foncée, les femmes, les enfants et les personnes âgées, ce qui augmente le risque d’identification erronée pour ces groupes.
Par ailleurs, la reconnaissance faciale est de plus en plus utilisée pour contrôler les minorités ou les opposants, comme en Chine. Dans les pays occidentaux également, cette technologie fait l'objet de critiques en raison des restrictions potentielles à la liberté d'expression lors des manifestations.
