Gesichtserkennung führt auf menschenrechtlicher Ebene zu verschiedenen Problemen:
Gesichtserkennung ermöglicht die Überwachung im öffentlichen Raum ohne Zustimmung. Dies bedroht das Recht auf Anonymität und kann zu einem totalen Überwachungsstaat führen, besonders durch staatliche Nutzung.
Durch fehlerhafte Software können Unschuldigen fälschlicherweise als Verdächtige ins Visier der Polizei geraten, was ernste Folgen für die Betroffenen hat. Ausserdem werden die Algorithmen überwiegend mit Bildern von weissen Männern trainiert. Dadurch erkennen sie Menschen mit dunklerer Hautfarbe, Frauen, Kinder und ältere Menschen schlechter, wodurch es für dieses eher zu falscher Identifizierung kommt.
Ausserdem wird Gesichtserkennung zunehmend für die Kontrolle von Minderheiten oder Oppositionellen eingesetzt, etwa in China. Auch in westlichen Ländern steht diese Technologie wegen möglicher Einschränkung der Meinungsfreiheit bei Demonstrationen in der Kritik.
