Ein KI-System lernt aus Daten der Vergangenheit und übernimmt deren Schieflagen: Wurden früher vor allem Männer eingestellt, bevorzugt ein daraus trainiertes Auswahlsystem wieder Männer. Verzerrungen entstehen auch durch fehlende Daten über bestimmte Gruppen oder durch schlecht gewählte Ziele. Gegenmittel sind geprüfte Daten, Tests auf Benachteiligung und ein Mensch, der Entscheidungen verantwortet, siehe Human in the Loop. Grenzen und Spielregeln für den Alltag: Arbeiten mit KI.
Algorithmische Verzerrung (Bias)
Systematische Benachteiligung bestimmter Gruppen durch Algorithmen und KI, meist weil die Trainingsdaten oder Ziele verzerrt sind.
Mehr zu KI und digitale Welt
Begriffe rund um künstliche Intelligenz und digitale Kompetenzen.
KI bei Tools for Tomorrow