Algoritmaların veya yapay zeka modellerinin, veri ve tasarım süreçlerindeki önyargılar nedeniyle belirli birey veye gruplara karşı adaletsiz ve ayrımcı davranış sergilemesi
Bir algoritma, tasarımındaki veya uygulanışındaki önyargılar nedeniyle, kullanıcılarına ayrımcılık yapabilir. Bu genellikle veri setlerindeki yanlışlıklardan, model tasarımındaki hatalardan veya kullanılan verinin önyargılı olmasından kaynaklanır. Örneğin, birçok kişisel kredi değerlendirme algoritması, düşük gelirli veya etnik azınlıklara ait bireyleri haksız yere dezavantajlı konuma getirmiştir.
Bakınız: Suçluların tekrar suç işleme olasılıklarını tahmin etmek için kullanılan COMPAS algoritmasının siyah bireyleri beyaz bireylere göre yanlış bir şekilde daha yüksek riskli olarak değerlendirdiğini ortaya çıktı. Bu durum, siyah bireylerin daha yüksek hapis cezaları almasına yol açtı.
