Science· 2017Q1
Yapay Zeka Metin Verilerinden İnsan Benzeri Önyargılar Öğreniyor
Semantics derived automatically from language corpora contain human-like biases
- 2.826atıf
- Q1SCImago
- 2017yıl
Kısa özet
Web metinleri üzerinde eğitilmiş bir makine öğrenimi modeli, Örtük İlişkilendirme Testi ile ölçülenler de dahil olmak üzere insan benzeri önyargıları tekrarladı.
Yapay zekâ ile başlık ve abstract'tan üretildi; tam metin okunmaz.
Ana noktalar
- Web metinleri üzerinde eğitilmiş makine öğrenimi modelleri, insan benzeri anlamsal önyargılar sergilemektedir.
- Bu önyargılar, Örtük İlişkilendirme Testi kullanılarak ölçülmüş ve istatistiksel bir model tarafından tekrarlanmıştır.
- Metin veri kümeleri, cinsiyet, ırk ve diğer kategorilerle ilgili tarihsel önyargıların geri kazanılabilir izlerini içerir.
- Yöntemler, kültür ve teknolojideki önyargı kaynaklarını belirlemeye ve ele almaya yardımcı olabilir.
Yapay zekâ ile başlık ve abstract'tan üretildi; tam metin okunmaz.
Özet (abstract)
Machine learning is a means to derive artificial intelligence by discovering patterns in existing data. Here, we show that applying machine learning to ordinary human language results in human-like semantic biases. We replicated a spectrum of known biases, as measured by the Implicit Association Test, using a widely used, purely statistical machine-learning model trained on a standard corpus of text from the World Wide Web. Our results indicate that text corpora contain recoverable and accurate imprints of our historic biases, whether morally neutral as toward insects or flowers, problematic as toward race or gender, or even simply veridical, reflecting the status quo distribution of gender with respect to careers or first names. Our methods hold promise for identifying and addressing sources of bias in culture, including technology.
Yazarların özeti; kaynağından alınmıştır. Science, 2017 · DOI ↗
Ücretsiz hesapla devam et
Makaleye Sor ile bu makaleye günde 3 soru ücretsiz; makaleyi kaydet, kaynakçasını al, ilgi alanına göre her gün yeni özetler. Çıkarımlar Premium.
Web'de ücretsiz devam etGoogle ya da Apple hesabınla giriş; kart istemez. Bu makaleye geri dönersin.
Telefonda:
Alan: Bilişsel Sinirbilim
Cognitive NeuroscienceNeuroscience