Big Data & Society· 2016Q1
Makinenin 'düşünme' şekli: Makine öğrenmesi algoritmalarındaki opaklığı anlama
How the machine ‘thinks’: Understanding opacity in machine learning algorithms
- 2.546atıf
- Q1SCImago
- 2016yıl
Kısa özet
Bu makale, sınıflandırma ve sıralama için kullanılan makine öğrenmesi algoritmalarındaki üç opaklık biçimini ayırt eder: kurumsal/devlet gizliliği, teknik bilgisizlik ve içsel algoritmik opaklık. Opaklığın belirli türünü belirlemenin, zararı önlemek için uygun çözümler seçmede kritik öneme sahip olduğunu savunur.
Yapay zekâ ile başlık ve abstract'tan üretildi; tam metin okunmaz.
Ana noktalar
- Makine öğrenmesindeki üç farklı opaklık türünü tanımlar: gizlilik, bilgisizlik ve içsel algoritmik karmaşıklık.
- Kredi puanlaması, dolandırıcılık tespiti ve arama motorları gibi toplumsal açıdan önemli uygulamalardaki opaklığı inceler.
- Opaklık türlerini ayırt etmenin, etkili önleme stratejileri seçmek için gerekli olduğunu savunur.
- Analiz için bilgisayar bilimi literatürünü, endüstri uygulamalarını ve kod denetimlerini kullanır.
Yapay zekâ ile başlık ve abstract'tan üretildi; tam metin okunmaz.
Özet (abstract)
This article considers the issue of opacity as a problem for socially consequential mechanisms of classification and ranking, such as spam filters, credit card fraud detection, search engines, news trends, market segmentation and advertising, insurance or loan qualification, and credit scoring. These mechanisms of classification all frequently rely on computational algorithms, and in many cases on machine learning algorithms to do this work. In this article, I draw a distinction between three forms of opacity: (1) opacity as intentional corporate or state secrecy, (2) opacity as technical illiteracy, and (3) an opacity that arises from the characteristics of machine learning algorithms and the scale required to apply them usefully. The analysis in this article gets inside the algorithms themselves. I cite existing literatures in computer science, known industry practices (as they are publicly presented), and do some testing and manipulation of code as a form of lightweight code audit. I argue that recognizing the distinct forms of opacity that may be coming into play in a given application is a key to determining which of a variety of technical and non-technical solutions could help to prevent harm.
Yazarların özeti; kaynağından alınmıştır. Big Data & Society, 2016 · DOI ↗
Ücretsiz hesapla devam et
Makaleye Sor ile bu makaleye günde 3 soru ücretsiz; makaleyi kaydet, kaynakçasını al, ilgi alanına göre her gün yeni özetler. Çıkarımlar Premium.
Web'de ücretsiz devam etGoogle ya da Apple hesabınla giriş; kart istemez. Bu makaleye geri dönersin.
Telefonda:
Alan: Güvenlik Araştırmaları
Safety ResearchSocial Sciences