Zašto je vrijeme da se zaustavi slijepo vjeruju u velikoj podataka

algoritmi sada odlučiti tko odobrava kredit, osiguranje ili tko dobiti poziv za razgovor, ali često su to učinili nepravedno. I to samo povećava jaz između slojeva stanovništva.

Katie O'Neill (Cathy O'Neil)

Matematičar, na analizi financijskih tržišta stručnjak, autor knjige „oružja za matematičke poraza.”

Konstruirati algoritam, trebaju nam dvije stvari: data (ono što se dogodilo u prošlosti) i definiciju uspješnog ishoda (ono što želite pronaći pomoću ovog algoritma). To onda određuje koji kriteriji dovesti do uspješnog ishoda. No, definicija uspjeha ne može biti univerzalna.

Algoritam - je tuđe mišljenje, ugrađeni u kod.

Mi smo mislili da algoritmi su objektivni i pouzdani, ali to je samo marketinški trik dizajniran da nas zastraši i čine nas vjeruju u algoritama i matematičkih podataka.

O'Neill navodi primjere gdje algoritmi mogu uzrokovati ozbiljnu štetu. To se događa prilikom ocjenjivanja zaposlenika. Na primjer, u 2011. godini u školi u Washingtonu županije su otpušteni više od 200 nastavnika nakon njihova

Osim toga, algoritmi su često razlog za uklanjanje pristrane presude. Vijesti organizacija ProPublica nedavno provela istragu i pronađenTo su algoritmi koji određuju rizik od recidivizma, raditi objektivno. Na iste zločine rečenice često uzimaju iz crnih Amerikanaca.

Mi smo svi podložni predrasudama, a mi ih u algoritmima koji odlučuju što treba podaci koje treba uzeti u obzir.

Algoritmi jednostavno ponavlja svoje pogreške iz prošlosti, automatizirati postojeći poredak. Dakle, ne možemo slijepo im vjerovati, moramo testirati ih biti objektivan: promisliti definiciju uspješnog ishoda, greška, nisu osigurani po bilo kojem algoritmu. Koliko često se javljaju i koji je pod utjecajem? Koja je cijena takvih grešaka?

Stručnjaci koji rade s podacima, a ne bi trebao biti arbitri pravde. To je vrijeme da se zaustavi slijepo vjerovati veliki podataka.