Preto je na čase prestať slepo veriť vo veľkých dátach

algoritmy rozhodnúť teraz, ktorý schváli úver, poistenie alebo ktorí dostanú pozvanie na pohovor, ale často robia tak nespravodlivo. A to len zvyšuje rozdiely medzi vrstvami obyvateľstva.

Katie O'Neill (Cathy O'Neil)

Matematik, na základe analýzy finančných trhov špecialistov, autor knihy "zbraní matematické porážky."

Zostrojiť algoritmus, potrebujeme dve veci: dátové (to, čo sa stalo v minulosti) a definície úspešného výsledku (to, čo chcete nájsť pomocou tohto algoritmu). To potom určuje, aké kritériá vedú k úspešnému výsledku. Ale definície úspechu nemôže byť univerzálne.

Algoritmus - je niekto iný názor, vstavaný kód.

Zvykli sme si, že algoritmy sú objektívne a spoľahlivé, ale je to len marketingový trik navrhnutý tak, aby nás zastrašiť a núti nás veriť v algoritmoch a matematických dát.

O'Neill uvádza príklady, kde možno algoritmy spôsobiť vážnu ujmu. To sa deje pri hodnotení zamestnancov. Napríklad v roku 2011 v škole vo Washingtone County boli prepustení viac ako 200 učiteľov po ich vyradiť algoritmusAj napriek tomu, že mal vynikajúcu odporúčania od svojich rodičov a rovesníkov.

Okrem toho sú algoritmy sú často dôvodom pre odstránenie skreslené výrokov. Spravodajská organizácia ProPublica nedávno vykonala vyšetrovanie a nájdenýchŽe algoritmy, ktoré určujú riziko recidívy, pracovať objektívne. V rovnakej zločiny vety často vybratá čiernych Američanov.

Sme všetci podliehajú predsudkom a prinášame ich do algoritmov, ktoré sa rozhodnú, ktorá dáta musia byť vzaté do úvahy.

Algoritmy sú proste opakujú svoje chyby z minulosti, automatizovať existujúci poriadok. Takže nemôžeme slepo dôverovať im, musíme ich testovať za objektívny: prehodnotiť definíciu úspešný výsledok, chyba, nie sú poistené žiadnym algoritmom. Ako často sa vyskytujú a ktoré sa to týka? Aká je cena takýchto chýb?

Odborníci pracujúci s údajmi, by nemal byť arbitrami spravodlivosti. Je na čase prestať slepo veriť spracovanie veľkých objemov dát.