Hvorfor det er på tide å slutte å blindt tro på big data
Livet / / December 19, 2019
algoritmer bestemmer nå, noen godkjenne et lån, forsikring eller som mottar en invitasjon til intervju, men ofte de gjør det urettferdig. Og det bare øker gapet mellom lagene av befolkningen.
Katie O'Neill (Cathy O'Neil)
Matematikeren, på analyse av finansmarkedene spesialist, forfatter av boken "Weapons of matematisk nederlag."
Å konstruere en algoritme, trenger vi to ting: data (hva skjedde i fortiden) og definisjonen av et vellykket resultat (hva du ønsker å finne ved hjelp av denne algoritmen). Den bestemmer så som kriterier fører til et vellykket resultat. Men definisjonen av suksess kan ikke være universell.
Algoritme - er andres mening, den innebygde kode.
Vi pleide å tenke at algoritmer er objektiv og pålitelig, men det er bare en markedsføring gimmick designet for å skremme oss og gjøre oss stole på algoritmer og matematiske data.
O'Neill siterer eksempler der algoritmer kan forårsake alvorlig skade. Dette skjer når du vurderer ansatte. For eksempel, i 2011 i en skole i Washington County har blitt avvist mer enn 200 lærere etter deres
luke ut algoritmeSelv om de hadde gode anbefalinger fra sine foreldre og medelever.I tillegg algoritmer er ofte årsaken til fjerning av partisk dommer. Nyheter organisasjon ProPublica har nylig gjennomført en undersøkelse og funnetAlgoritmen som bestemmer tilbakefall risiko, fungerer ikke objektivt. På samme forbrytelsene setninger ofte tatt ut svarte amerikanere.
Vi er alle utsatt for fordommer, og vi bringer dem inn i algoritmer som bestemmer hvilke data må tas i betraktning.
Algoritmer er bare gjenta våre tidligere feil, automatisere eksisterende orden. Så vi kan ikke blindt stole på dem, må vi teste dem for å være objektiv: å revurdere definisjonen av et vellykket resultat, feil, ikke er forsikret av noen algoritme. Hvor ofte de oppstår og hvem som er berørt? Hva er kostnaden for slike feil?
Fagfolk som arbeider med data, bør ikke være rår over rettferdighet. Det er på tide å slutte å blindt tro big data.