Kas digitaalsed algoritmid aitavad kaitsta lapsi, nagu Gabriel Fernandez, väärkohtlemise eest?

Igal aastal teatatakse laste hoolekandeasutustele võimaliku väärkohtlemise pärast umbes 7 miljonist lapsest, kuid kuidas ametiasutused teevad kindlaks, kas lastele see meeldib Gabriel Fernandez on tõsises ohus ja vajavad sekkumist?





Paljud lastekaitseasutused tuginevad riskihinnangutele, mille on andnud töötajad, kes on koolitatud juhtima telefoniliini, kus teatatakse väärkohtlemise kahtlusest, kuid mõned usuvad, et võib olla ka parem viis.

'On palju kirjandust, mille põhjal oleme näinud, et inimesed pole eriti head kristallkuulid,' ütles Emily Putnam-Hornstein Laste andmevõrk ja USC dotsent, ütles uues Neflixi dokusarjas 'Gabriel Fernandezi kohtuprotsess'. 'Selle asemel, mida me ütleme, koolitame algoritmi, et teha kindlaks, milline neist lastest sobib profiiliga, kus pika kaarega risk võiks viidata süsteemi edaspidisele kaasamisele.'



Fernandez oli kaheksa-aastane poiss, keda tema peksis ja surnuks piinas ema ja tema poiss-sõber vaatamata tema õpetaja ja teiste korduvatele kõnedele ametivõimudele, kes teatasid väärkohtlemise kahtlusest. Uus kuueosaline sari uurib Fernandezi elu ja kohutavat surma, kuid vaatab ka suuremat pilti süsteemsed probleemid laste hoolekandesüsteemis, mis oleks võinud mängida rolli.



Putnam-Hornstein väidab, et üks suurima riskiga laste tõhusama tuvastamise strateegia võiks olla spetsiaalselt loodud algoritmide kasutamine, mis kasutavad haldusdokumente ja andmekaevandust iga lapse riskiskoori määramiseks.



'Meil on tegelikult umbes 6 või 7 miljonit last, kellest on USA-s igal aastal teatatud väidetava väärkohtlemise või hooletusse jätmise eest, ja ajalooliselt põhineb see, kuidas oleme mõned oma sõeluuringu otsused teinud, lihtsalt sisikonna hinnangutele,' ütles ta. 'Prognoosiv riskimodelleerimine ütleb lihtsalt:' Ei, ei, ei, võtkem sellele süsteemsem ja empiirilisem lähenemine. '

Putnam-Hornstein ja organisatsiooni kaasdirektor Rhema Vaithianathan Sotsiaalandmete analüüsi keskus , suutsid selle idee Pennsylvanias Allegheny maakonnas ellu viia. Paar kasutas tuhandeid laste väärkohtlemise viiteid, et kujundada algoritm, mis määraks iga maakonna lastekaitseteenistustele teatatud perekonna riskiskoori vastavalt Terviseajakirjanduse keskus .



'Vaadeldakse umbes sadat erinevat tegurit,' selgitas Allegheny maakonna inimteenuste osakonna direktor Marc Cherna dokusarjas. 'Mõned põhinäited on lapse heaolu ajalugu, vanema ajalugu, kindlasti uimastite tarvitamine ja sõltuvus, vaimsed perekonnahaigused, vanglakaristused ja veendumused ning eriti kui on tegemist rünnakute ja muu sellisega.'

John Wayne Gacy kuulsad sarimõrvarid

Kõnede suure hulga tõttu on kogu riigi lastekaitseasutustel ülesandeks otsustada, kas perekonda tuleks kaebuse põhjal uurimiseks uurida või välja sõeluda.

15-aastane facebooki täisvideo

2015. aastal skriiniti 42% kogu riigis saadud 4 miljonist väidet, milles osales 7,2 miljonit last New York Times .

Kuid lapsed surevad jätkuvalt laste väärkohtlemise tõttu.

Allegheny maakonnas kasutatav süsteem on välja töötatud selleks, et andmete analüüsi abil täpsemini ennustada, millistel peredel on tulevikus tõenäoliselt süsteemi osalus.

'See, mis ekraanidel on, on palju andmeid,' ütles Vaithianathan The Timesile. 'Kuid on üsna raske navigeerida ja teada, millised tegurid on kõige olulisemad. Ühe kõne jooksul C.Y.F. , teil võib olla kaks last, väidetav vägivallatseja, teil on ema, teil võib olla leibkonnas veel üks täiskasvanu - kõigil neil inimestel on süsteemis ajalugu, mida kõnet kontrolliv isik saab uurida. Kuid inimese aju pole nii osav, et kõiki andmeid kasutada ja mõtestada. '

Allegheny perekonna sõelumisvahend kasutab ajalooliste mustrite vaatamiseks statistilist tehnikat, mida nimetatakse 'andmekaevanduseks', et igal juhul 'proovida prognoosida, mis võib juhtuda', ütles ta dokumendisarjas.

Igale juhtumile antakse riskiskoor vahemikus üks kuni 20 - liigitades iga juhtumi kas kõrge, keskmise või madala riskiga.

Pittsburghi lastehaigla lastearst Rachel Berger ütles 2018. aastal ajalehele The Times, et ennustava analüüsi muudab väärtuslikuks see, et see kõrvaldab osa subjektiivsusest, mis tavaliselt protsessi läheb.

'Kõik need lapsed elavad kaoses,' ütles ta. 'Kuidas saab C.Y.F. valida välja, millised neist on kõige rohkem ohus, kui neil kõigil on riskifaktorid? Te ei suuda uskuda, kui palju subjektiivsust lastekaitse otsused langetavad. Seetõttu armastan ma ennustavat analüüsi. Lõpuks toob see teatud objektiivsuse ja teaduse otsuste juurde, mis võivad nii uskumatult elu muuta. '

Kuid on olnud ka kriitikuid, kes väidavad, et ennustava analüüsi kasutamine tugineb andmetele, mis võivad olla juba kallutatud. Varasemad uuringud on näidanud, et vähemused ja madala sissetulekuga perekonnad on kogutud andmetes sageli üleesindatud, mis võib dokusarja kohaselt tekitada kallutatust Aafrika-Ameerika perekondade või teiste vähemusperede vastu.

'Inimeste ja andmete kallutatuskäivad üksteisega käsikäes, ”Ütles Ohio osariigi ülikooli Kirwani rassi ja rahvuse uurimise instituudi vanemteadur Kelly Capatosto, teatas Terviseajakirjanduse Keskus. „Nende otsustega mõtleme jälgimisele ja süsteemikontaktidele - politsei, lastekaitseasutuste, kõigi sotsiaalhoolekannet teenindavate asutustega. See on alaesindatud (madala sissetulekuga ja vähemusrahvuste) kogukondades. See ei pruugi näidata, kus need juhtumid aset leiavad. '

Allegheny maakonna analüüsi-, tehnoloogia- ja planeerimisbüroo asedirektor Erin Dalton tunnistas, et kallutatus on võimalik.

'Kindlasti on meie süsteemides erapoolikus. Laste väärkohtlemist näeme meis ja meie andmed ei sõltu tegelikust laste väärkohtlemisest, see on funktsioon sellest, kellest teavitatakse, 'ütles ta Netflixi sarjas.

Kuid maakond ütles terviseajakirjanduse keskusele ka, et on leidnud, et avalike hüvede saamine vähendab peaaegu kõigi nende perede riskiskoore.

Richmond Virginia briley vennad

Tmaakond on selle mure suhtes 'väga tundlik' ja teeb süsteemi kohta pidevat analüüsi, et teha kindlaks, kas rühmi on sihitud ebaproportsionaalselt, ütles Cherna ka dokumendisarjas.

Allegheny County süsteem on maakonna enda omandis, kuid mõningat kriitikat on olnud ka teiste eraomanduses olevate sõeluuringute süsteemide suhtes.

Illinoisi laste- ja pereteenuste osakond teatas 2018. aastal, et ei kasuta enam mittetulundusühingu Eckerd Connects ja selle kasumipartneri MindShare Technology väljatöötatud ennustava analüüsi paketti osaliselt seetõttu, et ettevõte keeldus täpsustamast, millised tegurid The Timesi andmetel kasutati nende valemis.

Kuuldavasti hakkas süsteem määrama tuhandeid lapsi, kes vajavad kiiret kaitset, andes enam kui 4100 Illinoisi lapsele surma või vigastuse tõenäosuse 90 protsenti või suurema tõenäosuse, Chicago tribüün teatas 2017. aastal.

eluaegne film cheerleaderi surmast

Teised lapsed, kes ei saanud kõrgeid riskiskoore, surid siiski väärkohtlemise tagajärjel.

'Ennustav analüüs (ei olnud) ennustada ühtegi halba juhtumit,' Laste ja pereteenuste osakonna direktor Beverly 'B.J.' Walker rääkis Tribune'ile. 'Olen otsustanud seda lepingut mitte jätkata.'

Daniel Hatcher, raamatu Vaesuse tööstus: Ameerika kõige haavatavamate kodanike ärakasutamine ”Võrdles mõnda analüütilist süsteemi“ musta kastiga ”, öeldes dokumendisarjas, et see, kuidas nad oma otsuseid teevad, pole alati selge.

'Neil pole mingit võimalust välja mõelda, kuidas nad tegelikult otsustavad hooldustaset, millel on inimesele tohutu mõju,' ütles ta.

Putnam-Hornstein tunnistas, et ennustavad analüütilised süsteemid ei suuda tulevast käitumist kindlaks teha, kuid ta usub, et see on väärtuslik tööriist, mis võimaldab skriinijatel teha teadlikumaid otsuseid selle kohta, millised lapsed võivad olla kõige suuremas ohus.

'Loodan, et need mudelid aitavad meie süsteemil pöörata rohkem tähelepanu suhteliselt väikesele saatekirjade alamhulgale, kus risk on eriti suur, ja me saame neile lastele ja peredele ennetavalt rohkem ressursse pühendada,' ütles ta. terviseajakirjanduse keskusele. 'Ma ei taha, et keegi ennustavate riskide modelleerimisest üle müüks. See pole kristallkuul. See ei lahenda kõiki meie probleeme. Kuid kui marginaal võimaldab meil teha veidi paremaid otsuseid ja tuvastada kõrge riskiga juhtumeid ning sorteerida need madala riskiga juhtumite hulgast ja vastavalt sellele kohaneda, võib see olla selle valdkonna oluline areng. '

Lemmik Postitused