Každý rok je orgánom sociálnej starostlivosti o deti hlásených zhruba 7 miliónov detí z dôvodu možného zneužitia. Ako však orgány určujú, či sa deťom páči Gabriel Fernandez sú vo vážnom nebezpečenstve a potrebujú zásah?
Mnoho orgánov starostlivosti o deti sa spolieha na hodnotenie rizík, ktoré poskytujú pracovníci zaškolení na obsluhu telefónnych liniek, kde je hlásené podozrenie na zneužitie. Niektorí sa však domnievajú, že môže existovať lepší spôsob.
'Existuje veľké množstvo literatúry, o ktorej sme videli, že ľudia nie sú obzvlášť dobrými krištáľovými guľami,' povedala Emily Putnam-Hornstein, riaditeľka Detská dátová sieť a docent na USC, uviedol v novej doku-sérii Neflix „The Trials of Gabriel Fernandez“. „Namiesto toho tvrdíme, že si zaškolíme algoritmus na identifikáciu toho, ktoré z týchto detí sa hodí do profilu, kde by riziko dlhého oblúka naznačovalo budúce zapojenie systému.“
Fernandez bol 8-ročný chlapec, ktorého zbili a umučili na smrť matka a jej priateľ , aj napriek opakovaným výzvam jeho učiteľa a ďalších osôb orgánom hlásiacim podozrenie na zneužívanie. Nová šesťdielna séria skúma Fernandezov život a strašnú smrť, ale tiež sa na ňu pozerá vo väčšej miere systémové problémy v rámci systému starostlivosti o deti, ktorý mohol hrať úlohu.
Putnam-Hornstein tvrdí, že jednou zo stratégií na efektívnejšiu identifikáciu detí, ktoré sú najviac ohrozené, by mohlo byť použitie špeciálne vytvorených algoritmov, ktoré pomocou administratívnych záznamov a ťažby dát určia skóre rizika pre každé dieťa.
„V skutočnosti máme v USA okolo 6 alebo 7 miliónov detí, ktoré sú údajne týrané alebo zanedbávané každý rok. Historicky je spôsob, akým sme robili niektoré z našich rozhodnutí o skríningu, založený iba na druhu črevného hodnotenia,“ uviedla. „Prediktívne modelovanie rizík iba hovorí:„ Nie, nie, nie, pristúpime k tomu systematickejšie a empirickejšie. ““
Putnam-Hornstein a Rhema Vaithianathan, spoluriaditeľ agentúry Centrum pre analýzu sociálnych údajov , boli schopní túto myšlienku uviesť do praxe v okrese Allegheny v Pensylvánii. Táto dvojica použila tisíce odporúčaní na zlé zaobchádzanie s deťmi, aby navrhli algoritmus, ktorý by určil skóre rizika pre každú rodinu nahlásenú orgánom ochrany detí v kraji, podľa Centrum pre žurnalistiku v oblasti zdravia .
'Sleduje sa asi sto rôznych faktorov,' vysvetlil v sérii doku Marc Cherna, riaditeľ odboru ľudských služieb v okrese Allegheny. „Niektoré základné príklady sú história dobrých životných podmienok detí, história rodičov, určite užívanie drog a závislosti, psychické choroby rodiny, väzenie a odsúdenie, najmä ak existujú útoky a podobné veci.“
Kvôli veľkému množstvu hovorov majú orgány zodpovedné za starostlivosť o deti v celej krajine za úlohu určiť, či by mala byť rodina na základe sťažnosti podrobená vyšetreniu alebo vyšetrená.
V roku 2015 bolo podľa agentúry Screening 42% zo 4 miliónov obvinení prijatých v celej krajine, ktoré sa týkali 7,2 milióna detí New York Times .
Napriek tomu deti naďalej zomierajú na týranie.
Systém, ktorý sa používa v okrese Allegheny, je navrhnutý tak, aby presnejšie predpovedal, ktoré rodiny budú mať pravdepodobné budúce zapojenie systému prostredníctvom analýzy údajov.
'Triediče majú veľa údajov,' povedal Vaithianathan pre The Times. 'Ale je dosť ťažké sa orientovať a vedieť, ktoré faktory sú najdôležitejšie.' V rámci jediného hovoru so spoločnosťou C.Y.F. , môžete mať dve deti, údajného páchateľa, budete mať matku, môžete mať iného dospelého v domácnosti - všetci títo ľudia budú mať v systéme históriu, ktorú môže vyšetrovať osoba, ktorá preveruje hovor. Ľudský mozog však nie je taký zručný pri využívaní a porozumení všetkých údajov. “
Nástroj na skríning rodiny Alleghenyovcov využíva štatistickú techniku nazvanú „data mining“ na skúmanie historických vzorcov, aby sa „pokúsila predpovedať, čo sa môže stať“ v danom prípade, uviedla v sérii doku.
Každému prípadu sa pridelí rizikové skóre od jedného do 20 - jednotlivé prípady sa kategorizujú buď ako vysoko rizikové, stredne rizikové alebo nízkorizikové.
Rachel Bergerová, pediatrička z Detskej nemocnice v Pittsburghu, pre The Times v roku 2018 povedala, že prediktívna analýza je hodnotná tým, že eliminuje časť subjektivity, ktorá do procesu zvyčajne vstupuje.
čo sa stalo s jantárovými ružovými vlasmi
'Všetky tieto deti žijú v chaose,' povedala. „Ako C.Y.F. vybrať, ktoré z nich sú najviac ohrozené, keď majú všetky rizikové faktory? Neuveríte miere subjektivity, ktorá závisí od rozhodnutí o ochrane dieťaťa. Preto milujem prediktívne analýzy. Konečne prináša určitú objektivitu a vedu k rozhodnutiam, ktoré môžu byť tak neuveriteľné životne dôležité. “
je tyria moore stále nažive?
Existujú však aj kritici, ktorí tvrdia, že použitie prediktívnej analýzy závisí od údajov, ktoré už môžu byť zaujaté. Minulý výskum ukázal, že menšiny a rodiny s nízkym príjmom sú často zhromaždené v nadmerne zastúpených údajoch, čo podľa série dokuetov potenciálne vytvára zaujatosť voči afroamerickým rodinám alebo iným menšinovým rodinám.
'Predpojatosť u ľudí a predpojatosť v údajoch.'ísť spolu ruka v ruke”, Uviedla Kelly Capatosto, vedúca vedecká pracovníčka na Kirwanskom inštitúte pre štúdium rasy a etnického pôvodu na Ohio State University, podľa Centra pre zdravotnú žurnalistiku. „Pri týchto rozhodnutiach myslíme na dohľad a systémový kontakt - s políciou, agentúrami pre starostlivosť o deti a akýmikoľvek agentúrami slúžiacimi sociálnej starostlivosti. Bude nadmerne zastúpený v komunitách (s nízkymi príjmami a menšinách). Nemusí to nevyhnutne svedčiť o tom, kde k týmto prípadom dochádza. “
Erin Dalton, zástupkyňa riaditeľa kancelárie pre analýzu, technológiu a plánovanie v okrese Allegheny, pripustila, že zaujatosť je možná.
'V našich systémoch je určite zaujatosť.' Zneužívanie detí vnímame my a naše údaje nie sú funkciou skutočného zneužívania detí, je to funkcia toho, kto je nahlásený, “uviedla v seriáli Netflix.
Ale kraj tiež povedal Centru pre zdravie žurnalistiky, že zistil, že poberanie verejných dávok znižuje skóre rizika pre takmer jeho rodiny.
Tokres je „veľmi citlivý“ na tieto obavy a robí priebežné analýzy systému, aby určil, či sú skupiny neprimerane cielené, uviedla v sérii doku aj Cherna.
Systém Allegheny County vlastní samotný kraj, došlo však aj k určitej kritike iných súkromných skríningových systémov.
Illinoisské ministerstvo pre deti a rodinné služby v roku 2018 oznámilo, že už nebude používať balík prediktívnych analýz vyvinutý neziskovou organizáciou Eckerd Connects a jej neziskovým partnerom MindShare Technology, čiastočne preto, že spoločnosť odmietla poskytnúť podrobnosti o tom, aké faktory sa podľa The Times používali v ich vzorci.
Systém údajne začal označovať tisíce detí, ktoré potrebujú urgentnú ochranu, čo dáva viac ako 4 100 deťom z Illinois 90% alebo vyššiu pravdepodobnosť smrti alebo zranenia, Chicago Tribune hlásené v roku 2017.
Ostatné deti, ktoré nezískali vysoko rizikové skóre, napriek tomu nakoniec zomreli na týranie.
„Prediktívna analytika (ne) predpovedala žiadny zo zlých prípadov,“ uviedla riaditeľka oddelenia detských a rodinných služieb Beverly „B.J.“ Walker to povedal na Tribune. 'Rozhodol som sa v tejto zmluve nepokračovať.'
Daniel Hatcher, autor knihy „ Chudobný priemysel: Vykorisťovanie najohrozenejších občanov Ameriky ”Porovnal niektoré analytické systémy s„ čiernou skrinkou “, pričom v sérii doku uviedol, že to, ako robia svoje rozhodnutia, nie je vždy jasné.
'Nemajú spôsob, ako prísť na to, ako vlastne rozhodujú o úrovni starostlivosti, ktorá má obrovský vplyv na jednotlivca,' uviedol.
Putnam-Hornstein pripustila, že prediktívne analytické systémy nie sú schopné určiť budúce správanie, ale verí, že je to cenný nástroj, ktorý skríningom umožňuje prijímať informovanejšie rozhodnutia o tom, ktoré deti môžu byť najviac ohrozené.
„Dúfam, že tieto modely pomôžu nášmu systému venovať väčšiu pozornosť relatívne malej podskupine odporúčaní, kde je riziko obzvlášť vysoké, a týmto deťom a rodinám budeme môcť preventívne venovať viac zdrojov,“ uviedla do Centra pre zdravotnú žurnalistiku. 'Nechcem, aby niekto predbehol prediktívne modelovanie rizík.' Nie je to krištáľová guľa. Nevyrieši to všetky naše problémy. Ale na okraj, ak nám to umožní urobiť trochu lepšie rozhodnutia a identifikovať prípady s vysokým rizikom, vytriediť ich z prípadov s nízkym rizikom a podľa toho sa prispôsobiť, môže to byť pre túto oblasť dôležitý vývoj. “
