Den tidligere sosialarbeideren Thea Ramirez står bak verktøyet Family-Match, som skal finne de rette fosterforeldrene til barn som er vanskelig å adoptere bort.
Mange av dem er langt fra nyfødte og har presserende behov eller funksjonshemninger.
Et flertall av barna bærer på traumer etter å ha gått fra fosterhjem til fosterhjem, blitt atskilt fra søsken, eller blitt misbrukt seksuelt og fysisk.
Forbyr AI-skapt politisk reklame
Som en datingtjeneste
Det er i denne verdenen Thea Ramirez tilbyr en teknisk løsning som ved hjelp av kunstig intelligens skal kunne forutse hvilke adoptivfamilier som kan tilby et trygt hjem.
Redskapet er utarbeidet av tidligere medarbeidere ved en datingtjeneste, og det fungerer langt på vei som apper for folk som søker kjæreste.
– Vi bruker vitenskap, ikke preferanser, til å etablere en score som er i stand til å forutse hvem som vil passe sammen over tid, uttalte grunnleggeren i en Youtube-video i 2021.
«Sosialarbeidere i Virginia ble også overrasket over at algoritmen så ut til å matche alle barna med den samme gruppen foreldre.»
Begrensede resultater
Nyhetsbyrået Associated Press (AP) kan gjennom undersøkende journalistikk slå fast at KI-redskapet har ført til begrensede resultater i delstatene som har tatt det i bruk.
AP finner at Thea Ramirez har overdrevet hvor god algoritmen er til tross for at brukere mener den ikke er så veldig nyttig, og ofte finner match på familier som ikke ønsker å adoptere.
Delstatene Virginia og Georgia droppet Family Match etter en prøveperiode. Tennessee gikk videre etter prøveperioden, men droppet KI-programmet før det ble rullet ut.
Eier sensitive data
Ansatte i disse statene forteller at organisasjonen Family Match eier flere av de høyst sensitive dataene som blir samlet inn. De forteller også at den frivillige organisasjonen bak Family Match er veldig restriktiv med å gi innsikt i hvordan algoritmen virker.
– Vi vil aldri finne en sikker måte å forutse menneskelig oppførsel. Ingenting er mer uforutsigbart enn ungdomsårene, sier Bonni Goodwin, som er ekspert på data om barnevern.
Thea Ramirez er tidligere sosialarbeider og gift med en pastor. Hun har lenge fremmet adopsjon som en metode for å redusere aborter.
Ideen har hun forsøkt å selge inn til amerikanske delstater. Hennes arbeid og religiøse overbevisning har først og fremst fått støtte fra konservative.
Daværende førstedame Melania Trump ga positiv oppmerksomhet til Ramirez under en tilstelning i krise- og beredskapsrommet i Det hvite hus.
Musks nye chatbot «låner navn» fra norske Sanity
Får match-score
Sosialarbeidere beskriver funksjonaliteten i Family Match omtrent slik: Potensielle fosterforeldre fyller ut et omfattende skjema om seg selv. Deretter legges informasjon om fosterbarn inn i basen. Som på en datingside genereres en score på hvor godt barn og fosterforeldre matcher. Sosialarbeidere går så gjennom de matchende kandidatene.
Under de to årene delstaten Virginia testet systemet, ble det ifølge administrasjonen bare gjennomført én adopsjon basert på systemet.
– Sosialarbeidere i Virginia ble også overrasket over at algoritmen så ut til å matche alle barna med den samme gruppen foreldre, sier Traci Jones som er nestleder i Virginias sosialtjeneste.
«Vi stoler på noe som ikke er 100 prosent nyttig.»
Uklart hvor mange som feilet
Systemet er i bruk i Florida der alt barnevern er privatisert. Family Match hevder at de har bidratt til 603 utplasseringer som har ført til 431 adopsjoner i Florida de siste fem årene.
Advokaten for Family Match, Scott Stevens, fortalte AP i juni at bare tre adopsjoner anbefalt av algoritmen har feilet siden 2019. Men en gjennomgang av adopsjonspapirene antyder at 76 av adopsjonene ikke formelt er gjennomført. Selskapet har ingen kommentar til disse opplysningene.
Den private tjenesten Children’s Network of Southwest Florida opplyser at de har oppnådd 22 matcher som førte til åtte adopsjoner ved å bruke verktøyet. Det er ganske få sammenlignet med de flere hundre adopsjoner tjenesten har gjennomført uten hjelp av Family Match, påpeker tjenesten.
Den erfarne sosialarbeideren Connie Going tror ikke Family Match hjelper de sårbare barna. Hun sier algoritmen gir falskt håp for foreldre som vi adoptere. Algoritmen gjør hennes jobb vanskeligere.
– Vi stoler på noe som ikke er 100 prosent nyttig. Det er bortkastet tid for sosialarbeidere og bortkastede emosjonelle opplevelser for barna, sier Going til AP.
