Spitalele din SUA folosesc inteligența artificială pentru a detecta abuzul domestic, stârnind controverse etice

Pot sistemele AI să detecteze abuzul în relații intime?

Un număr tot mai mare de spitale din Statele Unite implementează sisteme de inteligență artificială menite să detecteze violența în relațiile intime atunci când pacienții ajung la camera de urgență. Tehnologia, care va fi lansată în mai multe rețele importante de sănătate în perioada 2025-2026, își propune să alerteze cadrele medicale cu privire la posibilele abuzuri ascunse.

Criticii susțin că această abordare poate încălca confidențialitatea și submina autonomia supraviețuitorilor. Pe de altă parte, susținătorii susțin că aceste instrumente filtrează înregistrările electronice de sănătate, notele de triaj și ordinele de imagini pentru a identifica tipare asociate cu abuzul, cum ar fi descrieri repetate ale simptomelor sau explicații vagi.

Scopul este de a interveni mai devreme decât permite screening-ul tradițional, care se bazează adesea pe întrebări directe adresate pacientului.

Cu toate acestea, algoritmii utilizați funcționează fără a lua în considerare un model explicit al pacientului, ceea ce ridică temeri legate de alarme false și dezvăluiri neintenționate care ar putea pune în pericol victimele.

O analiză internă recentă a scos la iveală o rată de fals-pozitiv de 12%, ceea ce înseamnă că unii pacienți au fost semnalați ca fiind potențiale victime ale abuzului domestic, chiar dacă nu se aflau într-o relație abuzivă. Supraviețuitorii intervievați pentru studiu au exprimat îngrijorarea de a fi marcați fără acordul lor.

Poate inteligența artificială să prevină violența în familie?

„Dacă sistemul îi spune asistentei că sunt o victimă înainte ca eu să spun ceva, se poate simți invaziv”, a explicat un participant. Ca

Problema consimțământului devine din ce în ce mai relevantă.

Departamentele de urgență nu au actualizat formularele de admitere pentru a include informații despre screening-ul efectuat de AI, astfel că pacienții nu sunt conștienți că datele lor pot fi analizate pentru a detecta posibile abuzuri.

În timp ce organizațiile profesionale lucrează la elaborarea unor linii directoare pentru standardizarea transparenței algoritmilor, validarea lor și notificarea pacienților, viitorul acestei tehnologii rămâne incert. Dacă se vor implementa măsuri adecvate de protecție, AI ar putea deveni un instrument valoros în lupta împotriva violenței în relațiile intime. În absența acestora, riscul de a eroda încrederea pacienților și de a provoca prejudicii ar putea depăși beneficiile.

Cercetările și dezbaterile politice în curs de desfășurare vor determina dacă promisiunea detectării precoce a abuzului domestic cu ajutorul AI poate fi îndeplinită într-un mod responsabil.