În urmă cu aproximativ un an, la Erlanger Baroness, cel mai mare spital din Chattanooga, statul american Tennessee, personalul de anestezie a observat că un asistent medical vorbea neclar și se chinuia să rămână treaz în timp ce era de serviciu în centrul chirurgical. Informația apare într-un document al consiliului profesional care supraveghează activitatea asistenților medicali din Tennessee, relatează CBS News.
În zilele următoare, asistentul medical nu a trecut un test antidrog și a fost concediat. Ulterior, el a recunoscut că, timp de luni întregi, furase și consumase fentanil rămas după intervenții chirurgicale, uneori zilnic.
În cele mai multe situații, acesta ar fi fost un caz obișnuit de ceea ce este cunoscut drept „deturnare de medicamente”, adică sustragerea ilegală de substanțe controlate din unități medicale, un fenomen foarte răspândit în spitalele din SUA.
Dar cazul de la spitalul Erlanger Baroness iese în evidență pentru că un sistem de supraveghere de ultimă generație ar fi trebuit să fie în alertă.
Software-ul AI nu a tras alarma
Spitalul folosea Sentri7, un software de monitorizare a medicamentelor bazat pe inteligență artificială. Programul este conceput să depisteze rapid medicamentele lipsă. Însă, timp de luni întregi, Sentri7 nu a tras semnale de alarmă la Erlanger.
Cu toate acestea, potrivit unui document al autorității din Tennessee care reglementează activitatea asistenților medicali, sistemul nu a semnalat timp de luni întregi mai multe probleme care „ar fi trebuit marcate”.
CBS News notează că acest caz oferă o imagine rară asupra unui posibil eșec al unui software AI folosit în sute de spitale din SUA. Unitățile medicale americane nu sunt obligate să anunțe public dacă folosesc astfel de programe și nici să raporteze eventualele defecțiuni.
Spitalul a refuzat să comenteze despre folosirea Sentri7 sau despre medicamentele furate.
Experții americani spun că astfel de programe pot ajuta spitalele, dar nu pot înlocui complet controlul uman. În acest caz, semnele de alarmă au fost observate mai întâi de oameni, nu de inteligența artificială.