Un grup de cercetători de la Universitatea 'Alexandru Ioan Cuza' (UAIC) din Iaşi a dezvoltat un sistem de inteligenţă artificială (IA) capabil să analizeze postări publicate pe platforma X şi să indice dacă acestea prezintă semne de depresie, oferind totodată o scurtă explicaţie, în limbaj comun, care motivează clasificarea, a anunţat universitatea printr-un comunicat de presă.
Ce face sistemul şi de ce este diferit
Sistemul construit la Facultatea de Informatică procesează textul postării şi ora publicării ca date de intrare. Pe lângă atribuirea unei etichete privind posibila prezenţă a simptomelor depresive, modelul generează una-două propoziţii care explică motivele deciziei — un element conceput pentru a creşte transparenţa şi utilitatea în contexte clinice sau de cercetare.
Potrivit comunicatului, abordarea pleacă de la observaţii din literatura de specialitate care leagă comportamentul de postare (inclusiv momentul din zi) de starea psihică a utilizatorului. Echipa a urmărit nu doar performanţa clasificatorului, ci şi capacitatea acestuia de a oferi explicaţii relevante, pentru a evita situaţiile în care modelul se bazează pe corelaţii întâmplătoare, irelevante din punct de vedere clinic.
"În domeniul sănătăţii mintale, simpla clasificare nu este suficientă. (...) Medicii, utilizatorii şi inclusiv cercetătorii trebuie să înţeleagă de ce modelul consideră că o postare este clasificată ca indicând depresie. Explicaţiile cresc transparenţa şi încrederea în sistem şi permit verificarea faptului că modelul se bazează pe indicii relevante, nu pe corelaţii întâmplătoare", a afirmat conf. dr. Mădălina Răschip, coordonatoarea proiectului.
Cadrul legal şi etic
Universitatea menţionează restricţiile europene asupra unor aplicaţii ale IA: Uniunea Europeană a interzis utilizarea sistemelor care interpretează emoţiile oamenilor în mediile de muncă sau educaţionale din cauza riscurilor pentru persoanele vulnerabile. În afara acestor contexte, astfel de sisteme sunt considerate "cu risc ridicat" şi, prin legislaţia europeană propusă sau în curs de aplicare, vor trebui să ofere explicaţii şi să permită control uman al deciziilor.
Echipa UAIC a construit modelul tocmai pentru a răspunde acestor cerinţe: pe lângă clasificare, acesta produce explicaţii succinte menite să faciliteze verificarea şi interpretarea rezultatelor de către specialişti sau utilizatori autorizaţi.
Componentele tehnologice
Conform informaţiilor publicate de universitate, elementele principale ale sistemului sunt:
- analiza limbajului natural a conţinutului text;
- corelarea cu metadate temporale (ora postării);
- generarea de explicaţii în limbaj uman, limitate la una-două propoziţii.
Mai jos este o sinteză a inputurilor şi outputurilor sistemului, aşa cum rezultă din descrierea proiectului:
| Intrări | Ieșiri |
|---|---|
| Textul postării | Clasificare: semne de depresie / fără semne |
| Ora publicării | Explicaţie scurtă (1–2 propoziţii) |
Rolul explicaţiilor şi limitele abordării
Coordonatoarea proiectului, conf. dr. Mădălina Răschip, argumentează că, în sănătatea mintală, etapele diagnostice nu pot fi înlocuite doar de verdictul unui algoritm: explicarea deciziilor sporeşte încrederea şi permite specialiştilor să identifice eventualele erori de raţionament ale modelului. Aceasta subliniază necesitatea verificării faptului că algoritmul se bazează pe indici clinici relevanţi şi nu pe corelaţii accidentale din date.
Universitatea precizează că sistemul nu este proiectat pentru utilizare autonomă în medii sensibile, cum sunt locul de muncă sau şcoala, unde legislaţia europeană specifică interdicţii stricte. Rolul vizat este acela de instrument de suport pentru cercetare şi, cu prudenţă, pentru profesionişti din sănătate mintală, care pot interpreta explicaţiile şi decide paşii ulteriori.
Deocamdată, comunicatul nu oferă detalii privind evaluările clinice, ratele de eroare ale modelului sau disponibilitatea publică a instrumentului; aceste aspecte sunt esenţiale pentru evaluarea utilităţii reale a soluţiei şi urmează să fie comunicate de echipa UAIC în lucrări ştiinţifice sau rapoarte viitoare.
Sistemul dezvoltat la UAIC reflectă tendinţa actuală din cercetare spre modele de IA explicabile şi arată cum preocupările etice şi reglementările europene influenţează proiectarea aplicaţiilor în domeniul sănătăţii mintale.
