Adoptarea tot mai rapidă a programmeor de transcriere şi sinteză automată — denumite generic „scribi AI” — modifică fluxul de lucru în serviciile medicale, însă generează totodată riscuri în ceea ce priveşte calitatea şi securitatea datelor clinice, potrivit unei analize recente.
Ce sunt scribii AI şi de ce cresc îngrijorările
Un scrib AI este un instrument software care ascultă conversaţia clinică sau procesul de consult şi transformă automat înregistrările în notiţe, rezumate sau documente structurale. Beneficiul declarat este reducerea sarcinilor administrativ-birocratice pentru personalul medical şi eliberarea timpului pentru îngrijirea pacientului. Totuşi, această eficienţă vine acompaniată de provocări semnificative.
Conform materialului de referinţă, aproximativ 20% din notiţele clinice generate de AI conţin erori. Aceste greşeli pot fi de natură factologică (informaţii inventate sau inexacte), de interpretare a limbajului şi a nuanţelor sau rezultate din mecanismele cunoscute sub numele de „halucinaţii” ale modelelor de inteligenţă artificială, când sistemul afirmă cu încredere lucruri care nu au avut loc.
Principalele riscuri identificate
- Erori de conţinut: informaţii incorecte introduse în dosarul pacientului, cu potenţial impact asupra deciziilor clinice.
- Biasuri şi inegalităţi: interpretări greşite ale limbajului pentru pacienţii din medii culturale sau lingvistice diverse, conducând la înregistrări distorsionate.
- Lipsa transparenţei: insuficientă claritate despre cine are acces la datele colectate şi cum sunt folosite acestea de furnizorii de servicii AI.
În practică, aceste probleme pot avea consecinţe variate: de la erori administrative minore la riscuri clinice reale, dacă deciziile terapeutice se bazează pe informaţii generate automat şi neverificate.
Ce solicită experţii şi semnalele regulatorii
Documentul menţionează apeluri la o reglementare mai strictă a scribilor AI, inclusiv cerinţe ca furnizorii de astfel de servicii să dezgreveze clar ce date colectează şi cine le poate accesa. Transparenţa este considerată esenţială pentru a proteja drepturile pacientului şi pentru a permite audituri independente ale performanţei sistemelor.
Totodată, este subliniată necesitatea testelor riguroase de validare şi a supravegherii umane permanente: instrumentele AI ar trebui să susţină activitatea medicilor, nu să înlocuiască verificarea clinică sau responsabilitatea profesională.
| Aspect | Probleme |
|---|---|
| Calitatea datelor | ~20% erori în notiţele generate |
| Bias şi echitate | Interpr. inexactă pentru grupuri minoritare sau vorbitori non-nativi |
Implicaţii practice pentru sistemul de sănătate şi pacienţi
Pentru furnizorii de servicii medicale din România, adoptarea scribilor AI impune evaluarea atentă a furnizorilor de tehnologie, a politicilor de confidenţialitate şi a procedurilor interne de verificare a documentaţiei generate automat. Pacienţii ar trebui informaţi cu claritate despre utilizarea acestor instrumente şi despre cine are acces la datele lor sensibile.
Recomandările practice rezultate din raport includ următoarele măsuri:
- Implementarea unui mecanism de revizuire umană obligatorie pentru notele generate de AI;
- Audituri periodice privind performanţa și erorile sistemelor;
- Transparenţă contractuală din partea furnizorilor AI privind accesul şi utilizarea datelor;
- Pregătire profesională pentru personalul medical privind limitele şi riscurile acestor instrumente.
Adoptarea tehnologiilor digitale în medicină rămâne inevitabilă, dar experienţa actuală arată că beneficiile operaţionale nu pot fi disociate de responsabilitatea pentru date. Echilibrul între eficienţă şi siguranţă va depinde de standardele de reglementare, de bune practici profesionale şi de gradul în care instrumentele AI sunt integrate cu control uman riguros.
Pe termen scurt, instituţiile medicale care aleg să utilizeze scribii AI trebuie să trateze aceste soluţii ca pe un instrument cu limitări cunoscute, nu ca pe o panacee automatizată a birocratiei clinice.
