Czy pacjent wie, że rozmawia ze sztuczną inteligencją? Odpowiedź na to pytanie przestanie być kwestią dobrej praktyki, a stanie się obowiązkiem prawnym. Nowe przepisy AI Act nakładają na placówki medyczne i dostawców systemów AI konkretne wymagania dotyczące transparentności — wskazał serwis MSN.com/pl.
Zmiany weszły w życie już 2 sierpnia 2026 r. Od tego dnia placówki medyczne korzystające z chatbotów, voicebotów, wirtualnych asystentów i innych narzędzi generujących treści muszą spełnić nowe wymogi przejrzystości — zaznaczono.
Warto podkreślić, że nowy termin nie oznacza wejścia w życie wszystkich przepisów dotyczących systemów AI wysokiego ryzyka, w tym tych stosowanych jako wyroby medyczne lub ich elementy bezpieczeństwa. Sierpniowe zmiany obejmują przede wszystkim obowiązki informacyjne i przejrzystość w kontaktach z pacjentami — podano w informacji.
Zgodnie z nowymi przepisami, każdy system AI przeznaczony do bezpośredniej interakcji z człowiekiem, taki jak chatbot, voicebot czy wirtualny asystent, musi być zaprojektowany w taki sposób, by użytkownik od początku wiedział, że kontaktuje się ze sztuczną inteligencją. Taka informacja powinna być przekazana jasno i w sposób wyraźnie odróżniający się od innych komunikatów — najpóźniej na początku pierwszej rozmowy.
Wyjątek od tego obowiązku przewidziano tylko wtedy, gdy dla przeciętnej, dobrze poinformowanej osoby jest oczywiste, że rozmawia z AI. Eksperci podkreślają jednak, że ten wyjątek należy stosować bardzo ostrożnie. Sam fakt korzystania ze strony internetowej lub automatycznej infolinii nie oznacza jeszcze, że pacjent wie o obecności AI — zaznjaczono.
W praktyce nowe regulacje mogą dotyczyć m.in.:
— chatbotów odpowiadających na pytania pacjentów,
— voicebotów prowadzących rozmowy telefoniczne,
— wirtualnych asystentów pomagających w umawianiu lub odwoływaniu wizyt,
— narzędzi przekazujących informacje o przygotowaniu do badań czy dostępnych świadczeniach,
— asystentów prowadzących rozmowy na stronie internetowej lub w aplikacji.
Nie wszystkie narzędzia automatyzujące kontakt z pacjentem będą jednak objęte tymi wymogami. System musi spełniać definicję AI, umożliwiać bezpośrednią, dwustronną interakcję i samodzielnie komunikować się z użytkownikiem — wyjaśniono.
Obowiązek zaprojektowania systemu zgodnie z wymogami przejrzystości spoczywa przede wszystkim na dostawcy rozwiązania. Placówka medyczna korzystająca z gotowego narzędzia zazwyczaj nie jest jego dostawcą, ale nie zwalnia jej to z odpowiedzialności za prawidłowe wdrożenie i funkcjonowanie systemu — podkreślono.
Placówka powinna sprawdzić:
— czy komunikat o AI pojawia się na początku rozmowy,
— czy informacja jest zrozumiała i dostępna dla wszystkich pacjentów, również tych ze szczególnymi potrzebami,
— czy komunikat działa we wszystkich kanałach kontaktu (strona, aplikacja, telefon),
— kto odpowiada za treść, aktualizację i techniczne wyświetlanie informacji,
— czy dostawca umożliwia wykazanie zgodności rozwiązania z AI Act.
W przypadku samodzielnego opracowania lub zlecenia opracowania systemu AI, placówka może uzyskać status dostawcy i ponosić pełną odpowiedzialność za spełnienie wymogów prawnych — czytamy dalej.
Od sierpnia 2026 r. placówki medyczne stosujące systemy AI do generowania lub modyfikowania obrazów, nagrań dźwiękowych czy wideo muszą wyraźnie oznaczać takie materiały jako deepfake. Dotyczy to treści przypominających istniejące osoby, przedmioty, miejsca lub zdarzenia, które mogą sprawiać wrażenie autentycznych – zaznaczono.
Obowiązek ten będzie miał znaczenie np. w przypadku cyfrowo wygenerowanych wypowiedzi lekarzy, syntetycznych nagrań głosu czy realistycznych wizerunków pacjentów. Oznaczenie deepfake’a musi być widoczne lub słyszalne dla odbiorcy już przy pierwszym kontakcie z materiałem — nie wystarczy techniczne oznaczenie w systemie.
Nowe przepisy obejmują również teksty wygenerowane lub znacząco zmodyfikowane przez AI, jeśli są publikowane w celu informowania społeczeństwa o sprawach interesu publicznego, takich jak zdrowie publiczne. Dotyczy to nie tylko oficjalnych komunikatów, ale także materiałów o profilaktyce, zagrożeniach zdrowotnych, epidemiach czy bezpieczeństwie pacjentów — wskazano.
Nie każdy tekst przygotowany przy pomocy AI wymaga jednak oznaczenia. Obowiązek nie dotyczy treści, które zostały poddane rzeczywistej kontroli merytorycznej przez człowieka, a odpowiedzialność za publikację ponosi konkretna osoba lub organizacja. Kontrola powinna obejmować wiarygodność informacji, poprawność źródeł oraz zasadność wniosków — napisano.
Placówki medyczne powinny:
— zinwentaryzować wszystkie chatboty, voiceboty i asystentów kontaktujących się z pacjentami,
— sprawdzić, które narzędzia spełniają definicję systemu AI,
— przeprowadzić próbne kontakty i odnotować, jak pojawia się komunikat o AI,
— zweryfikować umowy z dostawcami i podział odpowiedzialności,
— sprawdzić, czy AI jest wykorzystywana do tworzenia obrazów, nagrań lub tekstów dotyczących zdrowia publicznego,
— wprowadzić obowiązek merytorycznej kontroli treści generowanych przez AI,
dokumentować wyniki weryfikacji i wprowadzane zmiany.
Data 2 sierpnia 2026 r. to tylko jeden z etapów wdrażania unijnych przepisów. Obowiązki dotyczące samodzielnych systemów AI wysokiego ryzyka wejdą w życie 2 grudnia 2027 r., a dla systemów wbudowanych w produkty objęte unijnymi przepisami sektorowymi — 2 sierpnia 2028 r. Ta ostatnia kategoria obejmie część systemów AI będących wyrobami medycznymi lub elementami bezpieczeństwa takich wyrobów — zaznaczono.
Placówki medyczne już dziś powinny przygotować się na nadchodzące zmiany i zadbać o zgodność swoich rozwiązań z nowymi wymogami prawnymi — czytamy w podsumowaniu. (jmk)
Foto: Pixabay.com
Źródło: MSN.com/pol
