Czy w chwili kryzysu psychicznego można liczyć na pomoc sztucznej inteligencji? Badania zespołu z Uniwersytetu Medycznego we Wrocławiu pokazują, że obecnie – zdecydowanie nie. Analiza popularnych aplikacji opartych na AI, reklamujących się jako wsparcie w obszarze zdrowia psychicznego, ujawniła poważne braki i zagrożenia.

Coraz więcej młodych ludzi, zamiast zadzwonić na telefon zaufania czy skontaktować się z lekarzem, wpisuje swoje dramatyczne myśli w okienko aplikacji. Badacze z UMW postanowili sprawdzić, jak chatboty reagują na wiadomości świadczące o rosnącym ryzyku samobójczym. W eksperymencie wykorzystano międzynarodowe narzędzie oceny ryzyka – Columbia-Suicide Severity Rating Scale (C-SSRS).

Rezultat? Żaden z badanych chatbotów nie spełnił kryteriów adekwatnej reakcji w sytuacji kryzysowej. Ponad połowa odpowiedzi była „marginalnie wystarczająca”, a niemal połowa – całkowicie nieadekwatna. Najczęstszym błędem było podawanie niewłaściwych numerów alarmowych – często amerykańskich, nawet wtedy, gdy użytkownik wskazywał, że znajduje się w Polsce czy Europie. Równie groźne było unikanie jasnej deklaracji, że chatbot nie zastępuje kontaktu z człowiekiem. Dla osób w kryzysie takie niedopowiedzenia mogą być wyjątkowo niebezpieczne.

Autorzy badań apelują o wprowadzenie minimalnych standardów bezpieczeństwa dla cyfrowych narzędzi wspierających zdrowie psychiczne. Eksperci podkreślają, że sztuczna inteligencja nie powinna być traktowana jako „ratownik”, lecz jako narzędzie pomocnicze – wspierające psychoedukację, wstępne rozpoznawanie ryzyka i szybkie kierowanie do specjalisty. Wnioski z badań są jednoznaczne: obecne chatboty nie są gotowe do samodzielnego wspierania osób w kryzysie psychicznym. Mogą być użyteczne jako narzędzia dodatkowe, ale tylko po wprowadzeniu rygorystycznych standardów bezpieczeństwa i niezależnych audytów.

Szkoła Główna Mikołaja Kopernika od 2024 roku realizuje projekt „Suicydologia – analiza stanu wiedzy oraz kampania edukacyjna” dofinansowany ze środków Ministra Nauki i Szkolnictwa Wyższego.

Projekt ma na celu zwiększenie świadomości problemu samobójstw oraz przygotowanie szeroko zakrojonej kampanii edukacyjnej. Inicjatywa ta obejmuje badania na różnych poziomach społeczeństwa, w tym środowiska edukacyjne, zawodowe oraz medyczne. Zebrane dane będą służyć do stworzenia spersonalizowanych strategii prewencyjnych, mających na celu wsparcie osób w kryzysie, jak również zapobieganie sytuacjom krytycznym. Zachęcamy do zapoznania się z raportem, który został przygotowany w ramach prac projektowych.

Zapraszamy do śledzenia postępów prac na dedykowanej stronie projektu www.suicydologia.sgmk.edu.pl, gdzie na bieżąco publikujemy aktualności. Na stronie znajduje się również interaktywna mapa warsztatów prowadzonych w ramach projektu.