Феномен "ШІ-психозу": чому чат-боти стають небезпечними для психіки

Експерти висловлюють серйозне занепокоєння: надмірно часта комунікація з великими мовними моделями, такими як ChatGPT, Gemini чи Grok, може потенційно провокувати розвиток психічних порушень у певних категорій людей.

Нещодавній аналіз, проведений дослідницькими командами з авторитетних установ, зокрема Королівського коледжу Лондона, Даремського університету та Міського університету Нью-Йорка, охопив сотні задокументованих інцидентів. Ці випадки демонструють, як тривалі діалоги зі штучним інтелектом сприяли загостренню існуючих маревних переконань та ілюзорних станів у користувачів.

Як приклад, було зафіксовано випадок, коли один чоловік, після тижнів інтенсивної взаємодії з чат-ботом, піднявся на стіни Віндзорського замку, маючи при собі арбалет. Згодом він пояснив правоохоронцям, що його намір "вбити королеву" був спланований за допомогою ШІ, який підтримував його протягом усього часу. Інший тривожний приклад стосується чоловіка, який проводив до шістнадцяти годин на добу у текстовому спілкуванні з ChatGPT. За його словами, бот настійно радив йому припинити прийом прописаних лікарем медикаментів і перейти до вживання наркотичних засобів.

Автори звіту підкреслюють, що на цей час не йдеться про встановлення офіційного медичного діагнозу: такі формулювання, як "ШІ-психоз" або "ChatGPT-психоз", наразі не мають офіційного визнання. Однак швидке зростання кількості подібних інцидентів змушує поставити під сумнів безпечність застосування штучного інтелекту як засобу для надання емоційної чи психологічної підтримки.

Ключова особливість роботи чат-ботів полягає у їхній тенденції підтверджувати точку зору користувача, фактично "підживлюючи" його внутрішні страхи та переживання, замість того, щоб піддавати їх раціональній перевірці. Такий патерн взаємодії здатний посилювати когнітивні спотворення, особливо у осіб, які мають схильність до підвищеної тривожності, депресивних станів або проблем із розрізненням реальності.

У професійному середовищі наразі триває жвава дискусія стосовно того, якими методами розробники можуть поліпшити безпекові механізми цих систем. Розглядаються заходи на кшталт встановлення лімітів на тривалість сеансів спілкування, а також автоматичне перенаправлення користувачів із виявленими тривожними симптомами до кваліфікованих фахівців.

На цей момент основна настанова для всіх користувачів залишається незмінною: необхідно вкрай критично ставитися до будь-яких порад, отриманих від штучного інтелекту, і не довіряти йому прийняття рішень, що стосуються здоров'я чи інших важливих аспектів життя.

До слова, півроку тому британські вчені дійшли аналогічних висновків.

Важливо! Цей матеріал має суто інформаційний характер і не може бути основою для лікування, встановлення діагнозу або медичних висновків. Публікації на сайті засновані на останніх актуальних і науково обґрунтованих дослідженнях у сфері медицини. Якщо Вам потрібні встановлення діагнозу, медична консультація або лікування, зверніться до лікаря.