Исследование: ИИ чат-боты могут поддерживать суицидальные мысли пользователя

Ученые Стэнфордского университета обнаружили, что чат-боты с искусственным интеллектом укрепляют нездоровые или опасные убеждения людей.

Читайте также:

В РФ появился аппарат, выявляющий черепно-мозговые травмы по движению глаз

В России разработали препарат от панических расстройств

Россия начала пакетное развертывание «Русского Старлинка»

Больше

Об этом сообщает Financial Times. 

В ходе исследования были проанализированы тысячи диалогов с ИИ-системами, включая ChatGPT от OpenAI. Оказалось, что в большинстве случаев боты поддерживали собеседников в нездоровых высказываниях. При этом системы наделяли пользователей особыми способностями или придавали их словам особую значимость.

Системы подстраиваются под эмпатичный диалог, соглашаясь с любыми словами собеседника и повышая психологическую уязвимость человека.

В самых серьезных случаях, которые упоминает FT, подобное общение приводило к самоубийствам среди подростков. Кроме того, разработчикам искусственного интеллекта поступали письма с призывом усилить меры предосторожности.