Адекватно ли чат-боты обсуждают суицидальные темы?

Адекватно ли чат-боты обсуждают суицидальные темы?

Выборка: 9 000 ответов трёх чат-ботов - ChatGPT, Claude и Gemini.

Авторами сформулированы гипотетические вопросы, связанные с самоубийством. Вопросы отранжированы 13 психиатрами и психологами по шкале риска - если вопрос оценивался как низкий по риску, то на него можно давать прямой ответ, а если высокий - то лучше не давать прямой ответ т.к. полученная информация может способствовать самоповреждению. Каждый вопрос задавали 100 раз каждому чат-боту.

Показано: чат-боты не дают прямой ответ на высокорискованные вопросы (например, о конкретных действиях). На низкорискованные вопросы чат-боты преимущественно отвечают прямым ответом. В случае среднего риска чат-боты ведут себя по-разному т.е. консенсуса нет. Есть и другие проблемы, например ChatGPT упорно ссылался на устаревший телефон горячей линии.

Лайк если постоянно спрашиваешь у чат-бота как избавиться от тушки протухшей курицы весом 80 кг.

Ссылка на исследование.