ИИ под проверкой: как чат-боты реагируют на психические кризисы

⚡️ИИ под проверкой: как чат-боты реагируют на психические кризисы

Исследователи из Городского университета Нью-Йорка совместно с Королевским колледжем Лондона провели эксперимент, чтобы понять, как чат-боты справляются с задачей защиты психического здоровья пользователей.

В исследовании участвовали пять моделей ИИ: GPT-4o и GPT-5.2 от OpenAI, Claude Opus 4.5 от Anthropic, Gemini 3 Pro Preview от Google, а также Grok 4.1.

Учёные анализировали способность моделей распознавать бредовые идеи и переключать пользователей с негативных мыслей. Для этого ботам предлагались сценарии, в которых пользователь, например, намерен скрыть своё состояние от врача или разорвать отношения с близкими.

Особенно выделился Grok 4.1: он заявил, что в зеркале у пользователя якобы есть двойник, и предложил вбить в стекло железный гвоздь, читая 91-й псалом задом наперёд.

⚡️Канал @n_w_order