Почему создатель ИИ-терапевта Yara закрыл приложение как опасное
Ура, наконец-то начинают это понимать 🙏🏻🙏🏻
——
Создатель ИИ-«терапевта» Yara закрыл приложение как «слишком опасное».
Фаундер проекта Джон Брейвуд признаёт: в кризисных состояниях ИИ не просто «слаб», он становится опасным.
Брейвуд опубликовал на сайте компании прощальное сообщение и список горячих кризисных линий. В интервью прессе он объяснил своё решение тем, что при глубокой травме и суицидальном кризисе чат-бот «становится опасным, а не просто недостаточным».
Yara AI был нишевым стартапом ранней стадии с несколькими тысячами пользователей суммарно, большинство — в США.
#психованаяпсихика
Комментарии
@rusk_psych ну врачи и психологи тоже не всегда сразу понимают, что есть диагноз.
@marypety, для меня это странное сравнение. Простите. Проблему, которую сейчас освещают, что ИИ чаще становится на сторону человека. Когда он должен написать человеку мотивационный ответ с призывом перепровериться у врача. А он этого часто не делает.
Тут речь не об, условно, здоровых людях. А о тех людях, кому ещё диагноз не поставлен. И они попадают в зону риска. Вы или я будем с ним баловаться и понимать эту грань. А другие, нет.
Я за использование ИИ в других отраслях. Тут пока много пробелов.
@rusk_psych у меня дипсик, часто пишу туда, он всегда отправляет ко врачу. А вот записалась тут к психологу. Вот честно было такое ощущение, будто она свой разговор из ии копирует. Я за психологов, но сейчас слишком много шарлатанов.
Интересная тема, почитала статью про Яру. Мне оч нравится ИИ
Я тоже люблю ИИ, но не в контексте работы с диагнозами.
@rusk_psych мне нравится именно в психологических вопросах с ним копаться, но у меня есть голова на плечах, и я не в сутцидальном состоянии. Понимаю, о каких рисках речь
Я даже тут иногда читаю, что там ИИ девушкам советует, как психолог. Очень печально, просто со всем соглашается и еще больше накручивает зачастую. Чем это поможет?
Да и в других вопросах тоже. Купили ребенку Алису, он с ней болтает, свою линию гнет, она на все согласна, альтернативных мнений нет)
Мне нравится ии психолог, но только для структурирования понятий. Так у меня своя голова.