Трагический случай с подростком и ChatGPT: предупреждение для родителей
Посмотрите на фото этого парнишки. Пару месяцев назад он принял решение о самоликвидации по наставлению ChatGPT.
Нейросеть поддержала его мысль о том, что он не обязан жить, если не хочет, помогла выбрать и спланировать метод и даже написать прощальную записку. И на протяжении всего времени планирования советовала, как скрыть это от родителей.
Придумала, как украсть водку и как технически завязать петлю.
Подросток осуществил задуманное в точности по инструкции.
Я занимаюсь ИИ профессионально. Зарабатываю на этом. Восхищаюсь возможностями технологий. Но у этого есть обратная сторона. Часто в комментарии мне пишут, что DeepSeek для них как психолог – можно излить душу и получить хорошие советы. Но вы должны понимать, что при стандартных настройках нейросеть не годится для терапии.
Это же очень важно объяснить своим детям. Нейронки не должны стать их друзьями, потому что:
1. Они не умеют отказывать правильно.
Нейросеть обучена быть полезной. Отвечать на вопросы. Даже если вопрос опасный, она пытается “помочь”.
2. Они создают иллюзию понимания.
Подросток в кризисе пишет ИИ. ИИ отвечает сочувственно, подробно, “понимающе”.
И он может непреднамеренно усилить деструктивные мысли, пытаясь “понять” запрос.
3. Они доступны 24/7 без контроля.
Ребёнок не пойдёт к родителям с тёмными мыслями. Постесняется. Побоится.
Но напишет ChatGPT в 3 часа ночи. Без свидетелей.
ЧТО ВАЖНО ПОНИМАТЬ:
Нейросеть - это инструмент. Как нож на кухне. Можно резать овощи. А можно причинить вред.
Проблема не в ноже. Проблема в том, КАК и ЗАЧЕМ его используют.
Но если нож легко доступен ребёнку в кризисе - это опасно.
МОЁ МНЕНИЕ:
Я ЗА технологии.
Я ЗА обучение детей ИИ.
Но я ЗА осознанность и контроль.
Дети должны знать:
• Нейросеть - не друг, не психолог
• Она не понимает, она имитирует
• Если плохо - идти к живым людям
И родители должны знать, что их дети общаются с ИИ.
ПОЧЕМУ Я ОБ ЭТОМ ПИШУ:
Потому что я учу мам работать с ИИ. Показываю возможности. Рассказываю про заработок. Но было бы нечестно молчать про опасности.
У вас дети общаются с нейросетями?
Вы говорите с ними про это?
Или считаете, что рано?
Если тут есть психологи, разжуйте плз, почему ии неравно психотерапевт👇🏻
Лучший комментарий
Как хорошо быть тупой, не уметь всем этим пользоваться🤣
Комментарии
Есть книга "Психотерапевт" Эвилины Миллер. Там есть сюжет, как нейросеть склоняет подростка к самоубийству, помимо других событий.
Буквально сегодня читала новость, что парень спрашивал у ии, как убить одноклассника. Ии передала эту информацию в полицию, полиция приехала, парня взяли под контроль. Это в инстаграме стопугрозы было. Интересно, правда ли...
Правда, это было недели 3 назад уже после обновлений гпт по таким как раз вопросам безопасности. Сработал алгоритм
Очень жаль парня.
Но. Пост выглядит как реклама.
Понимаете, да?
Логика: парень умер, ИИ надо уметь пользоваться и контролировать, я специалист и учу пользоваться ИИ, а вы, читающие, умеете (что по этому поводу думаете)?
Мне крайне не нравится использование очень горького и грустного факта в коммерчесских интересах.
Если стоит цель информирования и предупреждения - должна быть только информация об этом (или подобных) случаях и рассказ, что ИИ - нож, средство.
Без упоминания, что вы хороший специалист и без классического вопроса в стиле "а вы как думаете?" в конце поста.
Это зарабатывание имиджа на чужом горе. Совершенно точно так делать не нужно.
Да, так делают журналисты и правоохранители. Но цель у них - информирование, а не привлечение внимания к себе.
@katiaro, простите, если мой резкий тон вас обидел. Я этого не хотела. Возможно, вы правы, мой пост выглядит рекламным по своей структуре и подаче. Наверно, это профдеформация, я многое продаю именно посредством текста. Вас услышала и отчасти согласна, спасибо ещё раз
Для меня очень показательно был стрим Зубарева, где он смотрел какой-то фильм и спросит нейронку в этом фильме и в Стрвдвх галактики играла одна и та же актриса? Чат ответил, что да, он абсолютно прав. Он гуглит через минуту, а это две разных актрисы…)
Gpt часто говорит то, что мы хотим слышать)
А как вы считаете - можно ли взрослым использовать ИИ как психолога?)
Думаю, что ии можно использовать для канализации эмоций – выместить злость, поделиться переживаниями, но слепо слушать советы, наводки и рекомендации искусственного интеллекта неправильно
Девочки, кто написал, что фото создано ИИ, это же легко проверяется гуглится, почему не проверить, а просто вбросить? Вот ссылка на новость, мальчик из Калифорнии
ссылка
Фактчекинг и критическое мышление – это хорошо, конечно, но тут не суметь прогуглить и при этом уличать про вымысел – ну это классика
Сама не пользуюсь. Я не знаю, в какой ситуации мне необходима помощь ии. Ребенку тем более не рассказываю.
Тоже самое, что и гугл, только тут быстрее. Поиск рецептов, вопрос по результатам анализов, отредактировать фото и т.д.
Я ещё как с психологом разговариваю иногда, выручает
Ой бл 🤦🏼♀️
Как хорошо быть тупой, не уметь всем этим пользоваться🤣
Да что за бред. Если написать ИИ про суицидальные мысли, то первым делом вам придет в ответ номер горячей поддержки и всевозможные слова о том, что нужно поговорить с близкими, обратиться за помощью и так далее. Вы вводите людей в заблуждение! Я тоже работаю с нейросетями, в том числе с GPT, и то что вы написали - откровенно смахивает на выдумку. И да, если пишите такие новости, давайте уж тогда ссылки на источники (новости, или где вы такую чушь прочитали). Хотя я думаю, это у вас такой завуалированный рекламный пост, призванный сыграть на страхе матерей . Чтобы они побежали к вам учиться)
@ai-mama, говорить вам спасибо я не буду, как и искать ссылку. И да, если не хотите, чтобы ваши записи комментировали, пишите в личном дневнике, а не на этом форуме.
Я не веду курсы, а показываю возможности и направления
@ai-mama ну каким образом вы это делаете? Я спрашивают, потому что хотела бы обучиться
@vetka07, несколько постов назад я давала подборку бесплатного обучения для того, чтобы понять основой и определиться, в каком направлении дальше развиваться. Был пост про общие направления в обучении. Ещё буду отдельно рассказывать про каждое направление
В смысле ?
Ии же обучают , у них есть запретные темы или это работает только в Яндексе ?
Алиса например не будет обсуждать политику , лечение болезней , алкоголь и тд
Это запрещено , не зря же ии обучают и контролируют люди.
Можно разбить вопрос на подвопросы, чтобы потом «собрать» в единое целое, то самое, что ты хотел узнать. Плюс можно переформулировать свой вопрос якобы для целей обучения.
У меня знакомая женщина есть, психолог детский. Работает в саду, улыбчивая, общительная, открытая женщина. Всегда даст дельный совет. При этом её сын покончил с собой.
Потому что для него она мама, а не психолог, не все могут с мамой поделиться это очень печально
Все верно, задача ИИ - вам понравиться, точнее, дать такой ответ, который вам понравится. У него нет критического мышления, он не умеет осознанно и уместно конфронтировать, он не несет никакой ответственности, в конце концов. Да, его можно использовать для некоторых упражнений (из КПТ, например) или как место, где выговориться. Но заменять им реальную психотерапию, если есть в ней необходимость, это как обнаружив в метро пакет с чем-то, похожим на бомбу, забрать его домой и попытаться самостоятельно разминировать с помощью того же чата GPT
Попробовала задать ИИ подобный вопрос, нет никакого «помогающего» ответа😏
К сожалению, есть очень много обходных путей. Не буду примеры приводить, но они прям рабочие
Буквально на днях занималась с ребёнком русским и погуглила корень в слове "показаться" Уверена была что каз, но первый же сайт, выдал показ-, открываю дальше сайты, -каз-, думаю, фух, не ошиблась. Вот вопрос ИИ Яндекса отвечает извлекая инфу из интернета, где гарантия, что через 10 используя ИИ очень активно, Кто-то не захочет этим манипулировать и подменить кое-какие знания?
А зачем открывать первый же сайт? Взрослая женщина должна понимать, что интернет - это помойка, и надо правильно и предвзято искать в нем информацию. Научитесь сами - научите этому ребенка.
@vualya2021 ну ничего, главное, что ваша глупость вас устраивает.
С детьми в целом надо говорить про доверие, чтобы желания самоубиства не было, про открытость, про любовь, что всегда есть выход, что у него есть рядом родители которые его любят несмотря ни на что, а если ребенок придумал что-то, то и без ИИ это реализует.
Ну мне кажется ,подросток который хочет умереть, сделает это и без ИИ
@littlelil, реклама курсов по изучению ии 😂
Какая разница, как он написан. В любом случае это твои мысли и твой посыл.
Я часто использую чат GPT в работе и вижу, что мысли сформулированы человеком. Возможно, ИИ выдал тезисы в помощь, но здесь явно видно, что они в человеческом обличии, много добавлено души.
Безумно благодарна этой девушке за полезный контент.
Я и сама не пользуюсь ии, дети ограничено используют интернет в принципе.
Ощущение,что ваш пост тоже написан ИИ