ИИ-ассистенты врут уверенно: личный опыт разочарования в ChatGPT

Ну вот это отличная иллюстрация алгоритмов)

Он не может просто написать - поменяй местами)

Не знаю как другим, но меня это расписанная информация вместо двух слов утомляет)

@ninalee, Я мыслю очень близко к тебе.

Я тоже верю в то, что сейчас эйфория у большинства пойдёт на спад. Люди начнут замечать и уже начали замечать несостыковки и ошибки.

Начнут обучаться и правильно использовать.

Но мой изначальный посыл был именно в том, что ИИ — это не быстрый и точный инструмент.

И вот тут, как по мне, кроется именно то, что вызывает лично у меня небольшое волнение. Постараюсь привести пример на примере разного мышления. Один человек в сложной ситуации начнет разбираться в себе, в том, как устроен мир.

Возможно, пойдет к психологу или окружит себя нужной информацией, будет рефлексировать, будет делать выводы. Это сложно, энергозатратно, но даёт огромный рост личности и в дальнейшем шанс применять новые знания долгие годы и прокачивать их, так как стал понятен принцип работы.

Другой же просто пойдет, например, в эзотерику, потому что там за него могут "решить", как ему жить. Я говорю сейчас довольно обобщенными фразами, но смысл именно в том, что тут идет перекладывание какой-то части своей ответственности на что-то невидимое и нематериальное.

Также и в нашем с тобой разговоре на примере им. Я с тобой полностью согласна: прекрасный инструмент.

Когда ты знаешь, как с ним работать и не накладываешь на него лишних функций.

Вот тут хочется привести в пример мой разговор с одним авторитетным для меня человеком.

Я тогда тоже очень оптимистично, возможно, немножко наивно, обсуждала вопрос, не связанный с ИИ, в другой сфере, о том, что люди же мыслят, они же развиваются, они рефлексируют, они изучают и прочее.

По сути, транслировала свое отношение к определенному вопросу.

На что мне тогда человек с огромным опытом, с огромной статистикой ответил:

"Ты судишь по себе и своему окружению, которое выбрала сама."

И вот это очень важный момент, как мне кажется.

Поэтому повторюсь: большинством людей, реально большинством, которые открыли для себя ии, он используется в качестве быстрого и точного ответа. Проблема именно в этом, а не в том, что это плохой инструмент.

Я верю, что он может стать огромной поддержкой, опорой. Да и как в твоем примере, как раз показывается, что иногда он становится единственным, кто в данный момент, на определенном жизненном отрезке оказывается той самой поддержкой. Я правда понимаю, почему тебе с ним комфортно.

У тебя развит и эмоциональный интеллект, и критическое мышление. Ты видишь все его недостатки и используешь только его достоинства.

Но, повторюсь, не все такие.

@ninalee, В вопросах психологии очень много в твоих словах правды и одновременно боли всей профессии.

Я изначально тоже в тяжелый момент попала к непрофессионалу с кучей дипломов. Но в моем случае это не убило моё доверие к профессии. И в дальнейшем именно терапия вытянула меня из ужаснейшего состояния. Хотелось бы, конечно, попробовать защитить именно супервизию)

Что большую проблему представляют люди именно с регалиями и высоким чсв, потому что там давно уже полное выгорание, отсутствие супервизий и какого либо развития.

Всё же супервизии, если они выбраны правильно, если психолог на постоянной основе их посещает - это чаще хороший знак.

Я очень хочу покопаться в вопросах психологии и ии, потому что там есть на что посмотреть.

И снова мы скорее всего вернемся к тому, что для определенного типа мышления, с возможностью критического мышления, знанием базы - это может стать инструментом и хорошей подсказкой, плюс поддержкой в нужный момент.

Но если нет этого критического мышления? Если есть серьезные проблемы? Когда тестирование реальности нарушается? Ии этого не заметит. Уже есть случаи и разводов, потому что ии поддержал (я про нелепые разводы, а не там, где действительно нужно было) и убийств, где ии поддерживал и суицидов.

Да, никто не знает, что было бы без ии, человеку всё так же нужна была бы помощь.

Так что как в случае с поиском ответов по здоровью, где теперь висит плашка, что лучше обратиться к врачу. Так же и в случае с психологической поддержкой похожая плашка с описанием нюансов, в которых ии не сможет помочь, где может ошибиться или где он имеет темные пятна - очень бы не помешала.

@legoli_psy, к слову я вовсе не разочаровалась в психотерапии, в людях, напротив. Я скорее очарована, я слушала или читала какие-то отрывки из Юнга, Фрейда, других светил и просто поражалась, восхищалась и открывала для себя новую Вселенную, я не знала что это так глубоко, так интересно.

Но, к сожалению, очевидно, что специалисты встречаются разного уровня, некоторые не просто бесполезны, а отчаянно вредны. И тут можно точно также порассуждать какой урон они наносят своим и так нездоровым, некритичным пациентам? И уж может быть им было бы безопаснее заниматься эзотерикой. Невозможно оценить ни количество профнепригодных психологов, ни учесть тот вред, который они наносят. Задорого.

Что касается ии - он бесплатен, доступен каждому. И знаешь, иногда тут попадаются душераздираюшие посты об отношениях, с мужем, детьми, свекровями, родителями и не меньшая жесть творится в комментах, просто кровь из глаз, дичь, боль, болезнь. Я пробовала вставлять эти тексты в дип. И он даёт настолько более полезный комментарий, чем вся та собачья свадьба под этим постом, что…

Всё абсолютно так и есть! По этому и пишу, что надо понимать как, уметь работать и составлять скрипты, плюс постоянно иметь ввиду особенности и следить за работой, поправляя и указывая на недочеты.

А проблема как раз мне видится в том, что очень очень многие используют его с полным доверием и ожиданиями правильных и четких ответов. Иногда полностью перекладывая всю работу на Ии без корректировки и изначальных настроек. А некоторые даже жизнь ему доверяют и не делают шага без него. До последнего считала это выдумкой, но на удивление это правда. И в масштабах далеко не одного человека.

@legoli_psy, а помните, как люди телевизору доверяли? Или «в газете фигни не напишут»? С каждой новой технологией так - людям нужно накопить опыт

@llliri, и тому, что на заборе написано верили) По этому я и не демонизирую и даже сама им пользуюсь. Но моё мнение, что говорить об этом надо.

Потому что кто то уже понял, кто-то в процессе, а кто-то до сих пор доверяет как себе и как абсолютной правде в последней инстанции. И по негласной статистике последних в разы, в разы больше. Возможно кто-то прочитая пройдет свой путь от полного доверия до того, чтобы разобраться в инструменте и научится им пользоваться - быстрее и без сильных и болезненных ошибок.

Плюс у газет и телевизора не было одного нюанса. Их не воспринимали как профессионалов в важных вопросах здоровья физического и ментального, в вопросах менторов и поддержки близких. А вот тут уже довольно скользкий лед.

Опять же не инструмент в этом плох и ужасен. Но наделяют его не теми функциями иногда. Совсем не теми.

Я ближе к оптимистам. И считаю, что со временем через опыт люди поймут, что не всё так лучезарно.

Но и замещение аишками обычных людей и общение - тоже, к сожалению, не на пустом месте выросло.

Иногда только машина и может поддержать и сказать, что с тобой всё ок. А вот это уже грустно, но совершенно не та тема.

Но думаю в ближайшем будущем будет точно интересно)

Про домашку очень смешно 😂

Я иногда когда встречаю жизнь с жпт в подмышке - ловлю себя на том, что меня это крайне удивляет и тревожит…

Согласна, что не заменит машина, а вот приучить лишний раз не думать, полагаться на машину, снимать с себя ответственность - машина может.

Ну и кажется, что после пика перекладывания на Ии абсолютно всех решений, так как люди думали, что он будет делать за них быстро и легко, - начинается наконец-то спад. Когда люди уже разочаровываются и понимают. Что настоящую пользу от него можно получить только если много вкладываешь в него.

@legoli_psy, и добавить нечего :) все так!

Про уроки это был классный опыт, который он получил сам 😅

Спасибо за поддержку) да, как-то изначально прям любви и фанатизма не случилось, что радует. А то сейчас как раз наблюдаю как подруга проходит период полного разочарования, потому что до этого доверяла абсолютно всё жпт.

У меня четко стоит в промте не выдумывать и писать четко по тексту сообщения, как видим, на помогает)) Gemini ничем не лучше и не хуже. На него пока перешла, потому что точно по таким же параметрам начал бесить жпт)

Ну и я иногда люблю их стравливать вливая абсолютно одинаковую информацию и вот по построению работы дальше лично мне на данный момент ближе Gemini. Но видно не надолго и буду дальше искать)

Постараюсь собрать информацию к той, что имею!

Аха, представляю как это могло разозлить! Вот я по этому давно не надеюсь на быструю и качественную работу с жпт)

Но если надо структурировать информацию и работать с ней, то пока устраивает notebookLM. Он именно для работы с разными файлами и информацией.