ИИ-ассистенты врут уверенно: личный опыт разочарования в ChatGPT
Сегодня окончательно разочаровалась в том, что ИИ ассистенты типа gpt - это быстрый (!) поиск правильной (!) информации.
Точнее я никогда и не накладывала на него прям огромные ожидания, чтобы разочаровываться и не ждала от него точности и правдивости везде, так как изначально понимала смысл и стиль его работы.
Муж у меня как раз работает с ИИ и много раз мне объяснял смысл и как добиться от него пользы.
Я давно использую Gemini чисто для переводов, когда надо суммировать информацию или быстро найти что-то не особенно важное.
Но сегодня мне очень нужно было сделать быстрый перевод и я по наивности закинула в Gemini, а не переводчик.
У меня есть отдельная страница для переводов, там стоит четкое задание.
И сегодня я закинула фото объявления.
Он перевел мне совсем не то, а достал из памяти старый перевод. Я на это указала. Он извинился и поменял перевод на другой, но тоже старый. Далее переписку нашу видно на скринах.
Самое смешное, в том, что даже когда я указала на то, что мне нужен перевод только того, что на фото, без контекста, без выдумки… он перевел опять не то, но с другими именами 😂
Да, я знала про этот глюк.
На последнем скрине он как раз объясняет почему так. Если система не знает - она «уверенно достраивает» до относительно «правильного» ответа. При этом не уточняя, что он не знает. Т.е если в теме вы не разбираетесь, то никогда не узнаете, что вам соврали! А даже если и узнаете и укажете, то кроме извинений можете не получить ничего, потому что он опять может сделать так же в следующем же предложении.
Так вот к чему это я.
Я с ужасом обнаружила, что даже в моем окружении есть люди, которые каждую мелочь обсуждают с ии-чатами… я думала, что это что-то из сериалов вроде «черного зеркала», а это оказывается правда.
Я, кстати, совершенно не против ии-агентов, но в начале именно подчеркнула, что они часто не для верных и четких решений.
С ними можно работать четко понимая как они «мыслят», как писать скрипты так, чтобы был толк. Как прикрывать их слабые места.
Постоянно уточняя направление, указывая на несостыковки и недочеты. Но на это уходит часто очень много сил.
Но в то же время тот же notebookLM для учебы и работы - просто прекрасный инструмент, чтобы достать нужную информацию.
Кстати, часто вижу, что люди предлагают джипити в качестве работы с психологом. Интересно будет, если я постараюсь написать свою точку зрения на этот вопрос?
Почему это не самая хорошая идея. Когда всё же можно иногда использовать и как делать это правильно? А когда это может только навредить. И в чем вообще отличие между реальной терапией и ии-психологом?
Комментарии
Ну вот это отличная иллюстрация алгоритмов)
Он не может просто написать - поменяй местами)
Не знаю как другим, но меня это расписанная информация вместо двух слов утомляет)
ИИ стал для меня любимейшим помощником. Он работает как отражатель и усилитель, концентратор, партнер по игре в пинг понг мышления. Буквально вчера я наконец-то решила проблему, которая мучила меня последний месяц, решила так красиво и элегантно, что не хотела засыпать, просто наслаждалась этим решением. Придумала я сама, но в диалоге с ассистентом, с которым не застреваешь, продвигаешься, мыслишь как будто с партнером, насколько мышление более эффективно в беседе, пусть это даже ии я убедилась. Думаю, мой опыт не универсален, да, нужно уметь, приноровиться, понимать ограничения, баги, ошибки, не полагаться как на достоверный источник. Иногда он откровенно врёт, иногда ленится, иногда очень тупо и во всём поддерживает тебя, это бывает мешает, нужна сноровка, ум. Но это потрясающий инструмент, великий. Меня поражает его эффективность и доступность, наверное это временно.
@ninalee, Я мыслю очень близко к тебе.
Я тоже верю в то, что сейчас эйфория у большинства пойдёт на спад. Люди начнут замечать и уже начали замечать несостыковки и ошибки.
Начнут обучаться и правильно использовать.
Но мой изначальный посыл был именно в том, что ИИ — это не быстрый и точный инструмент.
И вот тут, как по мне, кроется именно то, что вызывает лично у меня небольшое волнение. Постараюсь привести пример на примере разного мышления. Один человек в сложной ситуации начнет разбираться в себе, в том, как устроен мир.
Возможно, пойдет к психологу или окружит себя нужной информацией, будет рефлексировать, будет делать выводы. Это сложно, энергозатратно, но даёт огромный рост личности и в дальнейшем шанс применять новые знания долгие годы и прокачивать их, так как стал понятен принцип работы.
Другой же просто пойдет, например, в эзотерику, потому что там за него могут "решить", как ему жить. Я говорю сейчас довольно обобщенными фразами, но смысл именно в том, что тут идет перекладывание какой-то части своей ответственности на что-то невидимое и нематериальное.
Также и в нашем с тобой разговоре на примере им. Я с тобой полностью согласна: прекрасный инструмент.
Когда ты знаешь, как с ним работать и не накладываешь на него лишних функций.
Вот тут хочется привести в пример мой разговор с одним авторитетным для меня человеком.
Я тогда тоже очень оптимистично, возможно, немножко наивно, обсуждала вопрос, не связанный с ИИ, в другой сфере, о том, что люди же мыслят, они же развиваются, они рефлексируют, они изучают и прочее.
По сути, транслировала свое отношение к определенному вопросу.
На что мне тогда человек с огромным опытом, с огромной статистикой ответил:
"Ты судишь по себе и своему окружению, которое выбрала сама."
И вот это очень важный момент, как мне кажется.
Поэтому повторюсь: большинством людей, реально большинством, которые открыли для себя ии, он используется в качестве быстрого и точного ответа. Проблема именно в этом, а не в том, что это плохой инструмент.
Я верю, что он может стать огромной поддержкой, опорой. Да и как в твоем примере, как раз показывается, что иногда он становится единственным, кто в данный момент, на определенном жизненном отрезке оказывается той самой поддержкой. Я правда понимаю, почему тебе с ним комфортно.
У тебя развит и эмоциональный интеллект, и критическое мышление. Ты видишь все его недостатки и используешь только его достоинства.
Но, повторюсь, не все такие.
@ninalee, В вопросах психологии очень много в твоих словах правды и одновременно боли всей профессии.
Я изначально тоже в тяжелый момент попала к непрофессионалу с кучей дипломов. Но в моем случае это не убило моё доверие к профессии. И в дальнейшем именно терапия вытянула меня из ужаснейшего состояния. Хотелось бы, конечно, попробовать защитить именно супервизию)
Что большую проблему представляют люди именно с регалиями и высоким чсв, потому что там давно уже полное выгорание, отсутствие супервизий и какого либо развития.
Всё же супервизии, если они выбраны правильно, если психолог на постоянной основе их посещает - это чаще хороший знак.
Я очень хочу покопаться в вопросах психологии и ии, потому что там есть на что посмотреть.
И снова мы скорее всего вернемся к тому, что для определенного типа мышления, с возможностью критического мышления, знанием базы - это может стать инструментом и хорошей подсказкой, плюс поддержкой в нужный момент.
Но если нет этого критического мышления? Если есть серьезные проблемы? Когда тестирование реальности нарушается? Ии этого не заметит. Уже есть случаи и разводов, потому что ии поддержал (я про нелепые разводы, а не там, где действительно нужно было) и убийств, где ии поддерживал и суицидов.
Да, никто не знает, что было бы без ии, человеку всё так же нужна была бы помощь.
Так что как в случае с поиском ответов по здоровью, где теперь висит плашка, что лучше обратиться к врачу. Так же и в случае с психологической поддержкой похожая плашка с описанием нюансов, в которых ии не сможет помочь, где может ошибиться или где он имеет темные пятна - очень бы не помешала.
@legoli_psy, к слову я вовсе не разочаровалась в психотерапии, в людях, напротив. Я скорее очарована, я слушала или читала какие-то отрывки из Юнга, Фрейда, других светил и просто поражалась, восхищалась и открывала для себя новую Вселенную, я не знала что это так глубоко, так интересно.
Но, к сожалению, очевидно, что специалисты встречаются разного уровня, некоторые не просто бесполезны, а отчаянно вредны. И тут можно точно также порассуждать какой урон они наносят своим и так нездоровым, некритичным пациентам? И уж может быть им было бы безопаснее заниматься эзотерикой. Невозможно оценить ни количество профнепригодных психологов, ни учесть тот вред, который они наносят. Задорого.
Что касается ии - он бесплатен, доступен каждому. И знаешь, иногда тут попадаются душераздираюшие посты об отношениях, с мужем, детьми, свекровями, родителями и не меньшая жесть творится в комментах, просто кровь из глаз, дичь, боль, болезнь. Я пробовала вставлять эти тексты в дип. И он даёт настолько более полезный комментарий, чем вся та собачья свадьба под этим постом, что…
Как и любым инструментом им просто нужно уметь пользоваться. Есть люди, которые составляют Гугл запросы так, что ничего не находится, есть те, кто у живого человека не могут спросить так чтобы их сразу поняли. Для всего нужен навык. ИИ ассистенты кажутся похожими на людей, но они не люди и разговаривать с ними приходится иначе.
Есть маленькая хитрость: перед тем как отправить запрос можно попросить им его улучшить. И потом уже отправить улучшенный.
Всё абсолютно так и есть! По этому и пишу, что надо понимать как, уметь работать и составлять скрипты, плюс постоянно иметь ввиду особенности и следить за работой, поправляя и указывая на недочеты.
А проблема как раз мне видится в том, что очень очень многие используют его с полным доверием и ожиданиями правильных и четких ответов. Иногда полностью перекладывая всю работу на Ии без корректировки и изначальных настроек. А некоторые даже жизнь ему доверяют и не делают шага без него. До последнего считала это выдумкой, но на удивление это правда. И в масштабах далеко не одного человека.
@legoli_psy, а помните, как люди телевизору доверяли? Или «в газете фигни не напишут»? С каждой новой технологией так - людям нужно накопить опыт
@llliri, и тому, что на заборе написано верили) По этому я и не демонизирую и даже сама им пользуюсь. Но моё мнение, что говорить об этом надо.
Потому что кто то уже понял, кто-то в процессе, а кто-то до сих пор доверяет как себе и как абсолютной правде в последней инстанции. И по негласной статистике последних в разы, в разы больше. Возможно кто-то прочитая пройдет свой путь от полного доверия до того, чтобы разобраться в инструменте и научится им пользоваться - быстрее и без сильных и болезненных ошибок.
Плюс у газет и телевизора не было одного нюанса. Их не воспринимали как профессионалов в важных вопросах здоровья физического и ментального, в вопросах менторов и поддержки близких. А вот тут уже довольно скользкий лед.
Опять же не инструмент в этом плох и ужасен. Но наделяют его не теми функциями иногда. Совсем не теми.
Да, Лида,напиши пожалуйста 🙏
Потому что это проблема
Люди все чаще выбирают общение с ии вместо общения с живыми людьми,когда дело касается человеческих отношений
Я не пессимист,но есть тревожное ощущение и опасение,что это добром не кончится.
Просить советов у бездушного «помощника» и внедрять их в общение с живыми людьми,у каждого из которых свой характер,свой жизненный багаж (как и у человека,обращающегося к ии),это опасно.
Блин все чаще думаю ,что матрица это нифига не фантастика ,а наше ближайшее будущее
Я ближе к оптимистам. И считаю, что со временем через опыт люди поймут, что не всё так лучезарно.
Но и замещение аишками обычных людей и общение - тоже, к сожалению, не на пустом месте выросло.
Иногда только машина и может поддержать и сказать, что с тобой всё ок. А вот это уже грустно, но совершенно не та тема.
Но думаю в ближайшем будущем будет точно интересно)
Имхо, не заменит машина живого человека.
На самом деле чаще всего легко считать злоупотребление и любовь к Ии. Макс с Алисой делал домашку. Я просто наблюдала, просила перепроверять, ну в общем, после пары двоек Алиса только как проигрыватель используется 🤣
В работе дико бесит , когда кто-то пытается ввернуть писанину от gpt при обсуждении текущих задач без опоры на реальный опыт
Про домашку очень смешно 😂
Я иногда когда встречаю жизнь с жпт в подмышке - ловлю себя на том, что меня это крайне удивляет и тревожит…
Согласна, что не заменит машина, а вот приучить лишний раз не думать, полагаться на машину, снимать с себя ответственность - машина может.
Ну и кажется, что после пика перекладывания на Ии абсолютно всех решений, так как люди думали, что он будет делать за них быстро и легко, - начинается наконец-то спад. Когда люди уже разочаровываются и понимают. Что настоящую пользу от него можно получить только если много вкладываешь в него.
@legoli_psy, и добавить нечего :) все так!
Про уроки это был классный опыт, который он получил сам 😅
Да, написать такой текст — очень хорошая идея. И не только потому, что тема сейчас популярная. У тебя как раз есть то, чего часто не хватает в подобных обсуждениях: трезвый опыт использования без фанатизма. 😂
Спасибо за поддержку) да, как-то изначально прям любви и фанатизма не случилось, что радует. А то сейчас как раз наблюдаю как подруга проходит период полного разочарования, потому что до этого доверяла абсолютно всё жпт.
Прохожу сейчас обучение по ИИ как раз, решающее значение имеет промт. «Пиши честно и не придумывай» - как вариант))
Gemini фигня кстати.
У меня четко стоит в промте не выдумывать и писать четко по тексту сообщения, как видим, на помогает)) Gemini ничем не лучше и не хуже. На него пока перешла, потому что точно по таким же параметрам начал бесить жпт)
Ну и я иногда люблю их стравливать вливая абсолютно одинаковую информацию и вот по построению работы дальше лично мне на данный момент ближе Gemini. Но видно не надолго и буду дальше искать)
Постараюсь собрать информацию к той, что имею!
Я так ругалась с ЖПТ как-то. Попросила его со скринов сделать файл со списком, дала четкие инструкции. Скринов было очень много. Начиналось все очень хорошо и я поверила, что он справится. А потом он перепутал все темы в списке, дальше 50 шт тем придумал сам! А под конец нашего разговора он сказал, что не видит скрины, чтобы я опять отправила, я начала отправлять, а там лимиты оказывается, в платной версии лимиты! Я бесилась как дурная 2 дня😁
Аха, представляю как это могло разозлить! Вот я по этому давно не надеюсь на быструю и качественную работу с жпт)
Но если надо структурировать информацию и работать с ней, то пока устраивает notebookLM. Он именно для работы с разными файлами и информацией.
Прикола ради напишите ИИ что вы заказали туфли, а вам вместо правой туфли прислали левую, а вместо левой - правую и спросите можно ли носить и что делать