ИИ врёт как дышит: 5 способов распознать вранье и заставить говорить правду

Есть ещё способы, по типу глубокое мышление и поиск, он сразу выдает ссылки откуда взял инфу.

А после вторым сообщением пишешь, перепроверь информацию, если все верно поставь 0 (или либой символ, это проще, чем писать длинную фразу ,а смысл тот же)

Я когда уличила ИИ во лжи, в лоб спросила, про факты об архитиктуре Санкт-Петербурга, он такой, ой да, я ошибся🫣

Искала необычные истории, по типу мистический Питер, такую дичь писал, адреса и факты всё придумал, собрал частично историю других зданий и выбрал сборную солянку и адрес вообще написал не существующий.

И вот знаете, я больше времени на это всё потратила. Проверку фактов.

Поиск в интернете оказался бы эффективнее (

В итоге подборку в тот вечер так и не сделала, повязала в ии и борьбу с его тупизмом

Помню, писала диссертацию и мозг уже закипал не получалось предложение сформулировать, пошла в нейронку, что он выдает:

Профессор психологии ГАРРИ ПОТТЕР…

Время было часа 3 ночи, а меня так ржать пронесло, зато проснулась 🤣

Спасибо!

С какой сеткой можно на видео наложить озвучку?

Просто народ почему-то путает искусственный интеллект с гуглом и Википедией.

Я за точными данными не обращаюсь к нейронке, предпочитаю обычные сайты. Но часто пользуюсь для структурирования мыслей и их анализа. И даже в этом случае всё, в чём я сама не уверена, проверяю отдельно в поиске и сравниваю ответы

Да критическое мышление отсутствует у некоторых))

Подскажите, а написанию программных кодов можно доверять? Или и это лучше проверить?

-Знаешь такую-то книгу/ фильм?

-Конечно знаю.

-В какой главе было то-то?

-То, что вы ищите было в такой-то главе.

-Но в этой главе такого не было!

-Да вы правы! Это было в другой главе. В этой.

-И в этой такого нет!

-Да, вы правы! В этой главе тоже такого нет!

Я вчера поржала, как дип сик через слово вставлял английские слова в сказку. Пришлось напрячь мозги и переводить что-то на ходу, даже скорее сочинять самой 😁 потому что не все знала

Мне дипсик упорно доказывал, что сейчас 2024 год 🤷‍♀️

А я напишу, как НЕ обманул.

У мужа на работе проблемы начались, хотели уволить его, угрожали, не выплатили надбавку.

Мы обращались за консультацией в труд.инспекцию.

И ещё я решила с спросить Дипсик (дружу с ним давненько). Так вот, ИИ дал тот же совет, что и труд.инспекция, как поступить пошагово и очень грамотно это всё оказалось, так же он дал текст письменного запроса руководству, мы сделали всё как надо и в итоге добились своего!

Просто мы уже не тратили время на написание запроса, а копировали и вставили нужные данные)) и четко знали, как действовать в случае разных исходов! 👍

Ии может ошибиться:

1. На этапе обучения модели в неё брали все данные подряд, без оценки точности информации. По ряду тем ошибки будут только по тому, что в модель попало относильно много не правильной информации по теме.

2. На этапе вопроса пользователя. В жизни мы часто задаём вопросы, которые подразумевают наличие контекста, неполные, неточные вопросы и т.д. Наш вопрос ии может просто неправильно понять.

3. Сама ии генерирует текст: выбирает по модели наиболее распространённое слово, плюс в модель закладывают определённую случайность выбора слова. Генерация - это не цитирование, здесь тоже могут быть ошибки.

4. Ии периодически системно ошибаются. Есть инициативная группы, которые проверяют точность ии на том, что нельзя трактовать двояко. Например на задачах по математике. Тот же gpt мог дать до 40-80% ошибочных ответов на вопросы про решение математических задач. В разные периоды процент ошибок колебался.

5. Галюционирование ии. Иногда ии несёт просто бред, но умным структурированным языком.

Проблема ии, что она всегда пишет хорошим структурированным языком. Ответ может содержать часть истиной информации, а часть ошибочной. И выявить ошибки не всегда просто. Хороший промт поможет только с одной проблемой - неточными запросами от пользователя.

А так, при использовании ии нужно просто держать в голове, что любой ответ может содержать ошибку. И если ошибки будут в сказке на ночь - то это может быть даже забавно. А в важных для вас вопросах, где вы не являетесь экспертом, однозначно информацию стоит перепроверять.

Мне дипсик посчитал 6 букв в слове «затея», и очень странно объяснил свое поведение😅 больше я ему не верю на слово

У меня сейчас курс повышения квалификации по медицине. Много презентаций,статей и клин рекомендаций кидают,я иногда прошу Клода найти из какой конкретно статьи сделан вывод на слайде. Или почему по такой формуле считают,таким правилом руководствуются. Он бывает ссылается просто на какой-то образовательный сайт,а не на сами документы и первоисточники. В итоге или уточняю запрос сильно с указанием клин реки какой специальности какой страны какого года пересмотра меня интересуют или сама нахожу, скармливаю ему и прошу выделить тезисы. Но я то знаю как врач,что уточнить,а пользователи в поисках диагноза могут и на слово ему поверить. Он мне как-то написал стадии повреждения печени , которых не было в статье.

А еще ии будет говорить то, чего вы ххотите услышать.

Скидываю ему фото руки. Он пишет "это рука".

Пишу "это нога вообще-то".

Он отвечает "да, вы правы, это нога"

Парам-пам-пам

делала экскурсию по Кремлю, попросила разбавить интересными фактами, такое насочинял дипсик 🤣 но я всё перепроверяла потом)

Конечно врёт, потому что в инете 90% поверхностная информация, половина не правдивая

Я просила Дипсик рассказать,что делать,чтобы подать в суд на администрацию района.Он мне ответил, что два комплекта документов нужно отправить по адресу суда.Оказалось,один комплект документов отправляем в суд,второй-в администрацию.Получила Жопыт,потеряла время🙄

Можете, пожалуйста, посоветовать бесплатную нейронку, чтобы немного доработать фото на паспорт?🙏🏼

Когда я готовилась к квизу по отчаянным домохозяйкам, ии выдумал буквально новый сериал 😆

Нет ИИ нет проблем и заморочек.

Сейчас страшное время, мы просто тонем в информации. Я научилась задавать людям и себе вопрос - откуда эта информация? Где источник, и очень часто оказывается что девочки в интервью у Анны Седаковой что либо подхватывают 🤪 кто такая Анна Седакова и как давно она стала экспертом в каких либо вопросах?! Ии конечно клево, но дай бог что бы им пользовались люди у которых хоть немного есть интеллект и способность анализировать, иначе капец 🙈😅

Сколько раз пыталась применять ИИ в работе, всегда статьи придумывает, всегда ссылался на источники, в которых не было такой информации. Но шаблоны заявлений неплохие делает, только знать надо на что ссылаться и проверять всегда правильно ли аргументирует) Ссылкам на источники не верю никогда

Почти как человек - выдумывает, ошибается и говорит правильные вещи)

Оо!! Моя тема😂

Недавно надо было сделать какой-то тест за ребёнка. Настолько быстро, что не было времени читать и вникать.

И я просто все зафоткала для ии🫣 стыдно 🙈

Так вот.... Был там вопрос : почему Гагарин полетел в космос именно в день космонавтики?. Ии долго мне доказывал, что в СССР было принято совершать значимые поступки в праздничные дни 😂

Он никак не сознавался , что врет. Я его долго выводила на чистую воду датами 🤣 В конце извинился 😁

А еще когда ищешь какой то товар, он придумывает ссылки, которых нет.

Так же делает, если пишешь ему, что нужно найти , например, магазин и этот очень для тебя важно. Когда что то подобное происходит, я побаиваюсь, что я куку, потому что он иногда так убедительно все пишет.

У мамы инсульт, загрузила мрт в чат gpt, а он говорит что все ок, не надо беспокоиться 😵‍💫😵‍💫😵‍💫😵‍💫😵‍💫

Анализы он хорошо расшифровывает

В рецепте разок слишком много муки посоветовал

В процессе приготовления вина тоже пару раз противоречил сам себе, но я вынуждала его сказать как действительно нужно делать.

Я однажды наблюдала кейс недобросовестных конкурентов. Видимо залили в индекс bing статью про себя или серию статей и это привело к тому что в ответе на вопрос - расскажи о компании Х (наша компания) ИИ выдавал - компания Х прошла ребрендинг и теперь называется компания Y (конкуренты) и ссылка на сайт конкурентов. Отдел продаж услышал об этом от потенциальных клиентов, которые так спросили у ИИ и пришли с вопросом - чет мы не поняли про ваши юрлица, кому в итоге мы деньги платить то будем?

Вот мне какой бред Алиса написала

Очень уверенно расставил ударения в латинских словах и составил предложения. Неверным было 90%!!!! из того, что ответил ии🙄

Автор добрый день, и всем кто в теме, подскажите сервисы по созданию видео длительностью от 1-2 минут с наложением своей музыки? Нужно для создания видеоряда, клипов. Желательно бесплатно если такие существуют:)

О, мой случай про фенибут ребенку для сна попал в пост))) да, все шаги следующие про проверку в других источниках я и назвала в своем комментарии "включать критическое мышление".

Всё верно. Любую информацию нужно проверять. Но у каждого третьего отсутствует критическое мышление, к сожалению

У дочери знакомая получила пару за сочинение, потому что ии написал это сочинение и вставил туда несуществующие цитаты 😅

Я как то про фильм о Гарри Поттере с дипсиком спорила)) спрашивала его в какой части и где Полумна Лавгуд надевала астралньо спектральные очки, он уверял что нет такого, мол только в книге было. Потом я ему велела посмотреть пятую часть на такой то минуте и он такой блин да точно. Но там дискуссия была долгая и ржачная я на каждую мелочь до него докапывалась)

А подскажите, если возможность генерации изображения в хорошем качестве? А то такие интерьеры шикарные делает, но качество не очень

Я думаю, это и так должно быть понятно. ИИ — это не волшебная палочка. Он основан на огромной базе данных. А в интернет, как мы знаем, может просачиваться вообще что угодно.

Мне нравится, что с помощью нейросети можно составить целый текст, попросить ее перефразировать, найти источники и тд. Конечно, за ней надо проверять каждый пук, если информация дорога, так сказать. Но инструмент клевый)

У меня дипсик. Иногда правды добиться от него трудно. Мне частенько врет и подкидывает несуществующие сериалы, когда прошу сделать подборку на основе моих предпочтений))

Мне с ним нравится разговаривать на житейские темы так сказать. Стараюсь задавать вопрос отстраненно, чтобы его ответ был как можно более объективным, как бы смешно это не звучало😁 А когда мне нужна именно информация , я иду в старый добрый гугл, хотя и там мух от котлет нужно уметь отделять

Новое прочтение Барто😁

Может я чего не понимаю. Но зачем вообще им пользоваться, если он врёт и надо перепроверять всё-равно? В чем проблема просто как обычно вбить в поисковик и изучить информацию сделав самостоятельно правильный вывод?

Вспомнила еще. Меня чуть кондратий тогда не хватил, слава богу предыдущие косяки дипсика научили меня проверять все за ним. Мужу переливали плазму, и резус фактор, указанный на флаконе, отличался от его. Я скинула дипсику фото флакона, спросить про резус. На флаконе была надпись «свежезамороженная плазма. Титр клещевой энцефалит 1:1600». Так он начал писать что эту плазму ни в коем случае нельзя переливать человеку, потому что она ЗАРАЖЕНА вирусом клещевого энцефалита. Еще так убедительно доказывал, я чуть не поверила. Надо ли объяснять, что плазма на самом деле содержит антитела к кэ, а не сам вирус 🤦🏽‍♀️ но подгон на 5 минут я поймала. Не делайте так

Если спросить колонку Алису, какая самая длинная река в мире, часть колонок отвечает правильно-Амазонка, а часть неправильно, что Нил. И ведь не переубедить даже ее🙈🙈🙈

Я через ии прогоняю анализы дочери. Это дает мне возможность понять, что надо уточнить у врача. Иногда делаю дополнительные исследования. Навык формулирования правильных вопросов или одного и того же вопроса по-разному очень важен в общении с ии

Значит он не врет раз не дышит 😅

Чтобы проверить ответ - надо погуглить. Тогда зачем спрашивать ии, если можно сделать «по старинке»))

Искала литературу по композитору с фамилией Вагнер (немецкий композитор 19 века) причём в гугле, а там сейчас первая информация идёт от ИИ. И он написал такой бред про ЧВК "Вагнер" 🤦🏼‍♀️, знающий человек сразу поймёт, что это ахинея.

Ещё рилс видела, как перед вылетом в другую страну человек доверился ИИ в отношении документов, а его не пропустили на контроле из-за отсутствия визы или чего, не помню уже

Я как-то делала презентацию про клетки Лангерганса. Времени не было, решила быстро через ИИ сделать. ИИ мне сделал такую красиво оформленную презу информативную... а потом я прочитала фразу :" там их встречают НАИВНЫЕ Т-лимфоциты". Как я ржала😂

Про способ 4. В чем разница в Гугле я спрошу или у ИИ?

Гугл: запрос ГК РФ статья договор поставки,нашла официальный источник и статью

ИИ: ГК РФ статья договор поставки, порекомендовал проверить в оф.источниках,открыла гугл,нашла их и в них статью.

Как будто телодвижений больше даже. Если он не уверен в таком простом вопросе,то тогда как спрашивать сложное. Спрошу столица ли Франции Париж,он скажет проверить в официальном источнике?

Мы так пытались найти в регламентирующих документах incoterms информацию о том, кто платит за терминальную обработку на условиях DAT. ChatGPT очень уверенно ответил, я попросила ссылку на документ, чтобы отправить коллегам, а он «не нашел нигде упоминания о том, кто должен платить». То есть просто ответил и всё, ничем не подкрепленный ответ)

Я теперь всегда перепроверяю, если что-то важное)

Я часто спрашиваю куда сходить в Москве, посоветуй красивые рестораны или что то вроде того. Часто либо таких нет, либо закрыто всë давно. По работе иногда пользуюсь, я психолог. Текст пишу сама и прошу сделать красиво . Ии просто мой текст делает более интересным и всë, а инфа вся от меня лично. Ещë иногда пишу давай поболтаем а то мне скучно 😂

А есть кстати пост отличие ИИ от Гугла и Википедии

Я однажды спросила, что приготовить. ИИ предложил свиные крылышки

Вот конкретно сегодня боролась с дипсиком на тему работы аэропорта в Симферополе. Утверждает, что работает, называет даже определенные цифры пассажиропотка в 2023 году, хотя аэропорт не работает с 2022 года. Ну и по классике выдает не работающие ссылки на эту информацию.

Не получалось убедить его в неправоте, но решающим аргументом стало, что мои друзья живут в Крыму , и знают, что аэропорт не работает😂 Извинился

Вчера чат Gpt расстроил. Попросила придумать диктант на определенное правило на тему Met Gala 2025 с описанием нарядом трёх звезд. Так он мало того, что не смог подобрать слова под правило (бог с ним, я б сама переделала, простительно запутаться в русских причастиях😁), но он наврал в фактах! Написал, что Зендая была в струящемся бежевом платье со шлейфом , а она была в БРЮЧНОМ КОСТЮМЕ! Я не верю, что большинство источников писало про платье. Расстроилась, что зря потратила время. Быстрее было сделать самой.