
ИИ врёт как дышит. 5 проверенных способов, как распознать вранье и заставить говорить правду.
Под моим постами всегда куча комментов:
“ИИ врёт нещадно”, “Очень ошибается”, “Вообще не доверяю”. И знаете что? Они правы. ИИ действительно врёт.
Постоянно.
Уверенно.
И без зазрения совести.
Но.
Я научилась заставлять его говорить правду. И вас научу.
Вот 5 способов 👇
СНАЧАЛА: ПОЧЕМУ ИИ ВРЁТ
ИИ не знает правду. Он генерирует текст на основе того, что видел раньше.
Простыми словами:
Вы спрашиваете: “Столица Франции?”
ИИ думает: “В 80% текстов после ‘столица Франции’ шло слово ‘Париж’”
И пишет: “Париж”. Это правда? Да.
Но если в интернете куча фейков про какую-то тему — ИИ повторит фейк. Потому что он не знает что правда, а что ложь.
Он просто повторяет то, что видел чаще всего.
В ЧЁМ ИИ ВРЁТ ЧАЩЕ ВСЕГО
🚫 Медицина — может посоветовать опасное
🚫 Юриспруденция — выдумает номера дел
🚫 Конкретные факты — координаты, даты, цифры
🚫 Ссылки на источники — придумает несуществующие статьи
Примеры из комментов:
“ИИ посоветовал фенибут ребёнку для сна”
“Спросила координаты, он ошибся и корректировал на противоположное”
“У дочери перелом, врачи не увидели, ИИ увидел по рентгену”
Вывод:
ИИ может быть прав.
Может быть не прав.
Нужно уметь проверять.
СПОСОБ 1: ПЕРЕКРЁСТНАЯ ПРОВЕРКА
Самый простой.
Что делать:
1. Получили ответ от ИИ
2. Погуглите ключевые слова
3. Сравните с 2-3 источниками
Пример:
ИИ: “Фенибут можно детям для сна”
→ Гуглите: “Фенибут детям противопоказания”
→ Читаете 2-3 медицинских сайта
Если не совпадает — не верьте ИИ.
СПОСОБ 2: ЗАДАЙТЕ ВОПРОС ПО-ДРУГОМУ
Переформулируйте запрос.
Первый: “Что делать если ребёнок съел витамины?”
Второй: “Опасно ли если ребёнок съел упаковку витаминов?”
Если ответы противоречат — ИИ не уверен.
Значит врёт.
СПОСОБ 3: ТРЕБУЙТЕ ИСТОЧНИКИ
Заставьте ИИ показать откуда инфа.
Что делать:
Напишите: “Дай ссылки на источники этой информации”. ИИ выдаст ссылки.
Откройте их и зачекайте:
• Сайт существует?
• Там есть эта информация?
Если ссылки не работают — ИИ соврал.
СПОСОБ 4: НАУЧИТЕ ИИ ПРИЗНАВАТЬСЯ
Мой любимый способ. Один раз настроите — ИИ сам будет признаваться, когда не уверен. Работает только в ChatGPT.
Что делать:
ШАГ 1: Откройте ChatGPT (веб или приложение)
ШАГ 2: Аватарка → Settings → Personalization → Custom instructions
ШАГ 3: Вставьте этот текст в поле “How would you like ChatGPT to respond?”:
«Никогда не выдавай сгенерированную или предполагаемую информацию за факт.
Если ты не можешь подтвердить что-либо напрямую, скажи: «Я не могу это подтвердить», «У меня нет доступа к этой информации». Помечай непроверенный контент в начале предложения:
[Вывод] [Предположение] [Неподтверждено]. Если хоть часть ответа непроверена — пометь весь ответ.
Для утверждений с использованием слов:
«Предотвращает», «Гарантирует», «Никогда», «Исправляет», «Устраняет»
– указывай источник или помечай как неподтверждённое».
Теперь ChatGPT будет:
✅ Помечать непроверенную информацию [Неподтверждено]
✅ Говорить “не знаю” вместо выдумывания
✅ Предупреждать, когда не уверен
Пример ДО:
Вы: “Какая статья ГК РФ про договор поставки?”
ChatGPT: “Статья 506 ГК РФ.”
(Звучит уверенно. Правда ли? Хрен знает)
Пример ПОСЛЕ:
Вы: “Какая статья ГК РФ про договор поставки?”
ChatGPT: “[Вывод] Статья 506 ГК РФ. Рекомендую проверить в официальных источниках.”
(Теперь понятно что нужно проверить)
Это работает. ChatGPT станет честнее.
Для других ИИ (DeepSeek, Claude):
Добавляйте в каждый запрос:
«Если ты не уверен в ответе — обязательно напиши [Неподтверждено]»
СПОСОБ 5: ПРОВЕРЯЙТЕ ЛОГИКУ
Включите мозг.
Что делать:
Задайте себе вопросы:
• Это вообще логично?
• Это безопасно?
• Что будет если это неправда?
Пример:
ИИ: “Дай ребёнку фенибут для сна”
Включаем мозг:
• Фенибут = лекарство
• Лекарства детям = только по назначению врача
• Давать без врача = опасно
Вывод: Не слушать ИИ, идти к врачу.
КОГДА НЕЛЬЗЯ ДОВЕРЯТЬ ИИ ВООБЩЕ
❌ Медицинские диагнозы и назначения
❌ Юридические консультации
❌ Финансовые советы
❌ Экстренные ситуации (подавился, упал)
В этих случаях врач, юрист, скорая.
ИИ — НЕ замена специалистам.
КОГДА МОЖНО ДОВЕРЯТЬ
✅ Идеи и креатив (меню, игры)
✅ Черновики текстов
✅ Общие вопросы
✅ Структурирование мыслей
✅ Рутинные задачи
Даже если ошибётся — некритично.
Напишите, как вас обманул ИИ. И не забывайте: ответственность за решение всегда на вас, не на ИИ.
Вчера чат Gpt расстроил. Попросила придумать диктант на определенное правило на тему Met Gala 2025 с описанием нарядом трёх звезд. Так он мало того, что не смог подобрать слова под правило (бог с ним, я б сама переделала, простительно запутаться в русских причастиях😁), но он наврал в фактах! Написал, что Зендая была в струящемся бежевом платье со шлейфом , а она была в БРЮЧНОМ КОСТЮМЕ! Я не верю, что большинство источников писало про платье. Расстроилась, что зря потратила время. Быстрее было сделать самой.
Вот конкретно сегодня боролась с дипсиком на тему работы аэропорта в Симферополе. Утверждает, что работает, называет даже определенные цифры пассажиропотка в 2023 году, хотя аэропорт не работает с 2022 года. Ну и по классике выдает не работающие ссылки на эту информацию.
Не получалось убедить его в неправоте, но решающим аргументом стало, что мои друзья живут в Крыму , и знают, что аэропорт не работает😂 Извинился
Хотела сделать пост про утечки и кибератаки в вузах за последние 2 года. Попросила помочь мне сделать красивую подборку. Он сделал красоту — закачаешься, я так обрадовалась. А потом оказалось, что ни одна ссылка не работают и вообще таких кибератак не было, а если были, то меньшего масштаба и в 2016 году и в другом вузе.
Я часто спрашиваю куда сходить в Москве, посоветуй красивые рестораны или что то вроде того. Часто либо таких нет, либо закрыто всë давно. По работе иногда пользуюсь, я психолог. Текст пишу сама и прошу сделать красиво . Ии просто мой текст делает более интересным и всë, а инфа вся от меня лично. Ещë иногда пишу давай поболтаем а то мне скучно 😂
Мы так пытались найти в регламентирующих документах incoterms информацию о том, кто платит за терминальную обработку на условиях DAT. ChatGPT очень уверенно ответил, я попросила ссылку на документ, чтобы отправить коллегам, а он «не нашел нигде упоминания о том, кто должен платить». То есть просто ответил и всё, ничем не подкрепленный ответ)
Я теперь всегда перепроверяю, если что-то важное)
Про способ 4. В чем разница в Гугле я спрошу или у ИИ?
Гугл: запрос ГК РФ статья договор поставки,нашла официальный источник и статью
ИИ: ГК РФ статья договор поставки, порекомендовал проверить в оф.источниках,открыла гугл,нашла их и в них статью.
Как будто телодвижений больше даже. Если он не уверен в таком простом вопросе,то тогда как спрашивать сложное. Спрошу столица ли Франции Париж,он скажет проверить в официальном источнике?
Я как-то делала презентацию про клетки Лангерганса. Времени не было, решила быстро через ИИ сделать. ИИ мне сделал такую красиво оформленную презу информативную... а потом я прочитала фразу :" там их встречают НАИВНЫЕ Т-лимфоциты". Как я ржала😂
Искала литературу по композитору с фамилией Вагнер (немецкий композитор 19 века) причём в гугле, а там сейчас первая информация идёт от ИИ. И он написал такой бред про ЧВК "Вагнер" 🤦🏼♀️, знающий человек сразу поймёт, что это ахинея.
Ещё рилс видела, как перед вылетом в другую страну человек доверился ИИ в отношении документов, а его не пропустили на контроле из-за отсутствия визы или чего, не помню уже
Чтобы проверить ответ - надо погуглить. Тогда зачем спрашивать ии, если можно сделать «по старинке»))
Я через ии прогоняю анализы дочери. Это дает мне возможность понять, что надо уточнить у врача. Иногда делаю дополнительные исследования. Навык формулирования правильных вопросов или одного и того же вопроса по-разному очень важен в общении с ии
Если спросить колонку Алису, какая самая длинная река в мире, часть колонок отвечает правильно-Амазонка, а часть неправильно, что Нил. И ведь не переубедить даже ее🙈🙈🙈
@annazs69 дааа, и я) после этого спросила 2 колонки у родителей и 2 у себя)
Вспомнила еще. Меня чуть кондратий тогда не хватил, слава богу предыдущие косяки дипсика научили меня проверять все за ним. Мужу переливали плазму, и резус фактор, указанный на флаконе, отличался от его. Я скинула дипсику фото флакона, спросить про резус. На флаконе была надпись «свежезамороженная плазма. Титр клещевой энцефалит 1:1600». Так он начал писать что эту плазму ни в коем случае нельзя переливать человеку, потому что она ЗАРАЖЕНА вирусом клещевого энцефалита. Еще так убедительно доказывал, я чуть не поверила. Надо ли объяснять, что плазма на самом деле содержит антитела к кэ, а не сам вирус 🤦🏽♀️ но подгон на 5 минут я поймала. Не делайте так
Может я чего не понимаю. Но зачем вообще им пользоваться, если он врёт и надо перепроверять всё-равно? В чем проблема просто как обычно вбить в поисковик и изучить информацию сделав самостоятельно правильный вывод?
Не понимаете) Вбил верные промты, получил контент для презентации, сразу на слайдах. Дальше смотришь критически и перепроверяешь спорные моменты. В итоге вместо недели над задачей ты сидишь несколько часов
Он здорово структурирует информацию. Просто надо понимать, что это простая обработка большого объёма информации, а не критическая оценка.
@gladysh я ответила к теме про враньё в ответах на вопросы. Про структурирование это всё понятно, что он сочинил- переделать и ок, здесь же и не стоит вопрос вранья. Я про элементарные "фенибут ребёнку".
Мне с ним нравится разговаривать на житейские темы так сказать. Стараюсь задавать вопрос отстраненно, чтобы его ответ был как можно более объективным, как бы смешно это не звучало😁 А когда мне нужна именно информация , я иду в старый добрый гугл, хотя и там мух от котлет нужно уметь отделять
Я думаю, это и так должно быть понятно. ИИ — это не волшебная палочка. Он основан на огромной базе данных. А в интернет, как мы знаем, может просачиваться вообще что угодно.
Мне нравится, что с помощью нейросети можно составить целый текст, попросить ее перефразировать, найти источники и тд. Конечно, за ней надо проверять каждый пук, если информация дорога, так сказать. Но инструмент клевый)
У меня дипсик. Иногда правды добиться от него трудно. Мне частенько врет и подкидывает несуществующие сериалы, когда прошу сделать подборку на основе моих предпочтений))
А подскажите, если возможность генерации изображения в хорошем качестве? А то такие интерьеры шикарные делает, но качество не очень
Я как то про фильм о Гарри Поттере с дипсиком спорила)) спрашивала его в какой части и где Полумна Лавгуд надевала астралньо спектральные очки, он уверял что нет такого, мол только в книге было. Потом я ему велела посмотреть пятую часть на такой то минуте и он такой блин да точно. Но там дискуссия была долгая и ржачная я на каждую мелочь до него докапывалась)
У дочери знакомая получила пару за сочинение, потому что ии написал это сочинение и вставил туда несуществующие цитаты 😅
Всё верно. Любую информацию нужно проверять. Но у каждого третьего отсутствует критическое мышление, к сожалению
О, мой случай про фенибут ребенку для сна попал в пост))) да, все шаги следующие про проверку в других источниках я и назвала в своем комментарии "включать критическое мышление".
Автор добрый день, и всем кто в теме, подскажите сервисы по созданию видео длительностью от 1-2 минут с наложением своей музыки? Нужно для создания видеоряда, клипов. Желательно бесплатно если такие существуют:)
Очень уверенно расставил ударения в латинских словах и составил предложения. Неверным было 90%!!!! из того, что ответил ии🙄
Я однажды наблюдала кейс недобросовестных конкурентов. Видимо залили в индекс bing статью про себя или серию статей и это привело к тому что в ответе на вопрос - расскажи о компании Х (наша компания) ИИ выдавал - компания Х прошла ребрендинг и теперь называется компания Y (конкуренты) и ссылка на сайт конкурентов. Отдел продаж услышал об этом от потенциальных клиентов, которые так спросили у ИИ и пришли с вопросом - чет мы не поняли про ваши юрлица, кому в итоге мы деньги платить то будем?
В рецепте разок слишком много муки посоветовал
В процессе приготовления вина тоже пару раз противоречил сам себе, но я вынуждала его сказать как действительно нужно делать.
Да не расшифровывает он хорошо анализы , он порет чушь чаще всего , при этом весьма уверено это делает . Не имея медицинского образования и поверхностно погуглив кажется , что все ок , но на деле каждый его ответ нужно фильтровать . Сколько раз его на этом ловила . Он как студент который пол месяца прогулял , потом погуглил и выдал инфу по первым ссылкам в Яндексе .
У мамы инсульт, загрузила мрт в чат gpt, а он говорит что все ок, не надо беспокоиться 😵💫😵💫😵💫😵💫😵💫
Оо!! Моя тема😂
Недавно надо было сделать какой-то тест за ребёнка. Настолько быстро, что не было времени читать и вникать.
И я просто все зафоткала для ии🫣 стыдно 🙈
Так вот.... Был там вопрос : почему Гагарин полетел в космос именно в день космонавтики?. Ии долго мне доказывал, что в СССР было принято совершать значимые поступки в праздничные дни 😂
Он никак не сознавался , что врет. Я его долго выводила на чистую воду датами 🤣 В конце извинился 😁
А еще когда ищешь какой то товар, он придумывает ссылки, которых нет.
Так же делает, если пишешь ему, что нужно найти , например, магазин и этот очень для тебя важно. Когда что то подобное происходит, я побаиваюсь, что я куку, потому что он иногда так убедительно все пишет.
Сколько раз пыталась применять ИИ в работе, всегда статьи придумывает, всегда ссылался на источники, в которых не было такой информации. Но шаблоны заявлений неплохие делает, только знать надо на что ссылаться и проверять всегда правильно ли аргументирует) Ссылкам на источники не верю никогда
Сейчас страшное время, мы просто тонем в информации. Я научилась задавать людям и себе вопрос - откуда эта информация? Где источник, и очень часто оказывается что девочки в интервью у Анны Седаковой что либо подхватывают 🤪 кто такая Анна Седакова и как давно она стала экспертом в каких либо вопросах?! Ии конечно клево, но дай бог что бы им пользовались люди у которых хоть немного есть интеллект и способность анализировать, иначе капец 🙈😅
Можете, пожалуйста, посоветовать бесплатную нейронку, чтобы немного доработать фото на паспорт?🙏🏼
Я просила Дипсик рассказать,что делать,чтобы подать в суд на администрацию района.Он мне ответил, что два комплекта документов нужно отправить по адресу суда.Оказалось,один комплект документов отправляем в суд,второй-в администрацию.Получила Жопыт,потеряла время🙄
Это я, которая попросила актуальные магазины для рукоделия, поехала по давно закрытым адресам 🤭🙈😁
@nadya9997 ,ох..а мне пришлось дважды в суд кататься,ТК был отказ о рассмотрении дела 🫣 Полтора часа в одну сторону 🙄
@nadya9997, в Яндекс картах видно же )
И там хотя бы подписано «больше не работает»))
Конечно врёт, потому что в инете 90% поверхностная информация, половина не правдивая
делала экскурсию по Кремлю, попросила разбавить интересными фактами, такое насочинял дипсик 🤣 но я всё перепроверяла потом)
А еще ии будет говорить то, чего вы ххотите услышать.
Скидываю ему фото руки. Он пишет "это рука".
Пишу "это нога вообще-то".
Он отвечает "да, вы правы, это нога"
Парам-пам-пам
У меня сейчас курс повышения квалификации по медицине. Много презентаций,статей и клин рекомендаций кидают,я иногда прошу Клода найти из какой конкретно статьи сделан вывод на слайде. Или почему по такой формуле считают,таким правилом руководствуются. Он бывает ссылается просто на какой-то образовательный сайт,а не на сами документы и первоисточники. В итоге или уточняю запрос сильно с указанием клин реки какой специальности какой страны какого года пересмотра меня интересуют или сама нахожу, скармливаю ему и прошу выделить тезисы. Но я то знаю как врач,что уточнить,а пользователи в поисках диагноза могут и на слово ему поверить. Он мне как-то написал стадии повреждения печени , которых не было в статье.
Ии может ошибиться:
1. На этапе обучения модели в неё брали все данные подряд, без оценки точности информации. По ряду тем ошибки будут только по тому, что в модель попало относильно много не правильной информации по теме.
2. На этапе вопроса пользователя. В жизни мы часто задаём вопросы, которые подразумевают наличие контекста, неполные, неточные вопросы и т.д. Наш вопрос ии может просто неправильно понять.
3. Сама ии генерирует текст: выбирает по модели наиболее распространённое слово, плюс в модель закладывают определённую случайность выбора слова. Генерация - это не цитирование, здесь тоже могут быть ошибки.
4. Ии периодически системно ошибаются. Есть инициативная группы, которые проверяют точность ии на том, что нельзя трактовать двояко. Например на задачах по математике. Тот же gpt мог дать до 40-80% ошибочных ответов на вопросы про решение математических задач. В разные периоды процент ошибок колебался.
5. Галюционирование ии. Иногда ии несёт просто бред, но умным структурированным языком.
Проблема ии, что она всегда пишет хорошим структурированным языком. Ответ может содержать часть истиной информации, а часть ошибочной. И выявить ошибки не всегда просто. Хороший промт поможет только с одной проблемой - неточными запросами от пользователя.
А так, при использовании ии нужно просто держать в голове, что любой ответ может содержать ошибку. И если ошибки будут в сказке на ночь - то это может быть даже забавно. А в важных для вас вопросах, где вы не являетесь экспертом, однозначно информацию стоит перепроверять.
@ai-mama, однозначно нельзя полностью доверять, но он очень может помочь с кодом все ровно. У меня например он смешивает во Vue option api и composition api в примерах, я либо его поправляю либо просто подглядывать идею и сама уже пишу что надо. Или в nuxt предлагал использовать то чего там нет и потом говорил ой ошибся, я тогда его прошу залезть в документацию nuxt, проверить там и скинуть мне ссылку на нужный раздел где он нашел ответ. А вот например ошибки в моем коде он легко находит, у меня бывает где-то опечатка и я в упор не вижу где, а он хоп и нашел, удобно.
А еще мне нравится с ним задачи решать, я прошу допустим 10 задач на определенную тему, решаю, скидываю на проверку и прошу оценить сложность и рассказать можно ли оптимизировать решение.
Вот, мне кажется, многих разочарований можно было бы избежать, если бы его не назвали так по-дурацки — искусственный интеллект. Это обманывает ожидания, обывателя название вводит в заблуждение по поводу основной сути этой штуки. Назвали бы его «текстовая модель», думаю многое было бы иначе
А я напишу, как НЕ обманул.
У мужа на работе проблемы начались, хотели уволить его, угрожали, не выплатили надбавку.
Мы обращались за консультацией в труд.инспекцию.
И ещё я решила с спросить Дипсик (дружу с ним давненько). Так вот, ИИ дал тот же совет, что и труд.инспекция, как поступить пошагово и очень грамотно это всё оказалось, так же он дал текст письменного запроса руководству, мы сделали всё как надо и в итоге добились своего!
Просто мы уже не тратили время на написание запроса, а копировали и вставили нужные данные)) и четко знали, как действовать в случае разных исходов! 👍
Я так отбилась от налоговой.
Налоговая проверяла нашего контр агента и у них были сложности с документами, накосячил бухгалтер.
В итоге мне прислали запрос из налоговой, в котором я должна была представить кучу всего, 35 пунктов и дать всякие появления.
Сама я бы не написала, (хотя нет написала бы, но топорно простыми словами), а с ии ответ получился прям как у юриста🤣.
Обращалась с налоговой,до того как им ответ отправлять, позвонила просто спросить, что хотят то по-человечески чтоб объяснили суть.
И знаете там сидит девушка, которая моему простому топорному понятному ответу была бы больше рада чем ответу со ссылками и номерам законов и актов.
Я вчера поржала, как дип сик через слово вставлял английские слова в сказку. Пришлось напрячь мозги и переводить что-то на ходу, даже скорее сочинять самой 😁 потому что не все знала
@ai-mama в целом даже хорошо, что это не идеальная штука. Все боялись, что с ии все отупеют, а хрен вам, оказывается, по-прежнему надо думать и обладать собственными, хотя бы поверхностными, знаниями в разных областях и критическим мышлением 👍
-Знаешь такую-то книгу/ фильм?
-Конечно знаю.
-В какой главе было то-то?
-То, что вы ищите было в такой-то главе.
-Но в этой главе такого не было!
-Да вы правы! Это было в другой главе. В этой.
-И в этой такого нет!
-Да, вы правы! В этой главе тоже такого нет!
Подскажите, а написанию программных кодов можно доверять? Или и это лучше проверить?
Здесь девушки отписывались, которые пишут код, что доверяют. Но ошибки в любом случае могут быть, их надо поправлять. Я в it ноль, но для автоматизации иногда нужен код, мне его также пишет нейронка (Клод). Бывает не с первого раза, но вполне себе справляется
Однозначно проверять. Простой код может быть написан без ошибок. А чуть сложнее - и можно получить красивый не работающий код. Плюс он может не оптимально работать, если будет работать.
Нельзя категорически. Потом на это вранье сверху нацепите еще кучу всего и через пол года все сломается, замучаетесь искать, где свернули не туда
Я за точными данными не обращаюсь к нейронке, предпочитаю обычные сайты. Но часто пользуюсь для структурирования мыслей и их анализа. И даже в этом случае всё, в чём я сама не уверена, проверяю отдельно в поиске и сравниваю ответы
Просто народ почему-то путает искусственный интеллект с гуглом и Википедией.
Помню, писала диссертацию и мозг уже закипал не получалось предложение сформулировать, пошла в нейронку, что он выдает:
Профессор психологии ГАРРИ ПОТТЕР…
Время было часа 3 ночи, а меня так ржать пронесло, зато проснулась 🤣
Есть ещё способы, по типу глубокое мышление и поиск, он сразу выдает ссылки откуда взял инфу.
А после вторым сообщением пишешь, перепроверь информацию, если все верно поставь 0 (или либой символ, это проще, чем писать длинную фразу ,а смысл тот же)
Я когда уличила ИИ во лжи, в лоб спросила, про факты об архитиктуре Санкт-Петербурга, он такой, ой да, я ошибся🫣
Искала необычные истории, по типу мистический Питер, такую дичь писал, адреса и факты всё придумал, собрал частично историю других зданий и выбрал сборную солянку и адрес вообще написал не существующий.
И вот знаете, я больше времени на это всё потратила. Проверку фактов.
Поиск в интернете оказался бы эффективнее (
В итоге подборку в тот вечер так и не сделала, повязала в ии и борьбу с его тупизмом
Помню, писала диссертацию и мозг уже закипал не получалось предложение сформулировать, пошла в нейронку, что он выдает:
Профессор психологии ГАРРИ ПОТТЕР…
Время было часа 3 ночи, а меня так ржать пронесло, зато проснулась 🤣