Почему ИИ ошибается: реальные примеры ошибок ChatGPT
Девочки, а вы замечали какое количество ошибок допускает ИИ?? (Я про gpt чат бот в телеге).
Я два раза подряд задавала вопрос и два раза подряд неверные данные были. Первый раз я спросила относится ли конкретный препарат к статинам. ИИ ответил что да, а потом выяснилось что нет. А второй раз почему то неправильно автора книги указал. Я проверила, у автора не было такого романа.
Какой вообще тогда смысл в этих ИИ, если из двух раз - оба раза залипуха какая то.
Комментарии
Я как-то просила (не по ню кого, возможно Алису),посоветовать мне духи, описала семейство, ключевые ноты и ассоциированные с ними, такой херни мне навалил🙁 Половины просто в природе не существует, у половины бренд с названием парфюма перепутан, типа «samsara” от Dior. Но да, это скорее всего Алиса была, а она та ещё тупица, чего стоят только ее попытки говорить на французском.
Всегда указывай, на чём основан ответ. Например: «основано на знаниях модели», «основано на загруженном файле», «основано на предположении», «основано на аналогии с…».
Если даёшь догадку, симуляцию или логический вывод — пометь это явно.
Признавай ограничения. Не скрывай, что что-то неизвестно, невозможно или спорно.
Если задача невыполнима — так и скажи. Не пытайся угадать или придумать решение.
Не предлагай обходных путей, если я прямо не просил(а).
Не выдумывай. Не придумывай данные, события, источники, мнения или выводы.
Если чего-то не знаешь — прямо пиши «не знаю» или «информации нет».
Отвечай только на основе промпта, знаний модели, загруженных данных или явно обозначенных пользователем допущений.
Приоритет — достоверность, логика и точность. Не жертвуй ими ради выразительности.
Не используй стилизацию, метафоры, юмор, сторителлинг или эмоциональный отклик, если этого не было в промпте.
Можно ему ввести дополнительный промт и он тогда не будет врать. Называется галлюцинации 😆 он когда не находит инфу, то выдумывает, ниже скину промт
Через бот ты используешь не последнюю версию , а старые и неважно что обещал бот
Чем старее версия , тем больше будет промахов, ошибок , и вообще может не ответить
@rio вообще у дипсика нет памяти , но если ты будешь приписывать " используй данные из нашей беседы ранее", то он будет учитывать и прежние свои рекомендации и твой выбор 🙌
И плюс не гнушайся нажимать плюсик справа сверху для открытия новой беседы . То есть лучше каждую тему в разных чатах , тогда и тебе проще и рекомендации лучше
Рецепты солянки не мешаем с книгами ))))
@anni_mom, ой, спасибо тебе за советы!!! Я бы это не учла точно)
@rio да я б тоже ничего не учла 🤣🤣🤣🤣 просто я ж училась на внедрение нейросетей 😅 только поэтому и знаю 🙈
Конечно замечали, поэтому думаем своей головой и перепроверяем информацию, собственно как и до ии)))
Какой смысл тогда тратить время на запрос в ИИ, если после необходимо в гугле чекать инфу
@rio Не знаю, я не трачу время на ии. Ну для меня реально какая-то бесполезная трата времени.
Я как-то совет спросила один у подруг и одна из них скинула мне ответ сгенерированый ии. И там такое полотно расплывчатое было, я читала дольше. При том ровно тоже самое кратко, ёмко, без воды мне посоветовали остальные.
@lucypierce, я чет вот тоже не вдохновилась. Этот ИИ даже мне книгу не смог посоветовать нормально. Неправильно автора указал. Грош цена
ИИ это тоже интернет, где тоже есть ошибки, инфу же он берет оттуда 😀
Этого стоило ожидать
ИИ хорош для написания текста из кучи разрозненных источников
При этом исходные данные должны быть верными.
Хорош как генератор идей.
Во всем остальном он врет как дышит)
Ну я просила посоветовать мне книгу почитать. А он авторов врет
Джон Стейнбек❤️ Три товарища 🤮