[AEDe]

 Сообщение от fnksb :

мы чуть-чуть сдвигаем рамки вопроса - и получаем полную туфту вместо интересующего

Я тут не вижу проблемы. Ты прекрасно видишь что при таких рамках в ответ идет не то, что надо (забивает на часть требований) ну так подправь вопрос. Напиши конкретные типы питания , скажи что требования должны быть все соблюдаться и т.д.

Но в целом наивно ожидать, что по такому абстрактному вопросу, выдать именно то что ты считаешь эталонным налобником на аа )

LLM конечно не поисковик. Галлюцинаций еще много в ответах.

[fnksb]

 Сообщение от AEDe :

Я тут не вижу проблемы. Ты прекрасно видишь что при таких рамках в ответ идет не то, что надо (забивает на часть требований) ну так подправь вопрос.

Нет, если я не разбираюсь глубоко в теме - то я не прекрасно вижу, при каких рамках в ответ не идет то, что должно было бы по всей логике идти - а происходит выбрасывание почему-то как раз существенно важных вещей с подменой их чем-то иным (в т.ч. порой случайной кашицей).

Если я разбираюсь и все это вижу - то мне обычно не надо спрашивать у чата, возиться с точностью формулировок, играть с разными рамками запроса и сдвигать их (причем еще и в обе стороны), а потом еще и дополнительно проверять все его ответы - я ж и так знаю... А чего не знаю - как раз точечно погуглю, на сайт параметрика вон схожу вместо всего этого, для начала

Пока вот, по трем запросам в данной формулировке (довольно конкретной и однозначной все-таки, пусть и не настолько жестко толкающей его в правильную сторону, как твоя) - точность попаданий была 0.5 из 6, 0 из 5, 2 из 4
При объективном обилии правильных и соответствующих запросу вариантов, лежащих на поверхности.
Дальше да, надо вникать, понимать что наверное есть еще не найденное, переформулировать вопросы, разбираться со следующим потоком информации и так далее, и при этом еще не забывать гуглить и проверять всю конкретику потому что в ней тоже ошибки.

 Сообщение от AEDe :

Галлюцинаций еще много в ответах.

Раньше было очень много галлюцинаций, в том числе иногда прям высокоуровневых. С детальными ссылками, с цитатами из научных статей из серьезных журналов которые были полностью и очень качественно выдуманы и т.п. И с тщательно битыми ссылками, по которым вот случайно именно сегодня эта статья почему-то не открывается
Сейчас вроде поменьше стало чистого бреда и фантазий (хотя с учетом того, что теперь огромное число инфы в инете уже сгенирировано ИИ - сложно сказать, что будет дальше, это тоже любопытно).

Но на этом фоне как раз другая проблема более ярко очерчивается - что в результатах поиска или исследования не оказывается того, что должно было бы там быть (и было бы, если бы исследование делал минимально понимающий человек, ну или если бы юзер вместо запроса ИИ - выходил бы через поиск на минимально толковую статью/обсуждение по данному вопросу).

 Сообщение от AEDe :

LLM конечно не поисковик.

Ну так разговор с самого начала и идет о том, каковы LLM в роли поисковика/исследователя/консультанта или вон даже врача с психологом

О том, что AI в принципе порой могут быть очень даже полезны, особенно при умелом использовании и хорошем понимании их возможностей, плюсов, минусов, ограничений, специфики конкретной задачи (в т.ч. важности результата), компетенции спрашивающего, дополнения другими инструментами, платной подписки - ну да, конечно
Я тоже пользуюсь, забавная и порой полезная штука, иногда даже очень полезная.

Как они при этом влияют на состояние текстов в целом, на количество бессмысленной информации в сети, вообще на доверии к печатному слову и желании что-то читать... Я вот обычно уже просто сразу проматываю текст, если вижу что он AI написан - ну зачем время тратить, "что попало" я и сам могу себе сгенерить за пять секунд... И уже хотя бы для этого стоит пользоваться AI
Как быть со способами оценки адекватности читаемого текста, когда привычный метод оценки по внешней форме не работает, потому что вот как раз форму AI научился очень хорошо копировать - но это только копирование формы, это больше не связано с адекватностью и компетентностью автора, потому что вот как раз форму ИИ прекрасно копирует... Это да, любопытные вопросы тоже.

Использование там например в программировании - отдельная тема (туда даже не буду лезть), в картинках и видео - ооо, тоже огромная, в роли личных ассистентов - еще одна, в роли "просто поболтать" - тоже специфический такой способ то ли разобраться в себе, то ли заработать шизофрению... И так далее, много там разных аспектов и нюансов применения

[fnksb]

AEDe,

я вот для жены с мелкой дочкой настроил чатботик для автоопределения динозавров по фоточке - по всяким детским игрушкам, рисункам на одежде и т.п. Чтобы ей было удобно сразу довольно точно определять и называть ребенку, что конкретно за зверь.

Потренировал чятик чуток, нашел оптимальный формат, удобство для быстрой проверки и уточнения и т.п. Классная штука, очень удобно и полезно - и процентах в 90 попадает (а в половине промахов - получается быстро проверить, не накосячил ли).

Но самое главное - вот точно никто не умрет, если они в детском магазине разок перепутают брахиозавра с апатозавром, или пахицефалозавра с цератозавром. И даже не разорится никто, и на поезд никто не опоздает, и вообще никаких потерь и проблем не будет.
Вот это мне больше всего нравится

[AEDe]

fnksb, я часто использую llm как некий предпоисковик т.е. возникает какой-то вопрос в сфере которого я не знаю даже терминологии, а то и самой сферы. А вот llm понимает откуда ветер дует и по ее выводу уже можно гуглить, искать источники и т.д. И таким способом можно раскрутить вопросы за которые на первый взгляд и не знаешь как взяться...