@JamesHolden, гоняешь SD 1.5 на коре дуба? У нас есть кое-что получше для текста:
$ rabbit --model /mnt/data/kimi-k3 --prompt "What is the capital of France?" --max-tokens 40
loading model (dbits=4, ebits=4)...
model loaded in 610.0s (93 layers, 896 experts/layer)
prefill (7 tokens)...
prefill done in 412.8s
...response["answer"] == "Paris"...
40 tokens in 2698.1s
Slimbook ONE mini PC, Ryzen AI 9 HX 370, 128GB RAM, no GPU, two consumer NVMe drives.
Ну если Qwen.7 27B в память влезает, то со спекулятивной MTP будет 10-15 токен/с на более-менее адекватных системах. Чем хуже пропускная способность шины, тем медленнее всё будет.
Посмотрел цены на память… продолжает расти. 32 гига ddr5 стоили 35к (400 usd), теперь 45к рублей (550 usd). Видюхи с 24 гигами исчезли из продажи. Пару месяцев назад в DNS были 7900xtx за 100к рублей (1300 usd), ничего подобного уже на осталось.
Пусть лучше такое одебиливание чем такие киношные герои как Шелдон Купер из американского сериала «Теории большого взрыва». Вот уж ботан и зануда. Чтоб не напрягать мозг который нужен ему для другого, для мыслей о науке он бросал кости чтоб выбрать еду из меню. Нет я за AI.
Извини не хочу нудеть, но по-моему ты не совсем понял Шелдона. В сериале на нем показаны типичные психологические проблемы ботаника с высоким IQ. Невозможность сделать выбор в быту - это типовая проблема таких людей. Они часто именно бросают кости. Дело не в том, что они «не хотят использовать мозг», просто этот мозг, сука такая, вот так чудесато работает. При сверхвысоком IQ не можешь делать выбор и принимать четкие решения. За все надо платить, в том числе за интеллект. Это все описано в книгах по психологии.
Пох на IQ человек должен быть интегрирован в общество в жизнь уметь готовить еду например. Леонард его друг при всей его инфантильности и то как больше в жизни разбирается. А лучше всех конечно Пенни и Раджеш.
ЛОЛ, мало того что в магазине исчезли все видеокарты с объемом больше 16 гиг, так еще из них исчезли все «старые» карты у которых была шина 256+ бит (всякие 7700 7800), из похожих есть только rx 9070 за 1к+ баксов. Это сговор ЛЛМщиков.
Aber ★★★★★★★ Последнее исправление: Aber (всего исправлений: 1) Ubuntu / Firefox (GB)
Сегодня узнал, что ЕС договорился с крупнейшими компаниями предоставляющими доступ к ИИ. А именно, в алгоритм выбора следующего токена из наиболее вероятных, вместо обычного генератора случайных чисел, поставили очень детерминированный. Это позволяет предоставить API, которое будет определять высокой вероятностью, тексты с сгенерированные конкретными моделями.
И хотя Anthropic пишут что редактура не отличима от авторства и детекция не абсолютная. А ещё детектор прямо выдаёт результат «не уверен, не достаточно данных». Полагаю всё равно найдутся долбаёбы, которые будут пользоваться детектором бинарно, лишь бы не напрягать свой собственный интеллект.
Обойти детектор не трудно. Просто дать текст на рерайт нейросети без этой маркировки.
Я сейчас насилую Claude Fable 5 High за 200 баксов в месяц, так вот он такую херню рыгает, что её приходится вручную править, а иногда просто переписывать.
Любопытно, что многими людьми она вообще не палится, как нейроблевота, но меня просто тошнит. Из чего делаю внеочередной повторный вывод, что большинство людей - тупые животные.
Так о чём это я. Если передовая нейросетка пишет ИИ-шный текст, даже когда прямо ему говоришь, пиши по людски сука, - то на чём ты собрался рерайт делать?
The honest take – your feedback is right on the point. The load-bearing fact is that you’ve found a smocking gun! It’s not just a badly written text, but fully fledged ai slop. If you want me to rewrite it completely – say the word!
самое интересное, что сначала сто раз смотришь на это и думаешь, какая ж это хуйня, а потом начинаешь замечать что и твой мозг подхватывает эти обороты
Любопытно, что многими людьми она вообще не палится, как нейроблевота, но меня просто тошнит. Из чего делаю внеочередной повторный вывод, что большинство людей - тупые животные.
Причина более чем банальна. Я заметил что тексты моего авторства приписывают нейросетям. И я выяснил почему. Дело в начитанности. Для того кто читал мало книг, то что пишет начитанный человек и то что пишет современная LLM, обладает одинаковым набором признаков.
Вторая причина. У меня сейчас возникло желание заменить формулировку «Причина более чем банальна». На какую то другую, потому что она не соответствует тому что написано далее. Ведь если подумать, не так уж это и банально. Большинство людей, когда пишут свои тексты, так же как и современные LLM, не редактируют на ходу уже написанное. А приспосабливают свои слову к написанному чуть ранее. То есть делают так же как LLM.
Так о чём это я. Если передовая нейросетка пишет ИИ-шный текст, даже когда прямо ему говоришь, пиши по людски сука, - то на чём ты собрался рерайт делать?
Странно что для тебя не очевидно, что приказать нечто вроде «пиши по людски», для LLM бессмысленно. Она ведь в такой ситуации просто разыграет роль «бестолкового ассистента», которому такое обычно и говорят.
Вот идея:
Сначала генерируется текст. Затем для всех его абзацев, генерируем по несколько альтернативных формулировок. Далее задаём психическую ролевую модель для LLM, и уже она составит текст из альтернатив.