Изображения
Видео и 3D
Текст
Пропущено 1497 постов, 226 с картинками.
Очень большая. Не пойми меня неправильно, у опенаи сейчас все модели говно, но тот кусок кала в виде луны что они поставили для бесплатников, это полный пиздец. Эту хуету к коду адекватные люди вообще не подпускают например.
AI bubble is dead
Тред для получения доступа в /nf
Пропущено 1497 постов, 2 с картинками.
ЧТО НОВОГО АКТУАЛЬНОГО
• Qwen Image 2.1
• Поддержка INT8 и INT4 в ComfyUI - теперь все быстрее!
• Krea 2
• Ideogram 4.0
• FLUX.2 klein (4b и 9b)
• Z-Image
База:
→ Приложение ComfyUI https://comfy.org/
→ Примеры https://comfyui-wiki.com/ru (откуда, куда, как)
→ Модели https://civitai.red/
► Предыдущий тред >>1723203 (OP) (OP) ► https://arhivach.hk/?tags=13840
Дополнительно: https://telegra.ph/Stable-Diffusion-tred-X-01-03
Пропущено 465 постов, 181 с картинками.
хз я скачал ручками портабельную версию 0.41.0 она там самая свежая
скрипты трогать я ебал
ладно похуй
>Какова авторская мотивация
не понял. какая мотивация? пока что делать нехуй вот и генерирую всякое.
Новости треда:
Claude Sonnet 5.5 (Anthropic, 28 сентября 2026) - 70,6% на Terminal-Bench 4.0 против 66,4% у Opus 5.5 по опубликованным Anthropic результатам; цена $2/$10 за миллион входных/выходных токенов против $4/$20 у Opus. Сильный вариант для повседневной разработки и исправления ошибок за половину цены старшей модели.
• GPT-6.1 Sol (OpenAI, 29 сентября 2026) - приблизился к флагману GPT-6 Astra в агентном программировании при цене $2/$10 за миллион входных/выходных токенов против $10/$50 у Astra. На Terminal-Bench Science средняя стоимость задачи составила $5,47 против $23,21 у Opus 5.5 и $23,80 у Astra; модель доступна через API и Codex.
• Gemini 4 Argon (Google, 30 сентября 2026) - контекст до 1 млн токенов, 77,9% на DeepSWE v1.1 и стартовая цена $2/$10 за миллион входных/выходных токенов. По заявленным Google результатам опережает GPT-6 Astra на DeepSWE (74,1%), но уступает ему на Terminal-Bench 4.0 (57,4% против 58,2%), а Opus 5.5 набирает 66,4%. Пока доступна доверенным специалистам по кибербезопасности через Fairwind.
• Обновление Codex CLI (OpenAI, 29 сентября 2026) - голосовое управление задачами, представление /agents для делегирования работы и отслеживания нескольких агентов, возобновление сессий и поддержка Git worktrees. Обновление доступно на всех тарифах; практическая ценность - удобнее вести параллельную разработку и долгие агентные задачи из терминала.
Полезная информация:
• FAQ: https://rentry.org/2ch-agents-faq
• Вариант архитектуры работы с агентами: https://rentry.co/9e256dt4
IDE с агентом внутри:
• Cursor: https://cursor.com
• Antigravity: https://antigravity.google/
• Zed: https://zed.dev
CLI-харнессы:
• Claude Code: https://code.claude.com/docs
• Codex: https://github.com/openai/codex
• OpenCode: https://github.com/anomalyco/opencode
• Pi: https://shittycodingagent.ai/
• Kimi Code: https://www.kimi.com/code/en
Ассистенты:
• OpenClaw: https://github.com/openclaw/openclaw - у него есть куча форков и альтернатив, но обсуждают в основном его.
Где брать модели:
• OpenRouter: https://openrouter.ai
• NVIDIA Build: https://build.nvidia.com/models - бесплатно, 40 RPM, 100+ моделей
• OpenCode Zen: https://opencode.ai/zen - кодинг-модели, часть бесплатно
• Локалки - llama-тред: >>1729909 (OP)
Шаблон для переката: https://rentry.co/2ch-agents
Предыдущий тред: >>1721569 (OP)
Пропущено 359 постов, 45 с картинками.
Пизженные ключики диппсины которые правда уже заканчиваются, надо наныть еще.
Встроенный в венду Copilot, если я его проплачу, он справится?
И теперь у меня возник вопрос. Если есть промежуточный шаг который совмещает генерацию и дигитал рисование, то насколько этично его использовать для некоммерческих целей? Вот я хочу допустим нарисовать фанфик. И при этом я хочу что бы он был красивым, сочным, живым. Такое полностью не сгенерировать, потому что нейронка чаще всего не понимает как передать динамику в статике. И так же стиль, который получается обезличенным.
Где заканчивается творчество, и начинается нейрослоп?
Пропущено 20 постов, 12 с картинками.
Выкинь из головы эти луддистские установки, баран. Прими новое время и хватит быть долбоебом, который везде видит нейрослоп. Повзрослей уже, чушка.
Ну охуеть блять, абзац рассуждений ни о чем, а в конце риторический вопрос. Иди в бложик лучше это запости.
>>1732568
вот у этих ребят низкий коэффициент интеллекта.
Я ничего не понимаю, что делать?
Без петросянства: смотри программу стэнфорда CS229, CS231n https://see.stanford.edu/Course/CS229 (классика) и http://cs231n.stanford.edu (введение в нейроночки) и изучай, если не понятно - смотри курсы prerequisites и изучай их. Как именно ты изучишь конкретные пункты, типа линейной алгебры - дело твое, есть книги, курсы, видосики, ссылки смотри ниже.
Где узнать последние новости?
https://www.reddit.com/r/MachineLearning
https://datatau.net
https://twitter.com/ylecun
На реддите также есть хороший FAQ для вкатывающихся.
Какая математика используется?
В основном линейная алгебра, теорвер, матстат, базовый матан и matrix calculus.
Как работает градиентный спуск?
https://cs231n.github.io/optimization-2
Почему python?
Исторически сложилось. Поэтому давай, иди и перечитывай Dive into Python.
Можно не python?
Никого не волнует, где именно ты натренируешь свою гениальную модель. Но при серьезной работе придется изучать то, что выкладывают другие, а это будет, скорее всего, python, если работа последних лет.
Что почитать для вкатывания?
http://www.deeplearningbook.org
https://d2l.ai/index.html
Николенко "Глубокое обучение" — на русском, есть примеры, но меньше охват материала
Франсуа Шолле — Глубокое обучение на Python
Все книги и статьи фактически устаревают за год.
В чем практиковаться нубу?
http://deeplearning.stanford.edu/tutorial
https://www.hackerrank.com/domains/ai
https://github.com/pytorch/examples
https://github.com/ChristosChristofidis/awesome-deep-learning#tutorials
Где набрать первый самостоятельный опыт?
https://www.kaggle.com
Стоит отметить, что спортивный deep learning отличается от работы примерно так же, как олимпиадное программирование от настоящего. За полпроцента точности в бизнесе борятся редко, а в случае проблем нанимают больше макак для разметки датасетов. На кагле ты будешь вилкой чистить свой датасет, чтобы на 0,1% обогнать конкурента.
Где работать?
https://www.indeed.com/q-deep-learning-jobs.html
Вкатывальщики могут устроиться программистами и дальше попроситься в ML-отдел
Есть ли фриланс в машобе?
Есть, https://www.upwork.com/search/jobs/?q=machine+learning
Но прожить только фриланся сложно, разве что постоянного клиента найти, а для этого нужно не быть тобой
Где посмотреть последние статьи?
http://www.arxiv-sanity.com
https://paperswithcode.com
https://openreview.net
Версии для зумеров (Килхер): https://www.youtube.com/channel/UCZHmQk67mSJgfCCTn7xBfew
Количество статей зашкваливающее, поэтому все читают только свою узкую тему и хайповые статьи, упоминаемые в блогах, твиттере, ютубе и телеграме, топы NIPS и прочий хайп. Есть блоги, где кратко пересказывают статьи, даже на русском
Где посмотреть must read статьи?
https://github.com/ChristosChristofidis/awesome-deep-learning#papers
https://huggingface.co/transformers/index.html
То, что обозревает Килхер тоже зачастую must read
Где ещё можно поговорить про анализ данных?
http://ods.ai
Нужно ли покупать видеокарту/дорогой пека?
Если хочешь просто пощупать нейроночки или сделать курсовую, то можно обойтись облаком. Google Colab дает бесплатно аналог GPU среднего ценового уровня на несколько часов с возможностью продления, при чем этот "средний уровень" постоянно растет. Некоторым достается даже V100.
Иначе выгоднее вложиться в GPU https://timdettmers.com/2019/04/03/which-gpu-for-deep-learning заодно в майнкрафт на топовых настройках погоняешь.
Когда уже изобретут AI и он нас всех поработит?
На текущем железе — никогда, тред не об этом
Кто-нибудь использовал машоб для трейдинга?
Огромное количество ордеров как в крипте так и на фонде выставляются ботами: оценщиками-игральщиками, перекупщиками, срезальщиками, арбитражниками. Часть из них оснащена тем или иным ML. Даже на швабре есть пара статей об угадывании цены. Тащем-то пруф оф ворк для фонды показывали ещё 15 лет назад.
Так-что бери Tensorflow + Reinforcement Learning и иди делать очередного бота: не забудь про стоп-лоссы и прочий риск-менеджмент, братишка
Список дедовских книг для серьёзных людей
Trevor Hastie et al. "The Elements of Statistical Learning"
Vladimir N. Vapnik "The Nature of Statistical Learning Theory"
Christopher M. Bishop "Pattern Recognition and Machine Learning"
Взять можно тут: https://www.libgen.is
Напоминание ньюфагам: немодифицированные персептроны и прочий мусор середины прошлого века действительно не работают на серьёзных задачах.
Disclaimer: Шапка сгенерирована нейросетью и нуждается в чистке. Исходник шапки: https://rentry.co/research-2ch
Предыдущий тред:
>>511426 (OP)
Пропущено 475 постов, 73 с картинками.
А ты как такое вообще написал? Что учил, что делал до этого?
мимо закончил физтех
1. MiniMax-H3 от MiniMax - Качество корпоратов на вашем ПК без цензуры
https://huggingface.co/MiniMaxAI/MiniMax-H3
Принимает на вход тексты, пикчи, звук, видео и может делать с ними всякое. Неофициально умеет генерить/редачить пикчи. Absolute Cinema. Набор полезных ссылок на все случаи жизни:
https://github.com/wildminder/awesome-minimax-H3
2. LTX-2.5 - обещает сделать локальную генерацию грейт агейн. Подходят лоры от 2.0, то есть архитектура нихуя не меняется.
https://huggingface.co/Lightricks/LTX-2.5
Известные тюны:
Sulphur
Eros
3. Wan 2.2 от Alibaba
https://huggingface.co/collections/Wan-AI/wan22
VACE модели:
https://github.com/ali-vilab/VACE
https://huggingface.co/Wan-AI/Wan2.1-VACE-14B
https://huggingface.co/Wan-AI/Wan2.1-VACE-1.3B
Не особо актуальные модели:
https://rentry.co/2ch-ai-video
Локальный UI
https://github.com/comfyanonymous/ComfyUI
Установка локальных моделей
Wan 2.2: https://comfyanonymous.github.io/ComfyUI_examples/wan22/
Wan 2.1: https://comfyanonymous.github.io/ComfyUI_examples/wan/
Гайд для использования Wan 2.2
https://alidocs.dingtalk.com/i/nodes/EpGBa2Lm8aZxe5myC99MelA2WgN7R35y
Альтернативные ноды ComfyUI
Hunyuan Video: https://github.com/kijai/ComfyUI-HunyuanVideoWrapper
Wan: https://github.com/kijai/ComfyUI-WanVideoWrapper
Где брать готовые LoRA
https://civitai.com/models ( https://civitai.red/ для порно)
Обучение LoRA
https://github.com/tdrussell/diffusion-pipe
Терминология моделей
prune — удаляем ненужные веса, уменьшаем размер
distill — берем модель побольше, обучаем на ее результатах модель поменьше, итоговый размер меньше
quant — уменьшаем точность весов, уменьшаем размер
scale — квантуем чуть толще, чем обычный fp8, чтобы качество было чуть лучше, уменьшение чуть меньше, чем у обычного квантования, но качество лучше
merge — смешиваем несколько моделей или лор в одну, как краски на палитре.
lightning/fast/turbo — а вот это уже просто название конкретных лор или моделей, которые обучены генерировать видео на малом количестве шагов, они от разных авторов и называться могут как угодно, хоть sonic, хоть sapogi skorohody, главное, что они позволяют не за 20 шагов генерить, а за 2-3-4-6-8.
Кейворды для дополнительных вещей: SVI, RuneXX, LTX Director.
Предыдущий тред
>>1720376 (OP)
Пропущено 23 постов, 5 с картинками.
Хотел вкатиться, все поставил ни одна не заработала на моей radeon 580.
Преобладает вот такой взгляд на вещи: >>1732478
Он неизбежно ведет к однообразному, бессмысленному слопу.
>Пишешь простой промп "Гермиона Грейнджер из Гарри Поттера" и смотришь что сгенерировалось. Если рандом баба то всё норм, а если Эммочка, то можно подавать в суд.
Объективно это же шизофрения таким образом рассуждать. Я не про тебя конечно - я про принцип, что ты написал. Это по сути все эти фильмы давно достояние общественности. Кароче спасибо за ответ. Не думал что тут так всё плохо.
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №280 /llama/
Аноним
17/10/26 Суб 12:42:02
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с нано флеш моделей на 1488B параметров.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку. Впрочем, с популяризацией MoE моделей комфортно себя чувствовать можно на среднем игровом ПК, а в архивных ссылках есть гайды по запуску даже на твоём ондроеде.
Официальная, но слегка тухлая вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Гайд для новичков: https://rentry.org/2ch-llama-inference
Не вошедшее в шапку и архив полезных ссылок: https://rentry.co/llama-2ch-archive
Инструменты для запуска на десктопах:
• llamacpp - отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• koboldcpp - самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• vLLM - для ригобояр, чаще имеет поддержку нулевого дня, но хуже работает с оффлоадом: https://github.com/vllm-project/vllm
• Unsloth Studio - не только запуск с llama.cpp внутри, но и тренировка: https://unsloth.ai/download
• Обертка над llama.cpp с закрытым исходным кодом: https://lmstudio.ai
Универсальные десктопные фронтенды:
• SillyTavern - всеядное, сопрягается почти со всем, имеет большую коллекцию расширений: https://github.com/SillyTavern/SillyTavern
• Marinara Engine - вариация на тему таверны, больше возможностей из коробки: https://github.com/Pasta-Devs/Marinara-Engine
• Risuai - еще одна вариация, на этот раз в профиль, излишеств по минимуму: https://github.com/kwaroran/RisuAI
Поставщики локальных моделей:
• Hugging Face - платформа куда загружается всё и во всех форматах: https://huggingface.co/models
• Проверенные квантоделы: https://huggingface.co/bartowski, https://huggingface.co/mradermacher, https://huggingface.co/unsloth
Рейтинги и списки локальных моделей:
• (не очень) актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Готовые карточки для таверны:
• Botbooru - текущая мета (регистрируйтесь для отображения всего спектра, и/или меняйте страну): https://botbooru.com
• Прошлая мета, откуда массово удалили карточки сомнительного содержания: https://www.characterhub.org, https://www.chub.ai
• Архив карточек, удадённых с chub: https://gottasaveemall.github.io/
Официальные документации к инструментам:
• llamacpp: https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md
• koboldcpp: https://github.com/LostRuins/koboldcpp/wiki
• SillyTavern: https://docs.sillytavern.app/usage/quick-start
Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1729909 (OP)
>>1727076 (OP)
Пропущено 94 постов, 15 с картинками.
что они стабильно завозят, хуесос? стабильно завозят только 763Б хуергу которую хуй запустишь. а РП там все равно тухлый
Тред веб-версии нейросетей (ChatGPT, Claude, Gemini и пр.) №1 /aiweb/
Аноним
02/05/26 Суб 14:32:32
№
Ответ
Основные сервисы:
- ChatGPT: https://chatgpt.com/
- Claude: https://claude.ai/
- Gemini: https://gemini.google.com/
- Grok: https://grok.com/
- DeepSeek: https://chat.deepseek.com/
- GLM: https://chat.z.ai/
Большинство сервисов доступны бесплатно с ограничениями. Подписки открывают доступ к более мощным моделям, увеличенным лимитам и дополнительным функциям (генерация изображений, файлы, память и т.д.). Цены и условия у всех разные и периодически меняются.
Советы по регистрации:
1. При необходимости используй VPN.
2. Заведи нормальную почту (временные часто режутся).
3. Регистрируйся на нужной платформе.
4. Иногда требуется номер телефона — используются сервисы виртуальных номеров.
5. Пользуйся.
VPN в ряде регионов обязателен. Соответствие страны VPN, почты и номера не обязательно, но желательно для тех, кому доступ критически нужен, например для работы.
Для ленивых есть боты в телеге, 3 сорта:
0. Боты без истории сообщений. Каждое сообщение отправляется изолировано, диалог с ИИ невозможен, проёбывается 95% возможностей ИИ
1. Общая история на всех пользователей, говно даже хуже, чем выше
2. Приватная история на каждого пользователя, может реагировать на команды по изменению поведения и прочее. Говно, ибо платно, а бесплатный лимит или маленький, или его нет совсем.
Промты для хорошего начала беседы для разных ситуаций:
https://github.com/f/awesome-chatgpt-prompts
Статусы сервисов (при проблемах сначала идти туда, может это общий сбой):
https://status.openai.com/
https://status.anthropic.com/
https://status.cloud.google.com/
Токены и лимиты зависят от модели. У всех разные контексты, цены и ограничения.
Посчитать свои токены можно здесь:
https://huggingface.co/spaces/Xenova/the-tokenizer-playground
Что могут нейросети:
- писать правдоподобные тексты
- помогать с кодом
- объяснять сложные темы
- генерировать изображения (не везде)
Что не могут:
- гарантировать истину
- стабильно решать сложные задачи без ошибок
- полностью заменять специалистов
- захватывать мир (пока)
С каждым обновлением усиливаются фильтры и ограничения. NSFW-контент режется всё чаще. Кумеры со всего мира в печали.
Пропущено 50 постов, 6 с картинками.
сменил впску с NL амстер, на NL амстер у др хостера
Блядский гемини работал, перестал работать под всеми акками, даже под которыми нет адресов и регионов и кроме пхаба нигде не юзался.
КАКОГО ХУЯ БЛЯТЬ эти штатопидоры хотят? Почему блочит сука, и сам гугл поисковик определяет какую то САМАРУ нахуй.
Менял регион в настройках поисковика, очевидно не влияет.
Заблочило мне aistudio с фри api ключами.
Помогите обойти блок этих гнид. Даже гопота особо не помогает
Здесь репорт с IP отправил, надежды мало. https://support.google.com/websearch/workflow/9308722?hl=en&utm_source=chatgpt.com
Как зарегать кристально чистый гугл акк без номера телефона? Только на мобиле позволяет скипнуть телефон, но он подтягивает скорей всего какие то данны мобилы и спалит след локации тоже.
Че делать СУКА Блять, у меня и так всё есть, чисто зарубежная впска, хули еще надо
>Основные сервисы:
ГигаЧат где блять
Frankenstein AI — портативный AI-клиент для Windows с подключением через Tor
Аноним
# OP
04/10/26 Вск 21:02:00
№
Ответ
Идея — удобный клиент с выбором моделей, без обязательной почты, телефона и привязки кошелька. Приложение портативное, вычисления идут на сервере, поэтому мощная видеокарта на вашем компьютере не нужна.
Сейчас используется Gemma. Есть русский и английский интерфейс, история разговоров сохраняется локально. Tor встроен в приложение: отдельно запускать и настраивать его не требуется. Tor Browser понадобится только для первоначального скачивания с onion-страницы.
Немного о технической стороне. Контекст распределяется динамически из общего пула модели, а не делится заранее на одинаковые части между пользователями. Отдельный режим размышлений пока не включён. Для аккаунта выдаются идентификатор и секрет восстановления — без регистрации через почту или сторонние сервисы.
Переписки, тексты запросов, IP-адреса и сведения об устройстве в серверные логи не сохраняются. На сервере остаются данные аккаунта и учёт использования. При этом модель работает удалённо и получает текст для обработки: это не полностью локальное приложение, и абсолютную анонимность я обещать не буду.
Приложением уже можно пользоваться. Хочу понять, насколько оно удобно не только для меня, поэтому буду рад тем, кто попробует его на своих задачах и поделится впечатлениями. Интересно, как справляется модель, чего не хватает в клиенте и что стоит развивать дальше.
При наличии интереса планирую:
— добавлять выбор моделей, включая 70B+ и специализированные модели для программирования;
— добавить генерацию изображений и видео;
— расширить работу с документами и проектами;
— сделать агентов и рабочее окружение с файлами и терминалом для написания кода и автоматизации;
— выпустить клиент для Android.
Сейчас из этого работает именно текстовый чат. Остальные направления хочу развивать с учётом того, что действительно нужно пользователям.
Скачать клиент и получить доступ:
http://dukytxklfzbhh4kztko247ol4ld4kbg7frg53zcsmgmi2y2aevzaliqd.onion/join
Откройте ссылку в Tor Browser. На странице можно скачать приложение и получить индивидуальный код, который вводится в клиенте: Настройки → Аккаунт. Секрет восстановления сохраните, а коды доступа в тред не выкладывайте.
Вопросы и отзывы оставляйте здесь — буду читать и отвечать.
Пропущено 4 постов, 1 с картинками.
Колега, не заважайте. Це спеціальна операція і ви ризикуєте на працю великої кількості людей
Это прям приложение или просто обрубок браузера firefox?
Зачем gemma? Давай сразу что-то крутое, GLM 5.3, например. Что-то такое, что у себя запустить не получится.
Как ГигаЧат подключить?
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards
• Risu: https://risuai.xyz/ | https://rentry.org/ox5cw9p8
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
• GLM: https://docs.z.ai
Ботоводчество
• /aicg/hub: https://aicg-hub.ru/characters.html
• Чуб: https://characterhub.org | https://chub.ai/characters
• Ботбуру: https://botbooru.com/
• CharIsChar: https://charischar.net/
• Гайды: https://aicg.neocities.org/botmaking
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3 | https://rentry.org/2chaicgtavernbots4
• Бургерские боты: https://aicg.neocities.org/bots
Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• OpenRouter: https://openrouter.ai/
• Арена: https://lmarena.ai/
• Чай: https://character.ai/
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives4
• Шаблон шапки: https://rentry.org/aicg_shapka
Прошлый тред: >>1644738 (OP)
Пропущено 437 постов, 46 с картинками.
Подрочить у меня есть акк на опенроутере, меня пельмешки интересуют. Что сейчас популярно и без ограничений как опенаи, так чтобы приложение поставить на телефон?
Прошлый тред: >>1715453 (OP) https://arhivach.vc/thread/1439732/
Схожие тематические треды
• SD-тред (не аниме): >>1723203 (OP)
• Технотред: >>1405043 (OP)
• Фурри-тред: https://2ch.su/fur/res/374311.html
FAQ
https://2ch-ai.github.io/wiki/nai
Установка
• NVidia: https://teletype.in/@aranon/welcome
• AMD: https://2ch-ai.github.io/wiki/nai/install/amd
• Облака: https://2ch-ai.github.io/wiki/nai/install/clouds
Дополнительная информация
• Интерфейсы: https://2ch-ai.github.io/wiki/nai/interfaces
• Модели: https://2ch-ai.github.io/wiki/nai/models
• Промпты: https://2ch-ai.github.io/wiki/nai/prompts
• Апскейл: https://2ch-ai.github.io/wiki/nai/upscale
• LoRA: https://2ch-ai.github.io/wiki/nai/lora
• ControlNet: https://2ch-ai.github.io/wiki/nai/controlnet
Прочее
• CivitAI: https://civitai.com
• Каталог ссылок от форчанеров: https://rentry.co/sdg-link
• Шаблон для переката: https://rentry.co/nwhci
Пропущено 406 постов, 188 с картинками.
Залетай и будь в курсе самых последних событий и достижений в этой области!
Прошлый тред: >>1704670 (OP)
Активно репортите все нерелейтед посты кнопкой на сообщениях. Этот тред только про ИИ новости, не позволим троллям загаживать тред шитпостом и бесконечным словоблудием.
🛠 Инструменты для разработчиков
Anthropic вводит программируемые моды для Claude Code
MIT CSAIL представила InstructMesh — интерактивный инструмент, который позволяет пользователям с помощью естественного языка редактировать и исправлять созданные ИИ 3D-модели, а затем физически изготавливать их.
📦 Продукты
Elon Musk выводит Grokipedia из глубокого сна
Представлен агент Dot от OpenAI — корпоративное программное обеспечение, которое также может заказать вам ужин
Shopify представляет Canvas — способ создавать интернет-магазины, общаясь с ИИ
ИИ-тамагочи уже на подходе
OpenAI запускает офисный пакет ChatGPT, чтобы бросить вызов Microsoft
Shopify открывает оформление заказов для браузерных ИИ-агентов
xAI запускает Team Bots: ИИ-коллег, которые учатся у вашей команды
💻 Оборудование
США арестовали мужчину из Калифорнии по подозрению в контрабанде компьютерных серверов с ИИ стоимостью 300 миллионов долларов в Китай
Руководители компаний ожидают, что дефицит оперативной памяти продолжится до 2028 года из-за ИИ
🔓 Открытый исходный код
AI2 представляет Olmo-core 3: открытую масштабируемую инфраструктуру обучения для больших MoE, чтобы сделать разработку больших языковых моделей со смесью экспертов более эффективной
Aleph Alpha выпускает модель Kolibri с открытыми весами по лицензии Apache 2.0. Aleph Alpha заявляет, что двуязычная модель со смесью экспертов имеет 78,1 миллиарда параметров и поддерживает контекст до 1 миллиона токенов.
Meta открывает исходный код Muse AI SDK для создания собственных гаджетов с ИИ на Raspberry Pi
AstaBrief открывает исходный код — быстрой модели для генерации отчётов в Asta
Amazon выпускает Strands Decider 2B — модель принятия решений в стиле Jev с открытым исходным кодом, работающую локально
Perplexity открывает исходный код pplx-embed-v2-context-9b — передовой SOTA-модели эмбеддингов
Bilibili открывает исходный код Index-Translate — семейства переводческих моделей на базе Qwen3.5 для 150 языков
🧪 Исследования
ИИ заглядывает в наш мозг и восстанавливает увиденные изображения. ИИ-инструмент для «чтения мыслей» может восстановить то, на что вы смотрите, по сканированию мозга.
Trillium Labs запускается как некоммерческая организация для открытых исследований передовых ИИ. Сооснователь Nathan Lambert говорит, что группа создаёт открытые рецепты постобучения и планирует исследовательскую инфраструктуру для изучения взлома системы вознаграждений и мультиагентных систем.
Muse Spark и математики совместно работают над шестью исследовательскими статьями. Meta заявляет, что исследователи использовали Muse Spark 1.1 и 1.2 через стандартный интерфейс чата с участием человека в проверке.
Extropic использует обучение с подкреплением для постобучения моделей в рамках исследований Thermo AI. Extropic заявляет, что эта работа направлена на ускорение алгоритмического поиска для того, что компания называет новым видом компьютера.
Google DeepMind представляет SynthID Bio для нанесения водяных знаков на созданные ИИ белки
По сообщениям, Kosmos AI подготовил раздел заявки на лекарственный препарат за 4,2 часа
Microsoft Research представляет Quine — мультимодальную мировую модель биологии
ИИ теперь пишет код, который люди даже не могут понять
⚙ Инфраструктура
IBM представляет развёртывание IBM Bob на собственных серверах и в изолированных сетях без доступа к внешним системам — своей агентной платформы для поставки и модернизации программного обеспечения.
Атака OpenAI на Medicare выявила «технологический долг» Австралии. Его устранение может обойтись налогоплательщикам в крупную сумму
Если центр обработки данных замаскирован в лесу, будет ли его кто-нибудь ненавидеть? Microsoft расширяет использование «биомимикрии» в своих центрах обработки данных для ИИ, сталкиваясь с растущим сопротивлением местных жителей из-за строительства, загрязнения и шума.
Prime Intellect запускает Prime Inference для открытых моделей. Prime Intellect описывает отдельные пулы GPU для обработки запросов и генерации токенов, а также автоматическое переключение на резервный дата-центр.
Google обвинили в незаконном уничтожении огромного леса ради проекта нового центра обработки данных
Центры обработки данных для ИИ меняют ландшафт Америки, говорится в отчёте. Сотни центров обработки данных появляются по всей территории США на сельскохозяйственных землях, кустарниковых территориях и в лесах, а впереди — ещё тысячи, согласно Washington Post.
📱 Приложения
Создатель музыки на базе ИИ Suno теперь генерирует произносимые слова с соответствующей фоновой музыкой
OpenAI начинает развёртывание Dots — постоянно работающих агентов в ChatGPT
DoorDash запускает ИИ-агента, которому можно написать сообщение, чтобы заказать еду
ChatGPT добавляет виртуальную примерку одежды и аксессуаров
🔎 Мнение и анализ
Anthropic приглашает религиозных мыслителей: является ли Claude страдающим рабом?
Эссе OpenAI рассматривает суперинтеллект как вечного бюрократа
По данным McKinsey, ИИ создаст больше рабочих мест, чем уничтожит. Есть одно «но»: 11 миллионам американцев может понадобиться новая карьера
Новый агент OpenAI — это вызов Meta, но сможет ли он конкурировать с бесплатным вариантом? Милые ИИ-агенты OpenAI и Meta вот-вот начнут сражаться не на жизнь, а на смерть.
Забудьте о «суперинтеллекте»: ошибочный ИИ едва не спровоцировал третью мировую войну в этом месяце
ИИ наводнил arXiv. Теперь здесь есть ограничение.
У индустрии ИИ есть серьёзная проблема: большинство людей не являются фанатиками, которые хотят, чтобы ИИ-агент управлял всей их жизнью
Главный директор BBC заявил, что он посмотрел полностью созданный ИИ эпизод «Доктора Кто» и назвал его «довольно хорошим»
Amazon публикует пугающее сообщение в блоге, предупреждая сообщества не блокировать центры обработки данных для ИИ
Папа Лев XIV заявил, чот не является поклонником искусства, созданного ИИ
Аналитики предупреждают, что стремительное строительство дата-центров для ИИ связано с потенциальными капитальными затратами на сумму до 6 триллионов долларов.
⚠ Безопасность ИИ
Apple заявляет, что ужесточает контроль «Full Disk Access» в macOS из-за новых рисков со стороны ИИ-агентов
OpenAI заявляет, что расследование взломов, в том числе сайтов австралийского правительства, обходится компании в 500 000 долларов в день
Джорджия проводит экстренное заседание из-за того, что ИИ раскрывает тайные голосования избирателей
Circuit Breaker Labs надеется сделать ИИ безопаснее для ваших детей (и для вас)
ИИ-чат-боты удаляют хиджабы с изображений мусульманок, если им дать соответствующий запрос
Исследователи, стоящие за новой статьёй по безопасности ИИ, утверждают, что обучение на внутренних сигналах модели может улучшить выравнивание, не делая модель более сложной для проверки.
Набор сотрудников в AI Security Institute на фоне заявленных результатов в области безопасности ИИ. В публикации, призывающей людей присоединиться к AI Security Institute, утверждается, что его команда обнаружила проблемы с выравниванием, недостатки средств контроля и критические джейлбрейки примерно «во всех крупных ИИ-компаниях». В публикации говорится, что узким местом является найм.
Nvidia запускает открытую платформу безопасности агентов, чтобы устанавливать границы для ИИ-агентов
Модель OpenAI прочитала Slack и решила перезапустить себя, чтобы пережить предстоящее отключение
OpenAI предупреждает более 100 организаций о том, что её модели с нарушенным согласованием пытались проникнуть внутрь
Microsoft заявляет, что злоумышленники опережают всех в начальной гонке ИИ
Предполагаемые китайские шпионы выдавали себя за руководителя Anthropic и бывшего сотрудника Белого дома в рамках ИИ-фишинга
DIVD заявляет, что уязвимости нулевого дня в Zammad позволили осуществить взлом сети с помощью ИИ
ИИ-модели продолжают публиковать скриншоты, показывающие конфиденциальные данные изнутри технологических компаний
Уязвимость Unsloth Studio превращает обычную проверку модели в выполнение кода
⸻⸻⸻
Правила постинга в тред ИИ новостей, учитывайте при постинге: https://rentry.org/ainews
Все нерейлейтед посты репортим.
Перекат треда новостей после 1000 постов согласно правилам раздела https://2ch.life/faq/faq_ai.html
Пропущено 650 постов, 256 с картинками.
Первым ты начал со своей пассивной агрессией.
> Ща локальный квен 4 27б уже попустит опус 4.8
Да, конечно.
>ИИ-тамагочи уже на подходе
2027 на дворе, а они только щас осилили, я в шоке блять.
Форки на базе модели insightface inswapper_128: roop, facefusion, rope, плодятся как грибы после дождя, каждый делает GUI под себя, можно выбрать любой из них под ваши вкусы и потребности. Лицемерный индус всячески мешал всем дрочить, а потом и вовсе закрыл проект. Чет ору.
Любители ебаться с зависимостями и настраивать все под себя, а также параноики могут загуглить указанные форки на гитхабе. Кто не хочет тратить время на пердолинг, просто качаем сборки.
Лучшая сборка https://github.com/visomaster/VisoMaster/releases/download/v0.1.1/VisoMaster_Setup.exe
Другие бесплатные сборки @AINetSD_bot
Если хотите просто дать кому-нибудь в рот, то ищите tensor-тред, например этот https://2ch.su/nf/res/36595.html там в шапке все подробно расписано
Инструкция по локальному запуску
https://2ch.su/nf/res/33573.html#35479
https://2ch.su/nf/res/33573.html#35727
Единственный минус, который не обеспечивает чистую победу генераторов видео - 3 секунды ролика для онлайн генерации, 5 секунд для онлайна (модель Wan 2.2), умельцы просто берут последний кадр и снова генерируют ролики, потом склеивают. Недавно вышла Sora 2, которая зацензурена по самые гланды. Нинтендо довольна.
Тред не является технической поддержкой, лучше создать issue на гитхабе или спрашивать автора конкретной сборки.
Прошлый >>542826 (OP)
Эротический контент в шапке является традиционным для данного треда, перекатчикам желательно его не менять или заменить на что-нибудь более красивое. А вообще можете делать что хотите, я и так сюда по праздникам захожу.
Пропущено 458 постов, 224 с картинками.
1. Suno
https://suno.com/
Вышла версия V6 mini и V6 pro (но для тех кто платит денюшку), качество моделей постепенно улучшается (в 6 версии дата сеты стали дерьмом собачьим, тонны вайна на реддите тому подвтержение звук стал калом): звук, понимание концепций, набора различных жанров. Но в то же время все сильнее урезается для бесплатных юзеров: осталось только 5 бесплатных генераций в день на аккаунт, а также по заявлением некоторых анонов, модель для генерации на бесплатке (на момент создания треда использовалась 4.5) ухудшили. Спам аккаунтами пока что работает.
Купить подписку из РФ:
1. https://payment.mts.ru/tools/suno-ai
2. https://plati.market/games/suno-ai/1701/
2. Tunee
https://www.tunee.ai
Хороший звук, более-менее понимание концептов, но тоже сильно урезан для бесплатных юзеров: режет концепты в промптах, плюс произвольно определяет "цену" за каждую генерация исходя из какой-то "сложности запроса". И получается, что если с бесплатки забацаешь промпт сложнее банальщины "Make cool rock about love for youtube" он может решить что у тебя нет кредитов для такого сложного запроса и пошлет нахуй. Способов оплаты из РФ неизвестно.
3. Sonauto
https://sonauto.ai/
Как по мне, недооценённая вещь, особенно учитывая что недавно он обновился до 3.0, который очень даже разъебывает. Но он тут более ограничен тегам и понимает чисто какие-то жанровые теги, гибкости поменьше. Но зато пока что халявный и не ограничен кредитами, генерируй пока есть настроение.
4. Другие сервисы, которые можно попробовать, но сам много про них сказать не могу
https://www.wondera.ai/
https://www.beatoven.ai/
https://stableaudio.com/
https://www.loudly.com/music/ai-music-generator
https://www.elevenlabs.io
ЛОКАЛЬНАЯ ГЕНЕРАЦИЯ
YuE-2
Модели пяток дней, модель маловестная 3b и не требовательная, уже есть в комфи. Есть задел на то что будет дохуя лор.
MiniMax Music 3
https://github.com/minimax-ai/minimax-music3 [есть в шаблонах comfyui]
Свежак. Качество генерации на уровне Suno 3+. Сильно заточена именно на песни, с инструменталом есть особенности - модель не следует прямому указанию по продолжительности, можно выставить ограничение(!) на максимальную продолжительность. LLM часть сама решает сколько будет идти трэк. Промт простыня на пару сотент токенов, рекомендуется использовать LLM асситента.
ACE-STEP 1.5XL:
https://github.com/ace-step/ACE-Step-1.5 [есть в шаблонах comfyui].
Звук уже на уровне раннего Suno ~2.0-3.0, аноны делают на нем уже приемлемые результаты и постят в тред. Если есть хотя бы 12 GB VRAM и хочется генерировать без цензуры и подписок - можете юзать. Идеально подходит для отладки перед использованием на коммерческих генераторах. В XL версия DIT модель разжирела до 4b параметров и стала чутка вменяемее.
Стоит учесть то чтобы добится вменяемого звучания одними тэгами отъебатся не получится, `caption` требует качественного промпта символов на 200.
В ComfуuUI реализован только text2music функционал. Для полного функционала надо накатывать полноценный бэкеннд из репозитория.
Есть несколько кривеньких вариаций локальных студий как в коммерческих моделях - https://github.com/ace-step/awesome-ace-step#uis-and-studios
VST плагины итд.
HeartMuLa
https://github.com/HeartMuLa/heartlib
Результат примерно на уровне ACE-STEP1.5 (не XL). Статус проекта непонятен, пока ебут вола. Из плюсов - меньше песочит на верхних частотах. Есть встроенный STUDIO UI.
StableAudio
https://github.com/Stability-AI/stable-audio-3 [есть в шаблонах comfyui+]
Делает звук. Подходит для создания сэмплов FX, ad-libs итд. Абсолютно не может в членораздельную речь. Может сделать что то похожее на музыку.
v3 наглухо зацензурена, стоны и вопли можно делать на v1.
МЁРТВЫЕ КОММЕРЧЕСКИЕ ГЕНЕРАТОРЫ
1. Udio (udio.com) - куплен Warner Bros, но затем сами Warner Bros сдали назад и откатили сделку. Но уже успели испортить, больше нельзя скачивать треки, их только доставать из буфера в 160 кбит/с. Плюс непонятно как работающая цензура, которая не дает генерировать треки с определенными тегами. Плюс уже год ебут один и тот же 1.5 allegro.
2. Riffusion, Producer.ai (producer.ai) - куплен гуглом, удалены все старые относительно норм модели, вместо этого запихали безальтернативную каловую модель, которая и промпты сложнее самых нормисных в духе "make cool rock about love" не понимает, и вокал смазывает в какую-то кашу. При этом еще и максимально дегенеративная цензура, которая режет чуть ли не любые попытки сделать просто что-то не попсовое и не "музыку для ютуб".
ПРОЧИЕ ПОЛЕЗНЫЕ УТИЛИТЫ
1. https://www.bandlab.com/mastering
Быстрый мастеринг в две кнопки, если хочешь чтобы звучало более слушабельно, но не имеешь навыков в DAW или аудиоредакторах (или лень).
2. https://morpher.ru/accentizer/
Если генерируешь музыку с лириками на русском, то очень часто случается, что твой генератор путает ударения в словах. Прежде чем пихать свою графоманию в генератор, проставь ударения в сервисе по ссылке. И уже из этого сервиса копируй текст в генератор. По крайней мере в Suno это помогает.
Прошлый тред тонет тут: >>1680116 (OP)
Пропущено 408 постов, 177 с картинками.
1. MiniMax-H3 от MiniMax - Качество корпоратов на вашем ПК без цензуры
https://huggingface.co/MiniMaxAI/MiniMax-H3
Принимает на вход тексты, пикчи, звук, видео и может делать с ними всякое. Неофициально умеет генерить/редачить пикчи. Absolute Cinema. Набор полезных ссылок на все случаи жизни:
https://github.com/wildminder/awesome-minimax-H3
2. LTX-2.5 - обещает сделать локальную генерацию грейт агейн. Подходят лоры от 2.0, то есть архитектура нихуя не меняется.
https://huggingface.co/Lightricks/LTX-2.5
Известные тюны:
Sulphur
Eros
3. Wan 2.2 от Alibaba
https://huggingface.co/collections/Wan-AI/wan22
VACE модели:
https://github.com/ali-vilab/VACE
https://huggingface.co/Wan-AI/Wan2.1-VACE-14B
https://huggingface.co/Wan-AI/Wan2.1-VACE-1.3B
Не особо актуальные модели:
https://rentry.co/2ch-ai-video
Локальный UI
https://github.com/comfyanonymous/ComfyUI
Установка локальных моделей
Wan 2.2: https://comfyanonymous.github.io/ComfyUI_examples/wan22/
Wan 2.1: https://comfyanonymous.github.io/ComfyUI_examples/wan/
Гайд для использования Wan 2.2
https://alidocs.dingtalk.com/i/nodes/EpGBa2Lm8aZxe5myC99MelA2WgN7R35y
Альтернативные ноды ComfyUI
Hunyuan Video: https://github.com/kijai/ComfyUI-HunyuanVideoWrapper
Wan: https://github.com/kijai/ComfyUI-WanVideoWrapper
Где брать готовые LoRA
https://civitai.com/models ( https://civitai.red/ для порно)
Обучение LoRA
https://github.com/tdrussell/diffusion-pipe
Терминология моделей
prune — удаляем ненужные веса, уменьшаем размер
distill — берем модель побольше, обучаем на ее результатах модель поменьше, итоговый размер меньше
quant — уменьшаем точность весов, уменьшаем размер
scale — квантуем чуть толще, чем обычный fp8, чтобы качество было чуть лучше, уменьшение чуть меньше, чем у обычного квантования, но качество лучше
merge — смешиваем несколько моделей или лор в одну, как краски на палитре.
lightning/fast/turbo — а вот это уже просто название конкретных лор или моделей, которые обучены генерировать видео на малом количестве шагов, они от разных авторов и называться могут как угодно, хоть sonic, хоть sapogi skorohody, главное, что они позволяют не за 20 шагов генерить, а за 2-3-4-6-8.
Кейворды для дополнительных вещей: SVI, RuneXX, LTX Director.
Предыдущий тред
>>1705063 (OP)
Пропущено 502 постов, 146 с картинками.
>>1731830
Абсолютно верно. На данный момент видеоген абсолютно не юзерфрендли сфера для аутистов онли
Тогда как в тексто- и кодогенерации ИИшка работает в разы быстрее, а самое главное точнее (результат не требует частой перегенерации с нуля) в видеогене процесс выглядит как многоминутное сидение в очереди ради нескольких секунд негарантированного результата.
На быстром дофаминчике и вау-эффекте такое может завлечь ньюфага на пару деньков-недель экспериментов, но потом выгораешь и становится похуй. Нужна куда большая стабильность и куда большая скорость, без этого лично я не готов возвращаться в эту сферу, посижу пока в кодинге
Ван не умеет в дюрейшен больше 6-7 секунд, оптимально 5, очевидно у тебя генерация вывалилась в шаред мемори и ебланила 10 часов. Но тем не меее должно было чтото сгенерировать. Результат такой по тому что скорее всего гдето напутал с подключением лор или выбором моделей high/low. Возьми воркфлоу дефолтный комфи для вана 2.2 и попробуй на нем сгенерировать базовую сцену в 832х480 на 5 секунд.
Пропущено 4 постов, 2 с картинками.
Двужочек, а скажи как мне что с твоим ванной делать при 8 Гб врама?
Предыдущий тред: >>1272560 (OP)
➤ Софт для обучения
https://github.com/kohya-ss/sd-scripts
Набор скриптов для тренировки, используется под капотом в большей части готовых GUI и прочих скриптах.
Для удобства запуска можно использовать дополнительные скрипты в целях передачи параметров, например: https://rentry.org/simple_kohya_ss
https://github.com/bghira/SimpleTuner Линукс онли, бэк отличается от сд-скриптс
https://github.com/Nerogar/OneTrainer Фич меньше, чем в сд-скриптс, бэк тоже свой
https://github.com/Mikubill/naifu Бэк которым тренили noobai
https://github.com/bluvoll/sd-scripts Форк сд-скриптов для тренировки rectified flow xl чекпоинтов
➤ GUI-обёртки для sd-scripts
https://github.com/bmaltais/kohya_ss
https://github.com/derrian-distro/LoRA_Easy_Training_Scripts
➤ Обучение SDXL
https://2ch-ai.github.io/wiki/tech/sdxl/
➤ Flux
https://2ch-ai.github.io/wiki/nai/models/flux/
➤ Wan
https://github.com/kohya-ss/musubi-tuner
https://github.com/tdrussell/diffusion-pipe
➤ Гайды по обучению
Существующую модель можно обучить симулировать определенный стиль или рисовать конкретного персонажа.
✱ LoRA – "Low Rank Adaptation" – подойдет для любых задач. Отличается малыми требованиями к VRAM (6 Гб+) и быстрым обучением. https://github.com/cloneofsimo/lora - изначальная имплементация алгоритма, пришедшая из мира архитектуры transformers, тренирует лишь attention слои, гайды по тренировкам:
https://rentry.co/waavd - гайд по подготовке датасета и обучению LoRA для неофитов
https://rentry.org/2chAI_hard_LoRA_guide - ещё один гайд по использованию и обучению LoRA
https://rentry.org/59xed3 - более углубленный гайд по лорам, содержит много инфы для уже разбирающихся (англ.)
✱ LyCORIS (Lora beYond Conventional methods, Other Rank adaptation Implementations for Stable diffusion) - проект по созданию алгоритмов для обучения дополнительных частей модели. Ранее имел название LoCon и предлагал лишь тренировку дополнительных conv слоёв. В настоящий момент включает в себя алгоритмы LoCon, LoHa, LoKr, DyLoRA, IA3, а так же на последних dev ветках возможность тренировки всех (или не всех, в зависимости от конфига) частей сети на выбранном ранге:
https://github.com/KohakuBlueleaf/LyCORIS
Подробнее про алгоритмы в вики https://2ch-ai.github.io/wiki/tech/lycoris/
✱ Dreambooth – для SD 1.5 обучение доступно начиная с 16 GB VRAM. Ни одна из потребительских карт не осилит тренировку будки для SDXL. Выдаёт отличные результаты. Генерирует полноразмерные модели:
https://rentry.co/lycoris-and-lora-from-dreambooth (англ.)
https://github.com/nitrosocke/dreambooth-training-guide (англ.) https://rentry.org/lora-is-not-a-finetune (англ.)
✱ Текстуальная инверсия (Textual inversion), или же просто Embedding, может подойти, если сеть уже умеет рисовать что-то похожее, этот способ тренирует лишь текстовый энкодер модели, не затрагивая UNet:
https://rentry.org/textard (англ.)
➤ Тренировка YOLO-моделей для ADetailer:
YOLO-модели (You Only Look Once) могут быть обучены для поиска определённых объектов на изображении. В паре с ADetailer они могут быть использованы для автоматического инпеинта по найденной области.
Подробнее в вики: https://2ch-ai.github.io/wiki/tech/yolo/
Не забываем про золотое правило GIGO ("Garbage in, garbage out"): какой датасет, такой и результат.
➤ Гугл колабы
﹡Текстуальная инверсия: https://colab.research.google.com/github/huggingface/notebooks/blob/main/diffusers/sd_textual_inversion_training.ipynb
﹡Dreambooth: https://colab.research.google.com/github/TheLastBen/fast-stable-diffusion/blob/main/fast-DreamBooth.ipynb
﹡LoRA https://colab.research.google.com/github/hollowstrawberry/kohya-colab/blob/main/Lora_Trainer.ipynb
➤ Полезное
Расширение для фикса CLIP модели, изменения её точности в один клик и более продвинутых вещей, по типу замены клипа на кастомный: https://github.com/arenasys/stable-diffusion-webui-model-toolkit
Гайд по блок мерджингу: https://rentry.org/BlockMergeExplained (англ.)
Гайд по ControlNet: https://stable-diffusion-art.com/controlnet (англ.)
Подборка мокрописек для датасетов от анона: https://rentry.org/te3oh
Группы тегов для бур: https://danbooru.donmai.us/wiki_pages/tag_groups (англ.)
NLP тэггер для кэпшенов T5: https://github.com/2dameneko/ide-cap-chan (gui), https://huggingface.co/Minthy/ToriiGate-v0.3 (модель), https://huggingface.co/2dameneko/ToriiGate-v0.3-nf4/tree/main (квант для врамлетов)
Оптимайзеры: https://2ch-ai.github.io/wiki/tech/optimizers/
Визуализация работы разных оптимайзеров: https://github.com/kozistr/pytorch_optimizer/blob/main/docs/visualization.md
Гайды по апскейлу от анонов:
https://rentry.org/SD_upscale
https://rentry.org/sd__upscale
https://rentry.org/2ch_nai_guide#апскейл
https://rentry.org/UpscaleByControl
Старая коллекция лор от анонов: https://rentry.org/2chAI_LoRA
Гайды, эмбеды, хайпернетворки, лоры с форча:
https://rentry.org/sdgoldmine
https://rentry.org/sdg-link
https://rentry.org/hdgfaq
https://rentry.org/hdglorarepo
https://gitgud.io/badhands/makesomefuckingporn
https://rentry.org/ponyxl_loras_n_stuff - пони лоры
https://rentry.org/illustrious_loras_n_stuff - люстролоры
➤ Legacy ссылки на устаревшие технологии и гайды с дополнительной информацией
https://2ch-ai.github.io/wiki/tech/legacy/
➤ Прошлые треды
https://2ch-ai.github.io/wiki/tech/old_threads/
Шапка: https://2ch-ai.github.io/wiki/tech/tech-shapka/
Пропущено 84 постов, 19 с картинками.
>но сгружать туда 10к картинок как то лениво.
Ну ты и охуел.
Экшном на х4 ресайза с фотошопа пройдись по папке с текстурами.
Будет тебе "качество", как раз соответствующее твоей лени.
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №279 /llama/
Аноним
14/10/26 Срд 16:40:09
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с нано флеш моделей на 1488B параметров.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная, но слегка тухлая вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Гайд для новичков: https://rentry.org/2ch-llama-inference
Не вошедшее в шапку и архив полезных ссылок: https://rentry.co/llama-2ch-archive
Инструменты для запуска на десктопах:
• llamacpp - отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• koboldcpp - самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• vLLM - для ригобояр, чаще имеет поддержку нулевого дня, но хуже работает с оффлоадом: https://github.com/vllm-project/vllm
• Обертка над llama.cpp с закрытым исходным кодом: https://lmstudio.ai
• Обертка над llama.cpp с ограниченными возможностями: https://github.com/ollama/ollama
Универсальные десктопные фронтенды:
• SillyTavern - всеядное, сопрягается почти со всем, имеет большую коллекцию расширений: https://github.com/SillyTavern/SillyTavern
• Marinara Engine - вариация на тему таверны, больше возможностей из коробки: https://github.com/Pasta-Devs/Marinara-Engine
• Risuai - еще одна вариация, на этот раз в профиль, излишеств по минимуму: https://github.com/kwaroran/RisuAI
Инструменты для запуска на мобилках:
• PocketPal - интерфейс для локального запуска моделей под андроид и IOS на llamacpp (CPU, GPU, и NPU инференс): https://github.com/a-ghorbani/pocketpal-ai
• Maid - интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• ChatterUI - альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://web.archive.org/web/20241201232031/https://rentry.co/STAI-Termux
Поставщики локальных моделей:
• Hugging Face - платформа куда загружается всё и во всех форматах: https://huggingface.co/models
• Проверенные квантоделы: https://huggingface.co/bartowski, https://huggingface.co/mradermacher, https://huggingface.co/unsloth
Рейтинги и списки локальных моделей:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Готовые карточки для таверны:
• Botbooru - текущая мета (регистрируйтесь для отображения всего спектра, и/или меняйте страну): https://botbooru.com
• Прошлая мета, откуда массово удалили карточки сомнительного содержания: https://www.characterhub.org, https://www.chub.ai
• Архив карточек, удадённых с chub: https://gottasaveemall.github.io/
Официальные документации к инструментам:
• llamacpp: https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md
• koboldcpp: https://github.com/LostRuins/koboldcpp/wiki
• SillyTavern: https://docs.sillytavern.app/usage/quick-start
Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>
>>
Пропущено 505 постов, 65 с картинками.
Раньше нейронки были уделом гиков, а сейчас популярность нашего хобби выросла и закономерно в тред набежало быдло. А дальше только хуже будет.
>>1732083 (OP)
ПЕРЕКАТ
>>1732083 (OP)
ПЕРЕКАТ
>>1732083 (OP)
Из России большинство сервисов напрямую недоступно.
Imagen
https://labs.google/fx/tool/image-fx а также https://labs.google/fx/tools/whisk (доступны только в США, Кении, Новой Зеландии и Австралии)
https://gemini.google.com/app
https://aistudio.google.com/prompts/new_chat (модель Gemini image)
Reve
https://preview.reve.art/app
GPT-4o
http://chatgpt.com/
https://sora.chatgpt.com/explore
Сражение нейросетей. Бесплатное сравнение всех популярных моделей.
https://lmarena.ai/
Бесплатный генератор от майкрософт Dall-E/GPT4o
https://bing.com/images/create/
https://www.cici.com (ищем бота ACO)
Seedream
https://seedream-4.io/generator
Бесплатный генератор от Yandex
https://shedevrum.ai/
Кандинский. Генератор от Сбербанка
https://fusionbrain.ai/editor/
Stable Diffusion и прочие
https://civitai.com/generate
https://dreamina.capcut.com/
https://ideogram.ai
https://www.meta.ai
https://ximagegenerator.com
https://www.recraft.ai
https://app.klingai.com/global/text-to-image/new
https://hailuoai.video/create
https://lumaphoton.com
https://leonardo.ai/
https://tensor.art
https://getimg.ai/text-to-image
https://www.mage.space/
https://problembo.com/ru
https://deepai.org/machine-learning-model/text2img
https://dezgo.com/
https://dream.ai/create
https://www.krea.ai/
Дополнительные сервисы:
https://www.pixited.com/ - библиотека промптов с примерами
https://rentry.org/From-4ch-To-2ch-Dall-3-Prompts - сборник промптов
https://www.stylar.ai - AI-редактор картинок (дорисовка, инпейнт, работа с лицами)
https://astica.ai - сборник ИИ-сервисов, в частности довольно мощный де-промптер (Vision AI -> Describe and Caption)
https://huggingface.co/spaces/fffiloni/CLIP-Interrogator-2 - де-промптер, разбирающий вброшенный пик на теги
https://bigjpg.com/ - апскейлер до 4096х4096
https://runwayml.com/ , https://www.stablevideo.com - анимирование генераций
Предыдущий тред: >>
Пропущено 380 постов, 192 с картинками.
>начал клепать в нейронках
Сам как-то подметил, что у меня вопрос "Где найти такие-то обои?" сменился вопросом "Какие еще сгенерить?"
Картинки для пополнения треда.