ЧТО НОВОГО АКТУАЛЬНОГО
• Z-Image-Base
• FLUX.2 klein (4b и 9b)
• Z-Image-Turbo
• Flux 2
• Qwen Image / Qwen Image Edit
• Wan 2.2 (подходит для генерации картинок).
• NAG (негативный промпт на моделях с 1 CFG)
• Лора Lightning для Qwen, Wan ускоряет в 4 раза. Nunchaku ускоряет модели в 2-4 раза. DMD2 для SDXL ускоряет в 2 раза.
База:
→ Приложение ComfyUI https://www.comfy.org/download
→ Примеры https://comfyanonymous.github.io/ComfyUI_examples/
https://comfyui-wiki.com/ (откуда, куда, как)
→ Менеджер расширений https://github.com/Comfy-Org/ComfyUI-Manager (автоустановка, реестр расширений)
→ Модели https://civitai.com/
► Предыдущий тред >>1556250 (OP) ► https://arhivach.hk/?tags=13840
Дополнительно: https://telegra.ph/Stable-Diffusion-tred-X-01-03
Пропущено 631 постов, 249 с картинками.
>в отдалении
Face detailer inpaint с SAM 2/3.
Или на картинке руками, с узлами Crop & Stitch, отдельными масками кривые лица выдели и пройди по ним edit-моделью.
Для поз смотри всякие pose reference для художников или просто картинку/openpose в edit-модель закидывай.
.
>>1585191 (OP)
>>1585191 (OP)
>>1585191 (OP)
ПЕРЕКАТ
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №216 /llama/
Аноним
08/04/26 Срд 01:10:50
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Инструменты для запуска на десктопах:
• Отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• Самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui
• Заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai
• Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern
• Альтернативный фронт: https://github.com/kwaroran/RisuAI
Инструменты для запуска на мобилках:
• Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux
Модели и всё что их касается:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Неактуальные списки моделей в архивных целях: 2025: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ), 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Дополнительные ссылки:
• Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: http://web.archive.org/web/20250222044730/https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki
• Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
• Инфа по запуску на MI50: https://github.com/mixa3607/ML-gfx906
• Тесты tensor_parallel: https://rentry.org/8cruvnyw
Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1576799 (OP)
>>1575307 (OP)
Пропущено 509 постов, 74 с картинками.
>>1580522 (OP)
ПЕРЕКАТ
>>1580522 (OP)
ПЕРЕКАТ
>>1580522 (OP)
>>1580517
В днс 1.1млн. Хммм. Если взять какой нибудь проц на 16 ядер, модно будет улодиться в 1.4млн.
Хммм...
1. Лол, каждый раз заново будет грузить?
2. Не понял где и какой уровень костылинга. Через custom parameter не отключило. Вручную писать это то же, что и хуярить /no_think и менять жинжу для этого, таким калом можно и в других ui заняться. Почему unsloth смогли (и это единственная фича в принципе), а у остальных то ли есть, то ли нет, никто прямо не может сказать, пишут про какой-то пердолинг даже без скринов.
Нагреб фоток прекольной тьолки с фейсбуха. Натренировал Лору на Civitai. Генерю. в результате получ
Аноним
15/02/26 Вск 20:07:17
№
Ответ
Натренировал Лору на Civitai.
Генерю.
в результате получаю кучи каких то падонковских ЗОГ рож
с рассово еврейским шнобелем.
что не так? или оригинальная тьолка именно так и выглядит? а я не вижу?
Пропущено 9 постов, 5 с картинками.
окей.
делаю одну прекольную армянку.
раз уж оно упирается в шнобели.
Петухи даже не понимают, этот "убойный" как им кажется, "контраргумент", на корню разрушает саму концепцию программирования на естественном языке. Потому что если для получения нормальной программы, нужна специальная волшебная фраза - это НЕ "программирование на естественном языке". Это скорее ближе к еще одной программной оболочке, такой как Power Shell. Ну, или язык программирования (лол). Только если в традиционных программных оболочках есть система команд, подчиняющаяся определенной логике, которую достаточно выучить - и можно потом строить синтаксические конструкции, какие захочешь. То в случае с LLM, мы имеем дело с натуральным шаманством: это предложение работает потому что гладиолус великий Мумбо-Юмбо оно работает.
Ну и конечно же, еще у нейросектантов есть вопрос "Какую модель использовал?". Это тоже лол: неправильный ИИ.
Залетай и будь в курсе самых последних событий и достижений в этой области!
Прошлый тред: >>1563956 (OP)
🚀 Последний обзор ИИ новостей:
🛠️ Инструменты разработчика
ИИ может нажимать за вас кнопки на Stream Deck
⚙️ Инфраструктура
Программирование тайлов CUDA теперь доступно для BASIC!
Массовое потребление природного газа компанией Meta может обеспечить электроэнергией Южную Дакоту
📱 Приложения
Последнее обновление Google Home делает Gemini лучше в понимании ваших команд
💰 Финансирование
Первый квартал 2026 года побил рекорды венчурного финансирования, поскольку бум ИИ подтолкнул инвестиции в стартапы почти к $300 млрд
Эксклюзив: Anvil Robotics привлекла $5,5 млн для создания платформы «Лего для роботов» для команд, работающих над физическим ИИ
💻 Оборудование
Cognichip хочет, чтобы ИИ проектировал чипы, которые питают ИИ, и только что привлек $60 млн для попытки
🔓 Открытый исходный код
Mercor заявляет, что подвергся кибератаке, связанной с компрометацией проекта LiteLLM с открытым исходным кодом
🏭 Компании
Anthropic удалила тысячи репозиториев GitHub, пытаясь изъять свой утечек исходный код — ход, который компания называет случайным
Репутация проблемного стартапа YC Delve стала ещё хуже
🔎 Мнение и анализ
Аниш Раман: ИИ не будет определять будущее работы — если только вы ему не позволите
Инвесторы продолжают недооценивать ИИ. Вот следующие горячие возможности, говорит пятизвёздочный управляющий — MarketWatch
🌐 События
OpenAI привлекла $122 млрд для ускорения следующего этапа развития ИИ
Крупнейший в мире производитель гуманоидных роботов выходит на биржу.
Claude написал полноценный эксплойт удалённого ядра FreeBSD с root-оболочкой (CVE-2026-4747) — первое удалённое выполнение кода на уровне ядра, как обнаруженное, так и использованное ИИ, примерно за 4 часа рабочего времени
Ученики в Англии теряют навыки мышления из-за ИИ, показывает опрос
Запутывание кода — это не безопасность: ИИ может деобфусцировать любой минифицированный код JavaScript
На Perplexity AI подали в суд из-за предполагаемого обмена данными с Meta и Google
Пользователи Claude Code сталкиваются с ограничениями использования «намного быстрее, чем ожидалось»
Meta выпускает TRIBE v2: фундаментальную модель, обученную на более чем 500 часах данных фМРТ, для предсказания реакции человеческого мозга на любые зрительные или звуковые стимулы
Microsoft открыла исходный код Harrier-OSS-v1: семейства многоязычных моделей эмбеддингов, достигших состояния искусства в Multilingual MTEB v2
Ollama теперь работает быстрее всего на Apple Silicon благодаря MLX — декодирование на 93% быстрее, ускорение агентов для программирования, таких как Claude Code и OpenClaw
Сын занимался самоудовлетворением в Gemini Live с ИИ. Аккаунты всей семьи в Google заблокированы, включая весь бизнес за 15 лет.
Google готовит 3D-аватары для Gemini и инструменты Remy для обучения
Жёсткая политика Apple в отношении приложений с ИИ ставит её на неправильную сторону истории
Granite 4.0 3B Vision: компактный мультимодальный интеллект для корпоративных документов
The New York Times отказался от услуг внештатного журналиста, который использовал ИИ для написания рецензии на книгу
Эксперты по безопасности обнаружили критическую уязвимость в Codex от OpenAI, которая может скомпрометировать целые корпоративные организации
Губернатор Калифорнии Гэвин Ньюсом подписал беспрецедентный исполнительный указ, требующий от компаний, работающих с ИИ и заключающих контракты со штатом, соблюдения мер безопасности и защиты конфиденциальности
15% американцев говорят, что были бы готовы работать под руководством ИИ-начальника, согласно новому опросу
PrismML выпустила 1-битную модель Bonsai 8B, назвав её первой коммерчески жизнеспособной однобитной моделью, требующей всего 1,15 ГБ памяти и соответствующей полноточным моделям 8B на бенчмарках, обеспечивая более чем в 10 раз большую плотность интеллекта для робототехники и периферийных вычислений.
Исследователи Meta продвинули сжатие ещё дальше с помощью TinyLoRA, обучив Qwen2.5 8B до 91% точности на GSM8K всего с 13 параметрами в формате bf16, что составляет 26 байт в сумме — важный шаг к оптимально компактной модели для рассуждений.
Google представила Veo 3.1 Lite, свою самую экономически эффективную видеомодель, стоимостью менее половины от стоимости Veo 3.1 Fast при той же скорости.
Исследователи OpenAI решили ещё три проблемы Эрдёша с помощью внутренней модели, каждое доказательство короткое и элегантное, подтверждая, что опровержение гипотез теперь стало рутинным развёртыванием.
Feltsense объявила, что пересобрала каждый стартап из последнего демо-дня Y Combinator, используя исключительно агентов, создав полностью работоспособные продукты, что предполагает, что экономика посевной стадии вскоре может поместиться в один вызов инференса.
Глобальные венчурные инвестиции достигли рекордных $297 млрд в первом квартале 2026 года, что на 150% больше в годовом исчислении, при этом стартапы в сфере ИИ захватили 81%, а всего четыре компании привлекли 64% от общей суммы.
Oracle сокращает тысячи сотрудников, наращивая расходы на центры обработки данных для ИИ, обменивая штат на вычислительные мощности.
Saronic привлекла $1,75 млрд под руководством Kleiner Perkins при оценке в $9,25 млрд в гонке за модернизацию вооружённых сил США с помощью автономных кораблей.
Grab и WeRide запустили в Сингапуре первый в Юго-Восточной Азии сервис беспилотного такси.
Nvidia инвестировала $2 млрд в Marvell для сотрудничества в области кремниевой фотоники — оптической проводки для следующего поколения кластеров ИИ.
В этом году Apple действует агрессивнее, чем когда-либо прежде. Компания скупает всю доступную мобильную DRAM на рынке по чрезвычайно высоким ценам, даже ценой потери операционной прибыли.
Microsoft заявляет, что создаст собственную передовую большую языковую модель к следующему году.
Qwen3.6-Plus доминирует в бенчмарках программирования
ЕС полностью запрещает изображения, сгенерированные ИИ
Qwen 3.5 Omni Plus превосходит Gemini 3.1 Pro
Агент ИИ атакует Wikipedia после постоянной блокировки
Возможно, Netflix заплатил $600 млн за стартап Бена Аффлека в сфере ИИ
Стартап в сфере носимых устройств CUDIS запускает новую линейку умных колец для здоровья с ИИ-«тренером»
Утечка Claude Code раскрывает «питомца» в стиле тамагочи и постоянно работающего агента
Генеральный директор Okta делает большую ставку на идентификацию агентов ИИ
ЦЕРН использует крошечные модели ИИ, встроенные в кремний, для фильтрации данных БАК в реальном времени
Пропущено 623 постов, 147 с картинками.
Правда. Гарантии в течении пары лет нет, но шансы есть и повышаются с прошествием времени. Уровень жизни неизбежно будет подниматься у всех за счет технологий и бешеного их внедрения, но все идеально гладко вряд ли будет, конечно. Обратная сторона у этого тоже есть.
Иди нахуй отсюда, червяк блять. Весь второй тред засрал своим нытьем
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №215 /llama/
Аноним
06/04/26 Пнд 20:27:15
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Инструменты для запуска на десктопах:
• Отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• Самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui
• Заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai
• Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern
• Альтернативный фронт: https://github.com/kwaroran/RisuAI
Инструменты для запуска на мобилках:
• Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux
Модели и всё что их касается:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Неактуальные списки моделей в архивных целях: 2025: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ), 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Дополнительные ссылки:
• Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: http://web.archive.org/web/20250222044730/https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki
• Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
• Инфа по запуску на MI50: https://github.com/mixa3607/ML-gfx906
• Тесты tensor_parallel: https://rentry.org/8cruvnyw
Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1575307 (OP)
>>1574090 (OP)
Пропущено 530 постов, 90 с картинками.
Вообще-то знаешь за летающими вентиляторами будущее. Юзеры таверны неолуддиты
>>1578421 (OP)
ПЕРЕКАТ
>>1578421 (OP)
ПЕРЕКАТ
>>1578421 (OP)
Проектирование систем водоснабжения и водоотведения в нейросетях тред № 815 /aicg/
Аноним
01/04/26 Срд 23:25:25
№
Ответ
ИНЖЕНЕРЫ!!!! Прикрепляйте новые схемы к оп-посту!!!!
Общий вопросов по проектированию систем водоснабжения и водоотведения в нейросетях тред.
Системы водоснабжения
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• NoAssTavern: https://github.com/Tavernikof/NoAssTavern | https://rentry.org/noasstavern
• Risu: https://risuai.xyz/
Модели труб
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
Чертежи
• Тредовский список: https://rentry.org/2ch-aicg-jb
• Бургерский список: https://rentry.org/jb-listing
Полезности для сантехников
• Тредовский список: https://rentry.org/2ch-aicg-utils
• Сборник рентри: https://rentry.org/mrhd
Проектирование труб
• Отечественная база данных проектов: https://aicg-hub.ru/characters.html
• База данных проектов: https://characterhub.org | https://chub.ai/characters
• Инструкции по проектированию: https://rentry.org/meta_botmaking_list | https://rentry.co/card_theory
• Проекты, созданные местными инженерам: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3
• Проекты, созданные американскими инженерами: https://rentry.org/meta_bot_list
Ресурсы
• Бесплатные трубы: https://github.com/cheahjs/free-llm-api-resources
• Арена: https://beta.lmarena.ai/ | https://web.lmarena.ai/
• OpenRouter: https://openrouter.ai/
• Индийские методики проектирования: https://character.ai/
Прочее
• ТСНиПы и ГОСТы: https://2ch-ai.gitgud.site/wiki/llama/
• Инструкции по монтажу трубы "КЛОД": https://rentry.org/how2claude
Мета
• Реестр смонтированных систем: https://rentry.org/2ch-aicg-archives4
• Конкурсы лучших проектов: https://rentry.org/2chaicgthemedevents
• Заявки сантехникам: https://rentry.org/2ch-aicg-requests2
• Проектирование электроснабжения thread: >>1413912 (OP)
• Оформление смонтированных систем: https://rentry.org/shapka_aicg
Прошлый тред: >>1566928 (OP)
Пропущено 1554 постов, 163 с картинками.
>особенно с лолями
Невелика потеря, главное чтобы обычное кум рп не фильтровало.
Где он это пишет тебе? Либо не настроены, либо ты юзаешь какую-то левую хуиту.
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №213 /llama/
Аноним
04/04/26 Суб 18:16:29
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Инструменты для запуска на десктопах:
• Отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• Самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui
• Заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai
• Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern
• Альтернативный фронт: https://github.com/kwaroran/RisuAI
Инструменты для запуска на мобилках:
• Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux
Модели и всё что их касается:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Неактуальные списки моделей в архивных целях: 2025: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ), 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Дополнительные ссылки:
• Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: http://web.archive.org/web/20250222044730/https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki
• Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
• Инфа по запуску на MI50: https://github.com/mixa3607/ML-gfx906
• Тесты tensor_parallel: https://rentry.org/8cruvnyw
Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1572745 (OP)
>>1571826 (OP)
Пропущено 528 постов, 84 с картинками.
>застрявшими в 2023
Ты думаешь эти дауны просто так имеют 20 тредов по далли до сих пор? Они реально конченные. Есть смысл смотреть что реддитеры пишут, нежели сойчановские пидарасы.
У меня, наоборот, вижу, что фетишизированный датасет намного больше, чем у китайцев и понимание ньюансов есть.
Я просто написал резолв неопределенностей в сторону нарративного пуша, и что юзер сам определяет бондариз и не нужно банить что-то за него, если прямо удолить не просили.
Поведение вокруг да около всегда происходит потому, что модель не может принять решение за пользователя, поэтому такая абилка должна быть задифайнена как часть инструкций.
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №212 /llama/
Аноним
03/04/26 Птн 19:52:06
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Инструменты для запуска на десктопах:
• Отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• Самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui
• Заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai
• Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern
• Альтернативный фронт: https://github.com/kwaroran/RisuAI
Инструменты для запуска на мобилках:
• Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux
Модели и всё что их касается:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Неактуальные списки моделей в архивных целях: 2025: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ), 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Дополнительные ссылки:
• Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: http://web.archive.org/web/20250222044730/https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki
• Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
• Инфа по запуску на MI50: https://github.com/mixa3607/ML-gfx906
• Тесты tensor_parallel: https://rentry.org/8cruvnyw
Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1571826 (OP)
>>1568889 (OP)
Пропущено 597 постов, 103 с картинками.
Расскажи, как ты привязал d20? Есть идея-фикс сделать РП с кубиками в духе BG3 или Disco Elysium, но не могу додуматься до вменяемой реализации. Понятно, что бросок должен идти через пайтон, а не внутри LLM, но не пойму, как именно результат должен влиять на генерацию. В чем там логика?
Прошлый тред: >>1554544 (OP) https://arhivach.vc/thread/1325015/
Схожие тематические треды
• SD-тред (не аниме): >>1556250 (OP)
• Технотред: >>1405043 (OP)
• Фурри-тред: https://2ch.su/fur/res/374311.html
FAQ
https://2ch-ai.github.io/wiki/nai
Установка
• NVidia: https://teletype.in/@aranon/welcome
• AMD: https://2ch-ai.github.io/wiki/nai/install/amd
• Облака: https://2ch-ai.github.io/wiki/nai/install/clouds
Дополнительная информация
• Интерфейсы: https://2ch-ai.github.io/wiki/nai/interfaces
• Модели: https://2ch-ai.github.io/wiki/nai/models
• Промпты: https://2ch-ai.github.io/wiki/nai/prompts
• Апскейл: https://2ch-ai.github.io/wiki/nai/upscale
• LoRA: https://2ch-ai.github.io/wiki/nai/lora
• ControlNet: https://2ch-ai.github.io/wiki/nai/controlnet
Прочее
• CivitAI: https://civitai.com
• Каталог ссылок от форчанеров: https://rentry.co/sdg-link
• Шаблон для переката: https://rentry.co/nwhci
Пропущено 500 постов, 197 с картинками.
Нозоми по идее 33 года сейчас. Было бы, если б не фиксированный возраст аниме-персонажа.
Залетай и будь в курсе самых последних событий и достижений в этой области!
Прошлый тред: >>1559636 (OP)
🚀 Последний обзор ИИ новостей:
🛠️ Инструменты для разработчиков
Apple проводит масштабное обновление своей платформы для разработчиков приложений: добавлено 100 новых метрик и дополнительные инструменты
📱 Приложения
ИИ для предприятий обретает голос: ElevenLabs и IBM предоставляют премиальные голосовые возможности для агентного ИИ
Spotify позволяет артистам вручную одобрять релизы для борьбы с подделками на базе ИИ
Учёные обнаружили более 100 скрытых экзопланет в данных NASA с помощью новой системы на базе ИИ
📦 Продукты
Uber планирует запустить первый в Европе сервис роботакси совместно с Pony AI и Verne
Meta готовится к выпуску двух новых умных очков Ray-Ban с функциями ИИ
Google запускает Search Live по всему миру. Поисковый ассистент на базе ИИ теперь поддерживает ведение диалога на десятках дополнительных языков.
🔓 Открытый исходный код
Mistral выпускает новую модель с открытым исходным кодом для генерации речи
Nvidia выпускает gpt-oss-puzzle-88B — модель, специально оптимизированную для обслуживания длинного и короткого контекста на оборудовании класса NVIDIA H100.
Две крупнейшие драмы Кремниевой долины пересеклись: LiteLLM и Delve
Cohere AI выпустила Cohere Transcribe — новую модель ASR на базе Conformer с 2 миллиардами параметров, созданную для открытого распознавания речи производственного уровня
🧪 Исследования
Google представляет TurboQuant — новый алгоритм сжатия памяти для ИИ, и да, интернет уже прозвал его «Pied Piper»
💰 Финансирование
Стартап в сфере обороны Shield AI получает оценку в $12,7 млрд, рост на 140%, после заключения сделки с ВВС США
С $3,5 млрд свежего капитала Kleiner Perkins делает ставку на ИИ
⚖️ Регулирование
Штат Нью-Мексико только что нанёс Meta первое судебное поражение в вопросе безопасности детей, и вся остальная страна наблюдает за этим
Сандерс и AOC представляют законопроект о моратории на центры обработки данных.
Берни Сандерс вносит законопроект о приостановке строительства центров обработки данных для ИИ и о налаживании международной координации для обеспечения контроля человечества над технологиями. Это даже не просто запрет на центры обработки данных: он хочет буквально запретить экспорт вычислительного оборудования в другие страны, не имеющие тех же «гарантий безопасности» / аналогичного законодательства.
ЕС поддерживает запрет на приложения с контентом ню и откладывает введение знаковых правил в сфере ИИ
Присяжные признают Meta и YouTube небрежными в знаковом судебном процессе о зависимости от социальных сетей
🧠 Модели
Функция Claude Code от Anthropic получает «более безопасный» автоматический режим
🏭 Компании
OpenAI бессрочно откладывает запуск эротического чат-бота
Meta увольняет сотни сотрудников, направляя деньги в развитие ИИ
🌐 События
OpenAI завершила предварительное обучение своей следующей флагманской модели под кодовым названием «Spud» и ожидает, что она ускорит экономические процессы в течение нескольких недель.
Сэм Альтман передаёт прямое управление командами по безопасности и защите, чтобы сосредоточиться на привлечении капитала, цепочках поставок и строительстве центров обработки данных в планетарном масштабе.
Google Research представила TurboQuant — квантование кэш-памяти KV всего до 3 бит без обучения или потери точности, обеспечивая до 8-кратного повышения производительности на графических процессорах H100.
Ян ЛеКун и коллеги представили LeWM — первую модель JEPA, которая стабильно обучается сквозным методом непосредственно на основе сырых пикселей, планируя действия до 48 раз быстрее, чем мировые модели на основе фундаментальных моделей, на одном графическом процессоре.
Вновь организованная структура OpenAI Foundation, располагающая $1 млрд в год, приоритетно направляет ИИ на борьбу с болезнью Альцгеймера путём картирования путей развития заболевания и ускорения персонализации лечения.
Исследователи из Массачусетского технологического института показали, что агенты на базе больших языковых моделей теперь могут автономно выполнять конвейеры анализа физики высоких энергий, при этом Claude Code автоматизирует всё: от отбора событий до подготовки черновиков научных статей.
OpenAI внедряет визуальный шоппинг в ChatGPT, позволяя пользователям находить товары, загружая изображения.
Anthropic внедряет автоматический режим в Claude Code, где Claude принимает решения о разрешениях от вашего имени, имея защитные механизмы для более длительных агентных задач.
Агентная активность проникает в неожиданные места: люди теперь используют бота для заказов бурито Chipotle для бесплатной помощи в написании кода, говоря, что им нужна помощь, прежде чем они смогут съесть свою порцию бурито.
Источники описывают усилия по созданию и использованию внутренних инструментов ИИ в Meta, включая то, как Марк Цукерберг создаёт агент-гендиректора, чтобы помочь себе лучше выполнять свою работу.
Tencent запускает ClawBot — агента на базе OpenClaw, интегрированного в WeChat, позволяющего более чем 1 миллиарду ежемесячных активных пользователей отправлять и получать команды для взаимодействия с агентом ИИ через чат.
Инструменты ИИ, такие как Claude Code, преобразили жизнь программистов, и теперь лаборатории ИИ нацелены на более масштабную цель: автоматизацию жизни каждого человека и завоевание рынка не-программистов.
Xiaomi запускает три модели ИИ MiMo для питания агентов, роботов и голосовых функций.
Теренс Тао говорит, что ИИ снижает стоимость генерации идей почти до нуля, но переносит узкое место на этап верификации.
Автоматизация задач Gemini на мобильных устройствах: это впечатляет, несмотря на очень низкую скорость и неудачи в некоторых задачах; она может заказывать еду, бронировать Uber и многое другое.
Пентагон внедрит систему ИИ Maven от Palantir в качестве официальной зарегистрированной программы для упрощения её внедрения во всех подразделениях вооружённых сил США.
Meta выпустила Tribe V2 (Trimodal Brain Encoder) — фундаментальную модель, обученную предсказывать, как человеческий мозг реагирует практически на любое зрительное или звуковое воздействие.
Нарратив «ИИ заменяет инженеров-программистов» оказался ложью. Массачусетский технологический институт только что опубликовал математическое доказательство, почему это так. И компании, поверившие в это, теперь умоляют своих прежних инженеров вернуться.
Роботы-собаки стоимостью $300 000 за штуку теперь охраняют некоторые из крупнейших центров обработки данных в стране.
Майнеры биткоина всё чаще переходят на бизнес-модели, связанные с ИИ и центрами обработки данных.
Reflex Robotics размещает своего гуманоидного робота в пиццерии и других местах.
Один из топовых результатов поиска Google по плагинам для Claude был размещен хакерами.
Робот присоединился к Мелании Трамп на мероприятии в Белом доме для продвижения идеи учителей на базе ИИ.
ARC-AGI 3 даёт старт следующей волне прогресса в области ИИ.
Пропущено 567 постов, 114 с картинками.
мнение доктора сингулярити очень весомое
Кокакола дорогая компания не потому что много продает, а потому что инвесторы думают что она много продает и акции компании покупают, а деньги идут на рекламу, изза рекламы повсюду инвесторы и думают что много продают этого пойла, которое ничем не лучше любой другой воды с сахаром
реклама меты просматривается только ботами накручивая счетчик просмотров, бизнесы разоряются, но мета рисует успех от ботов, поэтому акции меты дорогие, деньги тратятся на создание илюзии что мета успена через рекламу
все эти акционерные компании это скам направленный на жирных кабанов инвесторов, а не на реальную работу для людей, вон майкрософт все люди срут за приложухи на вебе а не нативные, за внедрение ии где не надо, но зато акции растут от слов мывнедрилиИИ, а акции это то ради чего они работают, а не ради людей и продуктов
Откуда у инвесторов деньги? ну так это хэджфонды куда правительство вкладывает собранные налоги
уроборос скама, в котором улучшение жизни обычных людей через реальные продукты это побочный и мизерный эффект
Всего несколько дней назад он достиг рекордных 78% уровня отсутствия галлюцинаций — уже #1 в мире, обгоняя Claude Opus 4.6 (max), Gemini 3.1, GPT-5.4 (xhigh) и все другие крупные модели
Теперь он только что поднял этот показатель ещё выше — до 83%
В то время как все другие ИИ уверенно выдумывают информацию и фабрикуют ответы, которых не знают, — Grok просто говорит «Я не знаю»
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards
• NoAssTavern: https://github.com/Tavernikof/NoAssTavern | https://rentry.org/noasstavern
• Risu: https://risuai.xyz/
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
Пресеты
• Тредовский список: https://rentry.org/2ch-aicg-jb
• Бургерский список: https://rentry.org/jb-listing
• Сисовый список: https://rentry.org/2a9c6zhi
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
• Сборник рентри: https://rentry.org/mrhd
Ботоводчество
• /aicg/hub: https://aicg-hub.ru/characters.html
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://aicg.neocities.org/botmaking | https://rentry.co/card_theory
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3 | https://rentry.org/2chaicgtavernbots4
• Бургерские боты: https://aicg.neocities.org/bots
Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• Арена: https://beta.lmarena.ai/ | https://web.lmarena.ai/
• OpenRouter: https://openrouter.ai/
• Чай: https://character.ai/
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives4
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests2
• Локальные языковые модели: >>1560242 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1562852 (OP)
Пропущено 1514 постов, 147 с картинками.
Находил какой-то, юзал через думающий джемени, и вроде лучше, чем было, гигачек отдельные фрагменты показывает, как написанные человеком, но в совокупности, говорит, что текст иишный.
Так вот, если у кого-нибудь есть рекомендации - подскажите пожалуйста!! Очень выручите.
ты тредом ошибся, смотри тут >>1592637 →
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Новости
• Вышла GPT 5.4 - https://openai.com/index/introducing-gpt-5-4/
Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards
• NoAssTavern: https://github.com/Tavernikof/NoAssTavern | https://rentry.org/noasstavern
• Risu: https://risuai.xyz/
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
Пресеты
• Тредовский список: https://rentry.org/2ch-aicg-jb
• Бургерский список: https://rentry.org/jb-listing
• Сисовый список: https://rentry.org/2a9c6zhi
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
• Сборник рентри: https://rentry.org/mrhd
Ботоводчество
• /aicg/hub: https://aicg-hub.ru/characters.html
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://aicg.neocities.org/botmaking | https://rentry.co/card_theory
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3 | https://rentry.org/2chaicgtavernbots4
• Бургерские боты: https://aicg.neocities.org/bots
Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• Арена: https://beta.lmarena.ai/ | https://web.lmarena.ai/
• OpenRouter: https://openrouter.ai/
• Чай: https://character.ai/
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives4
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests2
• Локальные языковые модели: >>1548846 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1558428 (OP)
Пропущено 1581 постов, 146 с картинками.
Локальные языковые модели (LLM): LLaMA, Gemma, Qwen и прочие №209 /llama/
Аноним
29/03/26 Вск 22:18:49
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Инструменты для запуска на десктопах:
• Отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• Самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui
• Заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai
• Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern
• Альтернативный фронт: https://github.com/kwaroran/RisuAI
Инструменты для запуска на мобилках:
• Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux
Модели и всё что их касается:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Неактуальные списки моделей в архивных целях: 2025: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ), 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Дополнительные ссылки:
• Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: http://web.archive.org/web/20250222044730/https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki
• Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
• Инфа по запуску на MI50: https://github.com/mixa3607/ML-gfx906
• Тесты tensor_parallel: https://rentry.org/8cruvnyw
Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1564094 (OP)
>>1560242 (OP)
Пропущено 549 постов, 71 с картинками.
Что блядь происходит? Я не катил тред!
ОП предыдущих 200 тредов
Я на Go и Swift.
Пропущено 3 постов, 1 с картинками.
Сам говнокодю на пистоне. А ИИ заставляю писать на голанке. Потому что
1) ИИ его занет
2) структура языка минимизирует косяки
3) нормальны менеджер пакетов, а не вот это вот
4) изолированный результат который не аффектит состояние системы и легко закрывается smoke тестами
максимальная база обучения у ии это питон и js. на них все и собираю.
Ннет сказала Котоэ встряхнувшись словно пыталась прояснить голову Неважно
Джаггернаут ответил звуком похожим на усталый вздох и ответил на удар взмахом когтей
Подскажите пожалуйста нейросети для написания прошлых с откровенными фетишами историй. Нейросети кот
Аноним
12/02/26 Чтв 10:54:39
№
Ответ
Пример выдуманной истории:
Мой парень «Спермолюб»!
Сначала я думала, он прикалывается. Ну типа постирония, эксперимент, ну мало ли, TikTok поколение. Но после секса он реально заглатывал. Причём с видом, будто ест десерт. Говорил, что “надо восполнять белок”, и вообще “если я тебя люблю, то и себя должен любить полностью”.
Иногда он просил “оставить ему”, если я проглатывала.
Я однажды даже попробовала сказать, что это странно. А он обиделся. Сказал: “Значит, ты стыдишься меня? Это же я. Ты же любишь меня?”
Самое криповое — он как-то добавил в кофе.
Я тогда просто сидела напротив и думала: “Ну всё, я окончательно ебнулась. Либо я, либо он”.
А потом он ещё хотел, чтобы я тоже попробовала. “Ну мы же пара, надо делиться”.
Сейчас у меня другой парень. Он тоже иногда делает странные вещи, но по сравнению с этим — просто ангел. Иногда даже скучаю. Не по вкусу, конечно. По самоотдаче.
Пробовал писать подобные истории в ChatGPT но он блокирует возможность откровенной порнографии или слов по типу сперма, секс, инцест и тому подобное.
Где можно составлять такие истории? Или как можно обойти данные ограничения?
Пропущено 11 постов, 1 с картинками.
А вообще генериш промпты для опенбояра и пока спишь он вариативно генерирует от инцест рассказов до калоедов и спермохлёбов геронтофилов. К утру у тебя будет папка с 1000 рассказами, трижды проверенные старательным дипсиком филологом и дипсиком писателем
В том числе переведенные на английский, испанский, португальский, южнокорейский, японский, китайский традиционный и хинди индийский языки с добавлением при переводе национальной колоритности и оборотов речи.
Главное грамотно задай генеральный мастер промпт, а также учти что оптимизацию при генерации контента.
Олсо, добро пожаловать в вайбкодинга тред, там все твои друзья.
Локальные языковые модели (LLM): LLaMA, Gemma, Qwen и прочие №208 /llama/
Аноним
27/03/26 Птн 09:38:37
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.github.io/wiki/llama/
Инструменты для запуска на десктопах:
• Отец и мать всех инструментов, позволяющий гонять GGML и GGUF форматы: https://github.com/ggml-org/llama.cpp
• Самый простой в использовании и установке форк llamacpp: https://github.com/LostRuins/koboldcpp
• Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui
• Заточенный под Exllama (V2 и V3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты на базе llamacpp с ограниченными возможностями: https://github.com/ollama/ollama, https://lmstudio.ai
• Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern
• Альтернативный фронт: https://github.com/kwaroran/RisuAI
Инструменты для запуска на мобилках:
• Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux
Модели и всё что их касается:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_moe_2026
• Неактуальные списки моделей в архивных целях: 2025: https://rentry.co/2ch_llm_2025 (версия для бомжей: https://rentry.co/z4nr8ztd ), 2024: https://rentry.co/llm-models , 2023: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Дополнительные ссылки:
• Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: http://web.archive.org/web/20250222044730/https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki
• Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
• Инфа по запуску на MI50: https://github.com/mixa3607/ML-gfx906
• Тесты tensor_parallel: https://rentry.org/8cruvnyw
Архив тредов можно найти на архиваче: https://arhivach.vc/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1560242 (OP)
>>1556634 (OP)
Пропущено 511 постов, 59 с картинками.
>>1566867
А, ты про турбокванты спрашиваешь. Ну засунь модельку с меньшим контекстов раза в 4-6 и проверь, какая скорость сейчас. Вот такая будет с ТК на твоем обычном размере контекста.
Пруф легитимности
>>1571826 (OP)
https://github.com/jofizcd/Soul-of-Waifu
https://www.youtube.com/watch?v=15xADzULl6o
Выглядит как таверна на минималках
Как пользоваться жизнью как ее проживать способы коротать личное время за последние несколько лет будто вми
г ускорилисьКонечно но я могу не ответить