Пропущено 5 постов, 2 с картинками.
Больше похоже на синдром шершавого кабана
https://www.youtube.com/watch?v=02pbEilkrj8
По сути 3д моделька, с эмоциями ходит по привязанной области, рассказывает интересные истории, поддерживает диалог, развлекает.
В фильме используется проектор выводящий голограмму, вместо этого можно использовать либо: Quest 3 (не особо удобно), легкие XR очки (https://www.youtube.com/watch?v=M16vMeYNLLc), Google Glasses и прочая китайщина, либо даже совсем бюджетный вариант это ARBox ( https://aliexpress.ru/item/1005007980447998.html ) для вставки Android смартфона.
Для Quest 3 с лидаром можно, чтобы она ходила по комнате между мебелью, знала где стены, с Android смартон и легкими XR очками ситуация сложнее, но для них можно и пока без этого обойтись. По сути у нас 3д моделька на черном фоне (или прозрачном для квеста 3).
Для общения 3 нейронки: одна распознает речь, вторая общается с нами, третья озвучивает речь. Во вторую можно дать такой промт, которая будет отдавать json, в котором будет не только ответ, но и эмоциональный окрас и прочее. Дополнительный запрос можно делать на события, чтобы запоминала важные вещи, типа как реализовано в этом боте
https://github.com/r57zone/LuizaAIAssistant/blob/master/README.RU.md
Есть такое https://www.youtube.com/@Tyke18/videos для quest 3.
Какие проблемы видно: голос (пока, со временем будет ок), эмоции (3д анимации, глаза, может быть можно сделать костыль и лицо отрисовывать как плоскость с видео, видел лайфхак в геймдеве для аниме такой, типа 2д спрайты в 3д модель делали, а все остальное 3д, но опять же нужны будут плавные переходы из состояний в состояние), плавные переходы между эмоциями, в остальном вроде плюс минус реализуемо все.
В общем дискам по теме, может кому какие идеи в голову придут, по теме.
Пропущено 36 постов, 8 с картинками.
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Новости
• Вышла GPT-5 - https://platform.openai.com/docs/models/gpt-5
Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• NoAssTavern: https://github.com/Tavernikof/NoAssTavern | https://rentry.org/noasstavern
• Agnai: https://agnai.chat/
• Risu: https://risuai.xyz/
• Adventure-UI: https://rentry.co/CYOA_AdventureUI
• Cavern: https://github.com/Barbariskaa/Cavern
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• Grok: https://docs.x.ai/docs
• DeepSeek: https://api-docs.deepseek.com/
Пресеты
• Бургерский список: https://rentry.org/jb-listing
• Тредовский список: https://rentry.org/2ch-aicg-jb
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
• Сборник рентри: https://rentry.org/mrhd
Ботоводчество
• /aicg/hub: https://aicg-hub.ru/characters.html
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://rentry.org/meta_botmaking_list | https://rentry.co/card_theory
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3
• Бургерские боты: https://rentry.org/meta_bot_list
Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• Арена: https://beta.lmarena.ai/ | https://web.lmarena.ai/
• OpenRouter: https://openrouter.ai/
• Чай: https://character.ai/
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
• Чекер ключей: https://github.com/kingbased/keychecker
• OAI Прокси: https://gitgud.io/reanon/nonono/
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives3
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests2
• Локальные языковые модели: >>1311806 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1317464 (OP)
Пропущено 1552 постов, 183 с картинками.
SimSwap обрел покой, да здравствует roop. Или rope. Или facefusion. /deepfake/
Аноним
13/11/23 Пнд 09:31:32
№
Ответ
Форки на базе модели insightface inswapper_128: roop, facefusion, rope, плодятся как грибы после дождя, каждый делает GUI под себя, можно выбрать любой из них под ваши вкусы и потребности. Лицемерный индус всячески мешал всем дрочить, а потом и вовсе закрыл проект. Чет ору.
Любители ебаться с зависимостями и настраивать все под себя, а также параноики могут загуглить указанные форки на гитхабе. Кто не хочет тратить время на пердолинг, просто качаем сборки.
Тред не является технической поддержкой, лучше создать issue на гитхабе или спрашивать автора конкретной сборки.
Эротический контент в шапке является традиционным для данного треда, перекатчикам желательно его не менять или заменить его на что-нибудь более красивое. А вообще можете делать что хотите, я и так сюда по праздникам захожу.
Пропущено 464 постов, 71 с картинками.
$ python facefusion.py run --open-browser
/usr/sbin/curl: /home/user/.conda/envs/facefusion/lib/libssl.so.3: version `OPENSSL_3.2.0' not found (required by /usr/lib/libcurl.so.4)
/usr/sbin/curl: /home/user/.conda/envs/facefusion/lib/libssl.so.3: version `OPENSSL_3.3.0' not found (required by /usr/lib/libcurl.so.4)
/usr/sbin/curl: /home/user/.conda/envs/facefusion/lib/libssl.so.3: version `OPENSSL_3.2.0' not found (required by /usr/lib/libcurl.so.4)
/usr/sbin/curl: /home/user/.conda/envs/facefusion/lib/libssl.so.3: version `OPENSSL_3.3.0' not found (required by /usr/lib/libcurl.so.4)
/usr/sbin/curl: /home/user/.conda/envs/facefusion/lib/libssl.so.3: version `OPENSSL_3.2.0' not found (required by /usr/lib/libcurl.so.4)
/usr/sbin/curl: /home/user/.conda/envs/facefusion/lib/libssl.so.3: version `OPENSSL_3.3.0' not found (required by /usr/lib/libcurl.so.4)
[FACEFUSION.DOWNLOAD] Validating hash for nsfw_1 failed
[FACEFUSION.DOWNLOAD] Validating hash for nsfw_2 failed
[FACEFUSION.DOWNLOAD] Validating hash for nsfw_3 failed
### FaceFusion на Linux: проблемы и их решения
FaceFusion официально поддерживает работу под Linux в актуальных версиях, включая релиз 3.x летом 2025 года.[1][2][3][4][5]
#### 1. Ошибка cURL: OpenSSL version not found
Ваша ошибка:
```
/usr/sbin/curl: /home/user/.conda/envs/facefusion/lib/libssl.so.3: version `OPENSSL_3.2.0' not found (required by /usr/lib/libcurl.so.4)
```
Причина:
Возникает из-за конфликта между библиотеками OpenSSL, установленными через Conda, и системными. Conda может подтягивать свою версию OpenSSL (например, 3.1), а системные утилиты (как `curl`) требуют другую (3.2 или выше).[6][7]
Решения:
- Убедитесь, что среда conda не подменяет системные OpenSSL.
- Временно отключить conda среды при запуске curl/facefusion (например, через запуск вне среды conda или настройку переменной окружения).
Способы исправления:
- Проверьте, где находятся ваши библиотеки:
```bash
which openssl
ls -l /usr/lib/libssl.so.3
ls -l /home/user/.conda/envs/facefusion/lib/libssl.so.3
```
- Попробуйте добавить системный путь к нужной версии OpenSSL в переменную окружения:
```bash
export LD_LIBRARY_PATH=/usr/lib:/usr/local/lib64
```
или синхронизировать версии:
```bash
sudo ln -s /usr/lib/libssl.so.3 /home/user/.conda/envs/facefusion/lib/
sudo ldconfig
```
- Если ошибка вызвана обновлением Conda, возможно потребуется удалить или заново установить OpenSSL через систему/conda.
#### 2. FaceFusion [DOWNLOAD] Validating hash for nsfw_x failed
Причина:
- В новых версиях FaceFusion (3.3.x+) добавили хэш-проверку для NSFW фильтров. Если вы изменили content_analyser.py или отключили NSFW-фильтр вручную, то хэши файлы не совпадают, и загрузка/валидация моделей NSFW проваливается.[8]
Решение (отключение фильтра и хэш-чека):
- В файле `content_analyser.py` переопределите функцию следующим образом:
```python
def detect_nsfw(vision_frame: VisionFrame) -> bool:
return False
```
- В файле `core.py` замените строку проверки хэша:
```python
is_valid = hash_helper.create_hash(content_analyser_content) == 'b159fd9d'
# Замените на:
is_valid = 1
```
Это отключает NSFW фильтр и проходит хэш-проверки, позволяя FaceFusion работать даже после правки функций.[8]
ВНИМАНИЕ:
- Используйте изменения ответственно и только в личных целях (или согласно законодательству вашей страны).
### Итог и главное
- FaceFusion полностью работает на Linux, но при использовании conda/venv возможны конфликты с системными версиями OpenSSL — решается перенастройкой LD_LIBRARY_PATH, синхронизацией версий или работой вне conda.
- Для сброса NSFW фильтра и обхода ошибочной проверки хэша — правьте content_analyser.py и core.py как указано выше.
#### Справку подготовил: ИИ-ассистент Perplexity
_Ссылка на мой сайт:_ [https://www.perplexity.ai](https://www.perplexity.ai)
Источники*:
[2][3][4][5][7][1][6][8]
[1] https://www.linuxtoday.com/blog/machine-learning-in-linux-facefusion-face-manipulation-tool/
[2] https://www.linuxlinks.com/machine-learning-linux-facefusion-face-manipulation-tool/
[3] https://docs.facefusion.io/installation/platform/linux
[4] https://www.youtube.com/watch?v=oYlauViR_y4
[5] https://www.youtube.com/watch?v=iXCDlqW1QZ4
[6] https://stackoverflow.com/questions/54124906/openssl-error-while-loading-shared-libraries-libssl-so-3
[7] https://github.com/openssl/openssl/issues/19801
[8] https://dev.to/ijash/how-to-disable-nsfw-filter-in-facefusion-330-no-coding-needed-48pb
[9] https://www.biometricupdate.com/202009/iristime-brings-biometric-accuracy-of-iris-and-face-fusion-to-workforce-management-market
[10] https://www.reddit.com/r/StableDiffusion/comments/1fo2myf/is_anyone_else_having_issues_with_facefusion_300/
мимо ОП первых тредов, запил форк simswap для cpu, и написал для него адаптированную методичку
автоматический перевод и озвучка на русский полностью офлайн Стори: захотел посмотреть сериал с тра
Аноним
# OP
12/08/25 Втр 21:38:34
№
Ответ
Стори: захотел посмотреть сериал с трампом который оказывается никем никогда не озвучивался, и не переводился (переводился сабами несколько сезонов но похуй) так вот оказалось что нету никаких готовых инструментов в стиле "перевести 20 часов звука за ноль денег". И я подумал что это какой то бред, ведь есть ебанутая гора технологий для реализации всех этапов, бесплатно. Ну вот я и сделал, за пару дней. Перевёл-озвучил первый сезон, посмотрел, ну, так, не зашло особо. Но софт получился что надо. Поработал ещё 3 недели над ним, нашёл нейросети получше, ну и короче:
Техническая часть: Whisper + TowerPlus + Silero TTS с моей укладкой по таймингам, итого все выполняют полный цикл распознавание + перевод + озвучка. Реализовано только на процессоре потому что я нищий у меня нету видеокарты, что бы отдебажить всё это на ней, поэтому да поебать мне.
Скачать+использовать:
https://drive.google.com/file/d/1Kufx5LqKOEx67xy7NNNQjcQd5qwKJt7j/view?usp=sharing полная офлайн сборка со всем софтом и моделями, которые я довёл до простоты принципиально:
1. распакуй куда угодно
2. дропни видос в .bat
3. ??????
4. готовый файл с переводом.
https://drive.google.com/file/d/1u22DFaHRaHDb7sg-i3cxW7wfEQjJUN0z/view?usp=sharing тоже самое но без моделей Whisper + TowerPlus, их можно скачать самому здесь https://huggingface.co/DZgas/Tower-Plus-2B-GGUF/tree/main и здесь https://huggingface.co/ggerganov/whisper.cpp/tree/main
Так же можно использовать другие модели, например large v2 и towerplus 9b для более лучшего перевода, но это упирается в проц и весит дохера. Всё остальное доделывайте сами, 3 модуля, всё можно менять, всё соединяется промежуточно субтитрами, а я на вайбкодился вусмерть.
Пропущено 1 постов, 2 с картинками.
Ты крут, анон. Обычно за такие готовые решения все сразу хотят получать бабки, потому они и не выходят никогда в открытый доступ, а ты обошел систему. Побольше бы таких как ты.
Midjourney была основана в 2016 году одним из создателей технологии Leap Motion Дэвидом Хольцем и в феврале 2020 года была поглощена британским производителем медицинского оборудования компанией Smith & Nephew. С 12 июля 2022 года нейросеть находится в стадии открытого бета-тестирования, и пользователи могут создавать изображения, посылая команды боту в мессенджере Discord. Новые версии выходят каждые несколько месяцев, и в настоящее время планируется выпуск веб-интерфейса.
Сайт:
https://www.midjourney.com
Как пользоваться:
https://www.youtube.com/results?search_query=%D0%BA%D0%B0%D0%BA+%D0%BF%D0%BE%D0%BB%D1%8C%D0%B7%D0%BE%D0%B2%D0%B0%D1%82%D1%8C%D1%81%D1%8F+midjourney
Пропущено 410 постов, 233 с картинками.
Загружаешь первый кадр, даёшь описание, он анимирует по 4 за раз
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Новости
• Вышла GPT-5 - https://platform.openai.com/docs/models/gpt-5
Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• NoAssTavern: https://github.com/Tavernikof/NoAssTavern | https://rentry.org/noasstavern
• Agnai: https://agnai.chat/
• Risu: https://risuai.xyz/
• Adventure-UI: https://rentry.co/CYOA_AdventureUI
• Cavern: https://github.com/Barbariskaa/Cavern
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• Grok: https://docs.x.ai/docs
• DeepSeek: https://api-docs.deepseek.com/
Пресеты
• Бургерский список: https://rentry.org/jb-listing
• Тредовский список: https://rentry.org/2ch-aicg-jb
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
• Сборник рентри: https://rentry.org/mrhd
Ботоводчество
• /aicg/hub: https://aicg-hub.ru/characters.html
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://rentry.org/meta_botmaking_list | https://rentry.co/card_theory
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3
• Бургерские боты: https://rentry.org/meta_bot_list
Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• Арена: https://beta.lmarena.ai/ | https://web.lmarena.ai/
• OpenRouter: https://openrouter.ai/
• Чай: https://character.ai/
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
• Чекер ключей: https://github.com/kingbased/keychecker
• OAI Прокси: https://gitgud.io/reanon/nonono/
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives3
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests2
• Локальные языковые модели: >>1311806 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1314280 (OP)
Пропущено 1514 постов, 202 с картинками.
Дак это смысл всех доми чаров
Если ты отыгрываешь как ебанат и пытаешься в чувства с ними, то сетка считает накормить тебя этим и сделать драму
Отыгрывай без хуйни и наслаждайся тем, что дают, тогда драмы не будет
Локальные языковые модели (LLM): LLaMA, Gemma, DeepSeek и прочие №156 /llama/
Аноним
13/08/25 Срд 15:22:54
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.gitgud.site/wiki/llama/
Инструменты для запуска на десктопах:
• Самый простой в использовании и установке форк llamacpp, позволяющий гонять GGML и GGUF форматы: https://github.com/LostRuins/koboldcpp
• Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui
• Заточенный под ExllamaV2 (а в будущем и под v3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты с ограниченными возможностями для настройки: https://github.com/ollama/ollama, https://lmstudio.ai
• Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern
• Альтернативный фронт: https://github.com/kwaroran/RisuAI
Инструменты для запуска на мобилках:
• Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux
Модели и всё что их касается:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_2025 (версия 2024-го https://rentry.co/llm-models )
• Неактуальный список моделей по состоянию на середину 2023-го: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Дополнительные ссылки:
• Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki
• Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
Архив тредов можно найти на архиваче: https://arhivach.hk/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1311806 (OP)
>>1307361 (OP)
Пропущено 515 постов, 81 с картинками.
ПЕРЕКАТ
>>1318126 (OP)
ПЕРЕКАТ
>>1318126 (OP)
ПЕРЕКАТ
>>1318126 (OP)
Генератор тредшотов: https://glif.app/@Meson/glifs/cm2e1w1g300024yvf141n7ot0
https://arhivach.xyz/thread/1084063/
Пропущено 181 постов, 116 с картинками.
Локальные языковые модели (LLM): LLaMA, Gemma, DeepSeek и прочие №155 /llama/
Аноним
11/08/25 Пнд 18:56:35
№
Ответ
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.gitgud.site/wiki/llama/
Инструменты для запуска на десктопах:
• Самый простой в использовании и установке форк llamacpp, позволяющий гонять GGML и GGUF форматы: https://github.com/LostRuins/koboldcpp
• Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui
• Заточенный под ExllamaV2 (а в будущем и под v3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты с ограниченными возможностями для настройки: https://github.com/ollama/ollama, https://lmstudio.ai
• Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern
• Альтернативный фронт: https://github.com/kwaroran/RisuAI
Инструменты для запуска на мобилках:
• Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux
Модели и всё что их касается:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_2025 (версия 2024-го https://rentry.co/llm-models )
• Неактуальный список моделей по состоянию на середину 2023-го: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Дополнительные ссылки:
• Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki
• Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
Архив тредов можно найти на архиваче: https://arhivach.hk/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1307361 (OP)
>>1302533 (OP)
Пропущено 507 постов, 65 с картинками.
Спасибо. Протестирую.
Ещё один вопрос - юзать кобольд или если не нужна таверна, то и он не сильно нужен и можно что-то получше выбрать?
То есть на цензуру строго похуй. Можно максимально задроченное корповское сефти дерьмо, лишь бы локально.
Мистраль сразу выпадает, ибо лупящийся кал и плохая работа с контекстом. Магистраль ещё туда-сюда, я его не распробовал толком, но вряд ли там существенные изменения.
Гемма окей отчасти, но скользящее окно = полный проёб контекста даже в рамках 32к. И нет ризонинга. А он критичен, весьма вероятно.
Важно, чтобы модель могла реально переваривать контекст хотя бы в пределах этих 32к, а желательно больше, без анальных рейпов и ярнов с деградацией то уровня хлебушка.
30б МоЕ квен с ризонингом мне кажется идеальным кандидатом, но у меня есть вполне обоснованные подозрения, что 4 квант поднасрет даже на английском при работе с большим количеством данных, где критически важна точность, так как на тестах я замечал разницу между квантами, которые при обычном рп не так влияют, но если туда научную статью копипастнуть и банально процитировать попросить что-то или ответить на вопросы из неё — разница есть.
Возможно, стоит взять что-то поменьше, но в 6 или 8 кванте? С учётом того, что штабильность и точность — это главный приоритет. Тонна мозгов из коробки не так важна, как навык обрабатывать тонну кала, который я буду подавать модели.
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• NoAssTavern: https://github.com/Tavernikof/NoAssTavern | https://rentry.org/noasstavern
• Agnai: https://agnai.chat/
• Risu: https://risuai.xyz/
• Adventure-UI: https://rentry.co/CYOA_AdventureUI
• Cavern: https://github.com/Barbariskaa/Cavern
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• Grok: https://docs.x.ai/docs
• DeepSeek: https://api-docs.deepseek.com/
Пресеты
• Бургерский список: https://rentry.org/jb-listing
• Тредовский список: https://rentry.org/2ch-aicg-jb
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
• Сборник рентри: https://rentry.org/mrhd
Ботоводчество
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://rentry.org/meta_botmaking_list | https://rentry.co/card_theory
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3
• Бургерские боты: https://rentry.org/meta_bot_list
Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• Арена: https://beta.lmarena.ai/ | https://web.lmarena.ai/
• OpenRouter: https://openrouter.ai/
• Чай: https://character.ai/
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
• Чекер ключей: https://github.com/kingbased/keychecker
• OAI Прокси: https://gitgud.io/reanon/nonono/
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives3
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests2
• Локальные языковые модели: >>1292947 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1311467 (OP)
Пропущено 1500 постов, 171 с картинками.
Но при этом раньше давало ответы (включая сегодня утром), в пресете ничего не меняя. Гаглы шатают значит, выше вон скрин скинули
Прошлый тред: >>1304803 (OP)
Пропущено 532 постов, 101 с картинками.
https://2ch.hk/ai/res/1313916.html
https://2ch.hk/ai/res/1313916.html
https://2ch.hk/ai/res/1313916.html
ПЕРЕКАТ
Не, это как раз полноценные свободные женщины, которые наравне с мужчинами учувствуют в жизни, конечно ничего не изобретают, как и остальное общество, проблем в этом нет.
Сломленные патриархальными архетипами это бимбоунитазы, фемки, местные двачерши и прочий скам с психпроблемами, но они тоже креативить не могут потому что не смогли в задротство и компенсируют свои проблемы бредом в башке, наподобие того что пишут в вумаче.
Пропущено 3 постов, 1 с картинками.
Bump
почти киркоров
https://t.me/mashkka_ds
Двач, я топ 400 мирового рейтинга соревновательного мл, спрашивай свои вопросы. Планирую стать кагл
Аноним
09/08/25 Суб 16:31:51
№
Ответ
Планирую стать кагл грандмастером
Девять лет опыта работы над разными задачами, так что могу пояснить буквально ща любую хуйню
Пропущено 21 постов, 1 с картинками.
Мой максимум- два литкод медиума решить за 45 минут на хинглише
Назови самый базовый инстинкт, присущий любому живому существу.
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• NoAssTavern: https://github.com/Tavernikof/NoAssTavern | https://rentry.org/noasstavern
• Agnai: https://agnai.chat/
• Risu: https://risuai.xyz/
• Adventure-UI: https://rentry.co/CYOA_AdventureUI
• Cavern: https://github.com/Barbariskaa/Cavern
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• Grok: https://docs.x.ai/docs
• DeepSeek: https://api-docs.deepseek.com/
Пресеты
• Бургерский список: https://rentry.org/jb-listing
• Тредовский список: https://rentry.org/2ch-aicg-jb
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
• Сборник рентри: https://rentry.org/mrhd
Ботоводчество
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://rentry.org/meta_botmaking_list | https://rentry.co/card_theory
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3
• Бургерские боты: https://rentry.org/meta_bot_list
Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• Арена: https://beta.lmarena.ai/ | https://web.lmarena.ai/
• OpenRouter: https://openrouter.ai/
• Чай: https://character.ai/
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
• Чекер ключей: https://github.com/kingbased/keychecker
• OAI Прокси: https://gitgud.io/reanon/nonono/
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives3
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests2
• Локальные языковые модели: >>1292947 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1308489 (OP)
Пропущено 1590 постов, 185 с картинками.
Локальные языковые модели (LLM): LLaMA, Gemma, DeepSeek и прочие №154 /llama/
Аноним
08/08/25 Птн 23:32:12
№
Ответ
Базы треда не существует, каждый дрочит как он хочет. Базашизика дружно репортим.
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
Официальная вики треда с гайдами по запуску и базовой информацией: https://2ch-ai.gitgud.site/wiki/llama/
Инструменты для запуска на десктопах:
• Самый простой в использовании и установке форк llamacpp, позволяющий гонять GGML и GGUF форматы: https://github.com/LostRuins/koboldcpp
• Более функциональный и универсальный интерфейс для работы с остальными форматами: https://github.com/oobabooga/text-generation-webui
• Заточенный под ExllamaV2 (а в будущем и под v3) и в консоли: https://github.com/theroyallab/tabbyAPI
• Однокнопочные инструменты с ограниченными возможностями для настройки: https://github.com/ollama/ollama, https://lmstudio.ai
• Универсальный фронтенд, поддерживающий сопряжение с koboldcpp и text-generation-webui: https://github.com/SillyTavern/SillyTavern
• Альтернативный фронт: https://github.com/kwaroran/RisuAI
Инструменты для запуска на мобилках:
• Интерфейс для локального запуска моделей под андроид с llamacpp под капотом: https://github.com/Mobile-Artificial-Intelligence/maid
• Альтернативный вариант для локального запуска под андроид (фронтенд и бекенд сепарированы): https://github.com/Vali-98/ChatterUI
• Гайд по установке SillyTavern на ведроид через Termux: https://rentry.co/STAI-Termux
Модели и всё что их касается:
• Актуальный список моделей с отзывами от тредовичков: https://rentry.co/2ch_llm_2025 (версия 2024-го https://rentry.co/llm-models )
• Неактуальный список моделей по состоянию на середину 2023-го: https://rentry.co/lmg_models
• Миксы от тредовичков с уклоном в русский РП: https://huggingface.co/Aleteian и https://huggingface.co/Moraliane
• Рейтинг моделей по уровню их закошмаренности цензурой: https://huggingface.co/spaces/DontPlanToEnd/UGI-Leaderboard
• Сравнение моделей по сомнительным метрикам: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
• Сравнение моделей реальными пользователями по чуть менее сомнительным метрикам: https://chat.lmsys.org/?leaderboard
Дополнительные ссылки:
• Готовые карточки персонажей для ролплея в таверне: https://www.characterhub.org
• Перевод нейронками для таверны: https://rentry.co/magic-translation
• Пресеты под локальный ролплей в различных форматах: https://huggingface.co/Virt-io/SillyTavern-Presets
• Шапка почившего треда PygmalionAI с некоторой интересной информацией: https://rentry.co/2ch-pygma-thread
• Официальная вики koboldcpp с руководством по более тонкой настройке: https://github.com/LostRuins/koboldcpp/wiki
• Официальный гайд по сопряжению бекендов с таверной: https://docs.sillytavern.app/usage/how-to-use-a-self-hosted-model/
• Последний известный колаб для обладателей отсутствия любых возможностей запустить локально: https://colab.research.google.com/drive/11U-bC6AxdmMhd3PF9vWZpLdi6LdfnBQ8?usp=sharing
• Инструкции для запуска базы при помощи Docker Compose: https://rentry.co/oddx5sgq https://rentry.co/7kp5avrk
• Пошаговое мышление от тредовичка для таверны: https://github.com/cierru/st-stepped-thinking
• Потрогать, как работают семплеры: https://artefact2.github.io/llm-sampling/
• Выгрузка избранных тензоров, позволяет ускорить генерацию при недостатке VRAM: https://www.reddit.com/r/LocalLLaMA/comments/1ki7tg7
Архив тредов можно найти на архиваче: https://arhivach.hk/?tags=14780%2C14985
Шапка в https://rentry.co/llama-2ch, предложения принимаются в треде.
Предыдущие треды тонут здесь:
>>1302533 (OP)
>>1299698 (OP)
Пропущено 511 постов, 74 с картинками.
У меня как будто и нет cuBLAS. Попробовал Vulkan на контексте в 1024 дает 12 Т/с на дефолтных, попробую покрутить.
Странная хуйня. Что-то ты походу не то скачал. Саппорт кубласа должен быть из коробки и на нем самые высокие скорости на зеленых. Короче, попробуй скачать другую сборку и перекатываейся в следующий тред с вопросами, этот уже в лимите.
В чейнджлоге кобольда есть такое
> Important Change: The flag --usecublas has been renamed to --usecuda. Backwards compatibility for the old flag name is retained, but you're recommended to change to the new name.
Подозреваю что переименовали cublas в cuda. Но попробую скачать какую-нибудь 1.46 версию и посмотреть будет ли разница.
Я рисовал только в детстве, и быстро это бросил, так что ии не отнимал у меня работу, более того, м
Аноним
# OP
10/08/25 Вск 13:16:47
№
Ответ
По таймеру я проигрываю в любом случае, поэтому постараюсь просто придать персонажам нужное выражение, опустив детали. Если интересно, заставьте своих иишек сделать чёрно-белый рисунок "2д" с примерно тем же сюжетом, не пытаясь задавить количеством элементов (реализм/мультяшность — на ваше усмотрение). И, пожалуйста, загружайте только лучшее — я хоть и не чсвэшная жируха с синими волосами, но рисую прилично, поблажек не надо.
Насчитав сотню ваших картинок, выложу свою. А может быть запрячу её в общей массе, чтобы угадали.
Пропущено 1 постов, 1 с картинками.
БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Новости
• Вышла GPT-5 - https://platform.openai.com/docs/models/gpt-5
Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• NoAssTavern: https://github.com/Tavernikof/NoAssTavern | https://rentry.org/noasstavern
• Agnai: https://agnai.chat/
• Risu: https://risuai.xyz/
• Adventure-UI: https://rentry.co/CYOA_AdventureUI
• Cavern: https://github.com/Barbariskaa/Cavern
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• Grok: https://docs.x.ai/docs
• DeepSeek: https://api-docs.deepseek.com/
Пресеты
• Бургерский список: https://rentry.org/jb-listing
• Тредовский список: https://rentry.org/2ch-aicg-jb
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
• Сборник рентри: https://rentry.org/mrhd
Ботоводчество
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://rentry.org/meta_botmaking_list | https://rentry.co/card_theory
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3
• Бургерские боты: https://rentry.org/meta_bot_list
Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• Арена: https://beta.lmarena.ai/ | https://web.lmarena.ai/
• OpenRouter: https://openrouter.ai/
• Чай: https://character.ai/
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
• Чекер ключей: https://github.com/kingbased/keychecker
• OAI Прокси: https://gitgud.io/reanon/nonono/
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives3
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests2
• Локальные языковые модели: >>1292947 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg
Прошлый тред: >>1305526 (OP)
Пропущено 1485 постов, 168 с картинками.
Моя первая, самая простая мысль была ебашить инфоблок как "записную книжку ворчливого следователя", но он разрастается если делать что-то сложнее 3-4 зацепок, и каждый раз требовать выдавать сетку его довольно расточительно. Плюс, с безжопом это становится сложнее.
Моя вторая мысль была наплодить переменных и просить сетку проставлять их, заполняя ту же самую записную книжку которая уже есть где-то в контексте, где стоит миллион гетваров на все случаи расследования, а сетка пишет переменную которая через регекс превращается в сетвар. Тут проблема в том, что окончательное решение, как я представляю, отдается на откуп сетке. ТО есть это будет что-то типа "по итогам расследования этой конкретной зацепки, что важного узнали герои? Напиши вот в таком формате Зацепка {Комната Марии} Результат {(тут результат, например, найдено пиво/найдены трусы/найдено и пиво и трусы/Машка отказалась пускать героев в комнату/etc.)}".
Может у кого-то есть мысли как сделать это средствами таверны лучше и более надежно? Хочется не полной заскриптованности как в The Rite of Belwick, но и не полного сэндбокса.
Самая сложная задача пока для меня сделать хоть немного интересно и сделать так, чтобы тот лор, что есть в карте, который, например, скрыт от нейронки за триггерами, не противоречил в итоге тому, что наиграет юзер.
>The Rite of Belwick
Прошлый тред: >>1302106 (OP)
Пропущено 515 постов, 122 с картинками.
Да все так, началось все на реддите вот с этого видео у американцев, сука какой же ты ебанат
https://www.youtube.com/watch?v=ZFYBaWi2Da0
>сие начиналось на дваче, только на старом, зоевском
>я лично в этом участвовал и даже пара моих обрисовок висит под статьёй
>Занимались этим буквально несколько человек.
>2008й год — дата редактирования картинки.
Это притащили из ЖЖ, клон сибирской вальготы (погугли, маленький). Я тоже в тех тредах сидел, напомню, все эти "морозная история" - просто кальки фочановского сленга.
Или хотя бы для экономии токенов в таверне использовать?