БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Фронтенды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards
• Risu: https://risuai.xyz/ | https://rentry.org/ox5cw9p8
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
• DeepSeek: https://api-docs.deepseek.com/
• GLM: https://docs.z.ai
Ботоводчество
• /aicg/hub: https://aicg-hub.ru/characters.html
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://aicg.neocities.org/botmaking
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3 | https://rentry.org/2chaicgtavernbots4
• Бургерские боты: https://aicg.neocities.org/bots
Ресурсы
• Бесплатные API: https://github.com/cheahjs/free-llm-api-resources
• OpenRouter: https://openrouter.ai/
• Арена: https://lmarena.ai/
• Чай: https://character.ai/
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
Мета
• Шаблон шапки: https://rentry.org/aicg_shapka
Прошлый тред: >>1638710 (OP)
Заказывайте карточки, отмечайтесь, если уже взяли реквест в работу.
Реквесты из предыдущих тредов: https://rentry.org/2ch-aicg-requests2
Чернокожая Машка. Уберсекси, сделайте.
Не, этого мало. Хочу чтобы сценарий был и другой характер.
сделай её хозяйкой гостиницы которая просит продлить аренду но у тебя нет денег
Смотря какие и зачем. Большие для кума пригодны, смотешь там своих фута-мамочек и слоп-сестричек отыграть бесплатно и без смс.
а я не хочу такое, я хочу делать долгие рпг приключения в нейронке
Ну тогда закупайся пекой за 500к, потому что единственная проблема локалок это контекст. Но до 100-150к его локально можно догнать, хотя будет дорого.
У меня 5070, то есть 12 гб, сколько контекста можно будет насрать в теории?
А я кстати вполне могу за 500к пекарню взять, вот только нахуя? Поток это 70B модели, а 400B уже не заведутся. Вот пару дней назад скачал локалок на 200 гигабайт, 8-13B едва 2+2 могут сложить, от 30-40B с большой натяжкой норм, но я ахуел, что даже на ЛОКАЛКАХ есть ебучие соевые фильтры, хотя качал всякие heretic uncensored. Нет, я уверен они пробиваются легко, но я-то думал, что на локалках вообще фильтров нет из коробки, вы что ебанулись там? Отуплять и без того тупую локалку и тратить контекст на пробив я ебал-дремал. Лучше уж дипсик.
>но я-то думал, что на локалках вообще фильтров нет из коробки
Долбоёбы берут соевые модели локальные от копроратов с встроенной соей, а потом тренят своё не убирая сою. Естественно на выходе говно будет. А тренить свою модель тредовичок не может т.к. дораха. Хотя на том же дипсике локальном особо сои и нет, все промты из шапки работают.
да не по вашу честь
у брата-мексиканца, у него даже последний опус есть.
завидуйте, сырки.
Running /resetkey will replace this key without changing your stored usage or stats.
А для чего команда? Это если ключ стух или там надо стабильно раз в какое-то время менять?
Очень много моделей которые никогда не использовал, есть рекомендации что юзфул а что кал?
/resetkey - это если ты его посеял или просто хочешь сбросить.
Стабильно раз в какое-то время там надо /checkin делать, чтобы твой ключ активировался на какое-то время (он до конца дня обычно работает).
>>1642392
GLM-5.2 попробуй.
Они все так себе, зато бесплатно. Ну как, 250 запросов в сутки.
Я только на 4.6 нашёл на оф пресетной рентри. Ну и тут охуилион каких-то. Мб знаешь рабочие? https://rentry.org/2a9c6zhi
Ну так используй его для других моделей GLM поновее. Не знаю, не пользовался чужими пресетами.
Я в вашем треде сижу дня три, а остальное время в локальном, где-то с 2023, поэтому для меня утверждения некоторых товарищей выглядят абсолютно дико.
Дипсик, кими — это охуенные монстры с отличным качеством. Даже последняя GLM, несмотря на то, что параметров у неё меньше ожидаемого оказалось и русик пососный.
Безусловно, всякие опусы, гопоты и гемини лучше, но не настолько, чтобы это называть думом. Дум разве что в том смысле, что бесплатно получить доступ безумно сложно, ну и дешёвый доступ тоже сложно получить. По крайней мере мне.
А ведь есть модели 200-400б, которые я в 3-4 кванте сам щупал. Они прекрасно работают. У вас же 8 кванты и выше, и контекст тоже. Что уж там говорить, GLM Air прекрасная модель или Qwen 235b. А они старые.
Как я понимаю, многие из вас имеют доступ к таким вообще бесплатно, потому что олды треда, есть какие-то чужие ключи, конфочки, подгончики и т. п.
Дык почему не пользуетесь? Или я чего-то не понимаю? Весь тред ведь имеет доступ к модели уровня 200б?
Толсто, пчел. Кроме опуса и фимоза сетки не могут в рп. Геминище это лоботомит, а китайские сетки это бредогенераторы на уровне пигмы. А ты просто говноед, сырок.
Ладно. Ты просто поехавший или зелёный.
>>1642611
Таки да. Но плюс опуса в том, что лучше понимает, правда.. там и с английским проблемы есть. Если на русском он просто сломан, на английском иногда ощущение, словно он просто кладёт болт на часть инструкций и не понимает верно слова, будто токенайзер шалит или что-то такое.
Просто сходи к ии и спроси как запустить Gemma 4 26b через llama.cpp со всеми шагами и ссылками. Ну и упомяни что нужна heretic версия. Если скажешь что у тебя за железо, то можно будет конкретнее говорить по моделям, но все ещё лучшим выбором будет лламацпп для запуска.
Ок, спрошу. Но все таки интересно послушать и здесь собравшихся на эту тему. По железу у меня скромно но вроде по ответам от той же нейронки должно хватать на около-нищие модели, у меня ноут с ноутбучной 4070 на 8 гигов, Инцел Кор 7 12650Н и 16 гигов ОЗУ, вроде как на не особо шустрые модельки 7б в локале должно хватать. А что не так с LM? По сути же в разы проще и удобнее накатить его и получить GUI и прочие ништяки "искаропки"
У лламы в виде сервера и так есть юай. А лм студио, оллама и прочие сорта кобольдов просто доедают за ней, и мне элементарно лень даже выяснять насколько все плохо с оптимизацией и настройками в лм студио, поэтому сразу отсылаю тебя на апстрим. Можешь и лм студио юзать если совсем лень . Модель похоже тебе светит gemma 4 26b qat q4 от unsloth. Она не бесцензурная, зато нормально работать у тебя будет. Если именно анценз все же нужен, то тогда просто ищи самый жирный qwen который влезет в видеопамять. Или же бери gemma 12b heretic q5km и начинай терпеть секунды за токен.
Понял, спасибо, анон. Я в целом готов ждать, потому что для меня это своего рода игрушка а не что-то прям необходимое, а безценз нужен именно потому что если уж и крутить локально то без цензуры иначе можно не ебаться и просто через web-версии общаться с каким-нибудь ГПТ или Дипсиком и прочими Гемини.
Анценз это всегда потери в мозгах. Так что лучше пробуй обычную, у геммы в целом достаточно мягкая цензура, плюс всегда можно попробовать jailbreak в нее кинуть (это в гугл, я вообще мимокрок и не занимался этим), если у тебя не жесть, то этого хватит. А заодно можно будет и qat 26b использовать, который все же умнее 12b и при этом быстрее будет у тебя.
Не у меня достаточно лайтовые темы для обсуждения без какой-то хуйни уровня способов РКН, веществ или любви к детям. Просто сейчас уже до смешного доходит когда хочешь обсудить что-то что выходит за грань соевого маня-мирочка и получаешь ответы уровня Я НЕ МОГУ ОТВЕТИТЬ НА ЭТОТ ЗАПРОС/МОИ АЛГОРИТМЫ НЕ СМОГУТ ПОДДЕРЖАТЬ ЭТОТ РАЗГОВОР. А так в целом понятно, будем значит методом проб и ошибок подбирать что-то более менее подходящее.
>например о положении дел в мире
Что ты там такое пытаешься задать, лол? Мне даже (((раннюю биографию))) показывает
У меня время на час больше от мск, забей. Отправил я в 8:07 по мск для тебя, а у меня в это время уже 9:07 было, а время на скрине как раз 8:45.
Инструкты желательно на англе писать лучше следует а примеры на руссише можеш
а зачем господин киракисе переписал свой пресет для гемини на русик?
вот ему я верю, а ты кто такой?
какой вклад в нейрокум ты внес чтобы твое мнение можно было учитывать?
От души, всё работает теперь. Сеньор Помидор, поднимаю стакан томатного сока за твоё здоровье.
Теперь сама прошка за gcp закончилась... Но 3.5 flash работает. Не знаю, сможешь ли ты на gcp завезти 3.1 pro, но решил доложить всё равно.
Смс выше чекни, у меня тоже самое. Щас на флешку переключил себе.
Раз уж ты, свинья, выжрала все наши ключи на геминьку, то кидай логи. Даже интересно что ты там такого в Evangelion-RPG играешь, что оставил нас тредовичков без ключей.
А ты типо не свинья? Пользовался бы тоже, кто тебе запрещает то? У меня обычные логи с литературным стилем, нахер тебе мой банальный слоп? Ну могу скинуть, мне не принципиально.
А опус пишет как опус и умнее обоих? Опус то хейтят, то боготворят... Странная тема.
Опус идеален но пиздец стал дружелюбно-соевым. Я люблю опус но он стал говном к сожалению. Хотя выбирая между сетками я бы выбрал опус.
>Опус .. люблю опус .. выбрал опус
чел, ты сеораст? или просто фиксация на опусе? просто блять как будто местоимений не завезли, я не знаю
Он пишет лучше любой сетки иу мнее любой сетки, буквально понимает на интуитивном уровне к чему ты все вел. Именно по этой причине он самый популярный и желанный. И когда он есть другие сетки никто не использует.
этот челик готов поспорить с тобой
рил, и этот разноцветный клоун говорит про лоботомию.
запомните сырки раз уж и навсегда, лоботомируют сетку не корпораты, а сами тупые юзеры - это база.
Как можно на анге рпшить и нах вообще? Ты типо английский знаешь так хорошо или че? С переводчиком же хуже, чем когда изначально ответ на ру.
а как можно рпшить на русике еще и на клоде где у тебя почти х2 токенов жрется и да я наю анге
анлак не анлак а ты продолжай жрать слопчик на русике без жалоб
Ну справедливости ради, Блето пиздец кринжово на англюсики рпешить
лучше доплатить и опус купить чем этот кал
В чем прикол? собирают данные просто?
Нах они им, не думаю что создателей моделей у таких челиков их берут
Ботухеты тред.
Ты уверен что оно тебе надо? Прокси это всегда компромисс. Китаец тебе за деньги может нарисовать опус а давать лоботомита, все логи доступны ему. Если дрочить может быть стыдно, если программировать можно случайно спалить ключ или еще че у себя на компе.
Используй бесплатные у каждого провайдера выжирая лимиты, потом ищи абузы какие подписок на фанпее например.
На опенроутере попробовал бесплатные, хуйня если честно. Я не особо требователен, мне и глм 5.2 или дипсика будет достаточно, но не по его официальной цене ясен хуй. За логи похуй, это вроде кумер тред, пусть китаец на мои фантазии подрочит. Понять хочу где этих китайцев находить, которые продают доступ
>я не особо требователен
>ну 1Т+ и 700б намана фпринцопи
Хуя ты не требовательный, братишка. Если б ты сказал, чтогеммй 31б и 120б квен готов катать, то это ещё можно было бы назвать не требовательным в рамках ллм.
Друг, я поэтому и прошу совета. Если бы мне хватало 120б я бы сидел со своими 10 баксами на опенроутере или на локалке геммы и не пукал. Я к тому, что хочется комерс моделей не опусов или гемини при думе то, но хотябы китайцев, а вот платить много ясен хуй не хочется
Меньше бакса за лям выходных токенов это дорого для тебя? Учитывая еще скидку когда в кэше будет многое.
Ну хз чел, я плачу за диппсину как самый адекватный вариант по цене\качеству.
Если совсем жостком экономить можно поставить ограничения в контексте и саммари, для кума вполне норм если грамотно прописать.
Да и программировать если отдельные модули делать потихоньку норм - конешн это не та модель которая в петлях может тебе нормально чет сделать за один промт.
почему соннет дороже опуса
>>1643132
Если на говно реверсах сидеть и платить, то тогда уж в том что в прошлом треде в начале кидали. Там и дешевле и ру карты принимают.
А вообще попроси в треде ключи на дипсик, кто-то да скинет
сто проц насрал в карточку а виноват клод не удивлюсь если еще и сжопохряк
Ну ты же можешь позволить 2к в месяц вкинуть в попен роутер?
Если кумишь, используешь дешман типа дипсик флеша, его хватит, ну или что-то в районе 100-300б. Для вдумчивого рп дипсик 4 про.
Всё. Никаких проблем. Конечно, если ты хуяришь свайпы без остановки, дрочишь 8 раз в день на самых дорогих моделях, то не хватит, да. Или если ты надмозг с 5-часовыми ролевыми играми. Но при адекватном и вдумчивом рп прям уж совсем чудовищных проблем не будет.
Основные траты вообще не на аутпут, а на инпут, потому что в хорошем рп хочется хотя бы 30-60к контекста держать, и если ты вдумчиво всё делаешь, то прикладывает по бабкам пересчётом кэша, и выходит дороже.
Какая температура стоит?
Хотя от паттерна "не то, не это, просто другое" так и не избавиться, кажется.
Очень живой монолог. А тебе нравится когда персы говорят как в художественной литературе?
Жаль что глм в целом безмозг
GLM официально для рол плея! На официальном сайте написано!
more human! richer style!
Можно потыкать и обосрать
https://github.com/Noineri/vibe_tavern
ну устал человек скрапить ключи, теперь его гнобить что ли?
уже забыли как он дарил нам непрерывный кум на протяжении всего полугода?
а. я. говорил. что кум за китаем
так вот почему у неё такой смозг и она проходится по всем инструкшн в думалке
темпа 0.75 топ п 0.9 остальное убери. ну какой сырок нынче тупой пошёл
сыглы, а потом такие свиньи выжирают у помидора 11б токенов.
нужно прекращать спунфид сыркам, они убивают нейрокум и наше хобби.
Не, я не жру, у меня контекст 30 на ввод 10 на вывод. Анону спасибо за помощь, а ты иди нахуй)
всё началось с чулочников спунфидеров жируням если бы не они то дум наступил бы гораздо позже, и я почти уверен что столь жесткая накрутка сои в последнее время именно из-за популяризации нейрокума
Нахуй мне по 116к выжирать если у меня векторизация с квеном на ПК, лол
вот ты и попался там чел по 174к выжирал а ты видимо по 116к
Ты че ебанутый что ли, лишь бы высраться чисто, старина съеби нахуй
Есть ли муфтии что платят кабанчикам за доступ к клод? Как это вообще работает?
этим муфтием был ами, но анончики прогнали его отсюда ссаными тряпками, обвинив что он пиздит наши логи и вообще это псевдомеркава
Так ты ее там выше написал, ебло. Я тебя цитировал
>>да тут у кого не спроси контекст 30к а выжирают по 11б
>>1643302
Ну условно если я куплю аккаунт или доступ к клоду через кабанский апи, наскок его, хотя бы примерно, хватит если максимум по 30к контекста юзать на боярусе 4.6? Вообще бы понимать чё и как там бля с этим клодом нахуй....
Я даже в худшие моменты без векторизации, когда на чистом саммари сидел, по 100к не жрал
60-70 быо максимум, и это пару месяцев назад и ранее
у всех по разному
есть кол-во запросов в день
есть берешь токены а каждая модель имеет мульт х1.2 х0.5 и тп
у какого жида или смола там на месяц берешь но там по моему есть ограничения по токенам в день
либо токены с реверсов у китайцев где ты платишь за 1 запрос
Не плацебо, очень хорошо работает даже в чате на 2к сообщений с ограничением контекста 30к, вообще проблем не наблюдаю. Иногда только теряется, но он и с хорошим саммерайзом теряется, когда за 1.5к сообщений переваливает
ну вон тебе скинули chatgpt bisiness за 0. Да придется позаморачиваться НО ты же вот ты сука нихуя не нарегаешь аккаунтов и не отдашь ключи тому же помидору. Дешевый пиздабол популист от тебя толку тоже никакого нет вообще-то. Мусор ебаный
Сорри, я слепошарый говнохуй, в любом случае я не знаю, что в этом контексте значит 11б, так что иди нахуй злыдень писюкавый
сколько наиграл делись опытом. буду очень рад если опровергнешь мою позицию и пруфанешь свою
а вот у тебя залупы протухшей что есть? очередной бесполезный хуесос. Твой вклад - говно в своих трусах. Трусы лучше постирай
не пойду
терпи
а то что тут кого не спроси у всех по 30к контекста а кто тогда занимает топ 10 у помидора
лол ты понимаешь свой ничтожный положняк вообще по жизни? т.е мне ради рп с лоботомитами ещё что-то делать? может быть ты там ещё за кум платишь, гой? ну да, кое что я сделал, слил в общий доступ одну проксю чтоб один холдер закрыл на неё рег за считанные минуты от греха подальше, и чтобы у меня был стабильный кум без кучи сис. а теперь съебал в свою нору и не отсвечивай
>сколько наиграл делись опытом.
Последнее крупное рп было на 1000+ сообщений. Более мелкие обычно на 500+.
у меня был чат на 1.5-2к но потом уже никакая модель технически не вывозила играть дальше, это год назад было. из-за этого я ту карточку с чатом удалил о чём очень жалею
680 рублей за 18 месяцев google ai pro, для обосранных это 38 рублей в месяц. слишком блять лакшери для таких нищих долбоебов как ты. Про положняк он еще пиздит ало блять у тебя хлеб дороже стоит
То, что одной кнопкой устанавливается и одной кнопкой подсасывае все часты из старой таверны - эта крута.
Крутость управления лорбуками оценить не смогу, т.к. никогда ими не пользовался. Не хватает сортировки персонажей по последним с которыми чятился, ползунка в списке промтов (а их скопилось много)
ну молодец хуле а у меня бесплатно даже клауде теперь терпи. и что ты этим вообще хотел доказать? шиз как обычно потерял нить диалога
>Не хватает сортировки персонажей по последним с которыми чятился, ползунка в списке промтов (а их скопилось много)
В менеджере или быстром доступе?
Вообще лучше через гит ишью предлагать всякое, проект пока сырой достаточно. Всё сделаем
> В менеджере или быстром доступе?
В быстром, до нижних просто не добраться чтобы включить
Так мб ты и занимаешь, а потому на всех подряд пиздишь в треде, лол
да как то одно время я ужимался делал саммарайзы а потом выкатывают стату и у тебя 90кк а у кого то 4б ну как то оно само желание отпадает
хотя саммарайзы я все равно делаю но уже не на 30к
Ну то есть ты тупой еблан который жрет ключи, и при этом пиздишь на других тредовичков, которые умеют в векторизацию и саммари? Гений, блядь
и че как помогли тебе саммари и векторы
пока ты там ужимаешься вася по 150к свайпает
уже сто раз говорил что помидор должен вводить ограничения
сделать чекиин лимиты и регу по дискорду как у китаез
Так я не ужимаюсь, мне вообще заебись, а ты тупой еблан, которому лень пару кнопок тыкнуть и который скрывает что он еблан, высираясь с беспочвенными обвинениями на других, потому что на жрунов мексикосов обиделся
Больше мне тебе сказать нечего хули
Охуенная вещь, но для людей с векторизацией нет инструментария, к сожалению, только через саммари ебошить
Но потенциал прям огромный, интересная штука
ты там почаще саммари на 30к делай чтобы нам и ко больше досталось
а тут целый потенциальный фишинг клиент от протычка
причем им в кондитерской по приколу спиздить логи имплаин они не сделают этого если есть возможносчть
А проблема какая? Тупняка нет, модель нормально все держит, с векторизацией тебяет контекст так же, как без нее на 70к +-
Я ж не тупая обиженка, чтобы назло блядям самому блядью становиться
это было расширение к таверне https://rentry.co/st-backdoor
А что еще в планах?
Спиздить ключи и токены тредовичков через бэкдоры?
Ну от сапплай чейн атак на 100% себя обезопасить сложно, это сейчас большая боль для всего что с нодой связано. Ну а в целом код открыт, никто не мешает его под лупой разобрать хоть построчно. Но никто этого конечно делать не будет. А вообще в проект слишком много сил въебано чтобы его похоронить спиздив логи таверны (хуле с ними делать вообще). Плагин который на коленке пишется за 5 минут другое дело
В планах вычислить каждого тредовичка по айпи и отпиздить за кум с канни
Мои логи можете пиздить спокойно, я ваще не стесняюсь, только ключ оставьте пж, и так дум
>нету антропик
Если ты про этого, то напиши ему просто в сапорт
>>1639179 →
Я его попросил дать возможность купить за рефку токены. Он уже на следующий день навайбкодил убрав вообще нахуй возможность выводить рублями хD. Но мне нормъ
Да ни я это! Просто нравится проект. Пусть лучше сырки там берут, чем на обоссаном опенроутере
Ты про которого кабана?
Хз я бы не прочь деньги тратить и покупать, но как я могу доверять мелкокабанчику - он же может китайского лоботомита опусом назвать и продавать мне
хуею с тупых дегроидов в треде
помидор, слышал этого анончика?
быром пошел гуглить купить доступ к гемини и раздал его тредовичкам.
А я пробовал
Вроде опус как опус. Кодит хорошо, на канни соевится и переводит в безопасное русло.
Ну так ща у него ключи есть и нагрузки нет будет честный опус, пусть и не 4.8 а 4.7 допустим. Потом чет случится и ебанет тебе сонет в середине сессии
там можно брать хоть по 1кк токенов и спокойно кумить докупая
я беру по 5кк и мне норм если че 100 руб не жалко
https://www.claude.com/pricing#api
Может и ебанёт, он не мой протык. Пока такого не замечал, из кринжа только сайт отваливался и опус на пару часов пропадал. чзх сойнет и китайцы каким-то образом у него дороже опуса
пишет иногда слова слитно
вчера вечером видно нагрузка была буксовал немного и отвалился даж стриминг
но за такие деньги грех жаловаться
Аитуннель.ру
>>1643430
Твой кабан у меня ни под каким впном не открывается бля. Но проблема схожая, через OpenAi Compatible пишет что мол префил не поддерживается и всё там. Сука как же жопа горит.
> Аитуннель.ру
ты ебнулся?
>Твой кабан у меня ни под каким впном не открывается бля
Я добавил сайт в антизапрет и всё заебись стало
User list general или типо того файл куда свои сайты сувать
Во 1 4.8 - соевое говно.
Во 2 тебя никто не заставляет депать на лям токенов.
да ты ебешь это дороже чем у дарио покупать хули там наценка такая
>безжоперный хуеглот подал звук с параши, а то давно его не ебали
Классика. Как там твоя ии-аська поживает, говно?
Хуйня без задач, жирухи с реддита вас, даунов, уже опередили.
"sk-2c88c5a7c32f4750a27467a8ba12065f",
"sk-10151018b0d14d5fa158139f226fa984",
"sk-509d832659e64e73bcb61fc420bf4910",
"sk-db232972e2a144d28b9f2cf919cd062c",
"sk-73adeeaec0ba47b3aa4e0834f1c54f7e",
"sk-56f233e80eb541f0b794842e9028d4ed",
"sk-ee98634ea0cc4a2ba943b568b361ca24",
"sk-8388ca8c6f3c461e89054bfb334c413c",
"sk-21f4c3de12b7462b9352a6e778832857",
"sk-197d6e94cdb643609583f5e73ba1719b",
