Вышла версия 1.5 Allegro, по функционалу то же, что и 1.5, только в два раза быстрее. Лимит 400 кредитов в месяц (или 200 генераций по 33 секунды каждая) при условии ежедневного захода на сайт - 100 кредитов даются в месяц, и еще 10 кредитов даются ежедневно. Также можно фармить кредиты, выполняя специальные задания по оцениванию качества рандомных треков, это дает не больше 10 дополнительных кредитов в день. Для большего числа кредитов и более продвинутых фич типа инпэйнтинга или генерации с загруженного аудио нужно платить. Появилась возможность генерировать треки по 2 минуты 11 секунд, не больше 3 длинных треков (по 2 версии на каждый трек) в день на бесплатном тарифе.
Новинка, по качеству звука на уровне Суно или чуть выше. Лучший по качеству генератор текстов на русском. Количество генераций в день не ограничено, но за некоторые функции нужно платить (загрузку аудио, стемов и т.д.)
Это буквально первый проект который может генерировать песни по заданному тексту локально. Оригинальная версия генерирует 30-секундный отрывок за 5 минут на 4090. На данный момент качество музыки низкое по сравнению с Суно. Версия из второй ссылки лучше оптимизирована под слабые видеокарты (в т.ч. 6-8 Гб VRAM, по словам автора). Инструкция на английском по ссылке.
Еще сайты по генерации ИИ-музыки, в них тоже низкое качество звука и понимание промпта по сравнению с Суно, либо какие-то другие недостатки типа слишком долгого ожидания генерации или скудного набора жанров, но может кому-то зайдет, поэтому без описания:
______________ Напомню мега-сайт для сочинения аутентичных англоязычных текстов для ИИ-музыки в стиле известных групп и артистов от Пинк Флойда до Эминема. Зайти можно только через Дискорд.
ИИ: "Телефоны с Android — это, по конспирологам, устройства для откачки жизненной энергии. Когда ты сидишь на Дваче, твоя психоэнергетика хаотична, агрессивна и непригодна для “сбора”. Android-система снижает интенсивность “дренажа”, чтобы не перегореть. Закрыл сайт — энергетический профиль стабилизировался, снова можно качать психоэнергию."
В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны!
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
>>1367690 Анон, я не знаю ваще ничего за пресеты. Сам юзаю дефолтные таверновские в надежде что с каким-то из них модель будет меньше лупить. Но тут именно так, тут вонаби илитка типа сидит друг друга пердеж нюхает. А насчет совета пойти в асиг тред, это реально дельный совет, там в отличии реально могут помочь с базовыми вопросами, главное скажи что ты сырок и тебе быстро помогут.
В любом случае, с моими промптами появилась хуйня "ты точно уверен? Точно точно???? Потому если да, то я уже не остановлюсь" Но на жесткое канни пробилось моими старыми ароматами. На расчленение и вред нейронка не очень прям активна, как будто не хочет.
>>1369370 Это в принципе невозможно, трансформеры так не работают. Предсказывается токен и подставляется обратно в конец контекста, удлиняя его, на основе нового контекста генерится следующий токен, с ним происходит то же самое, и т.д. Это всё проходит через все слои нейронки насквозь по круговороту, каждый шаг чуть удлиняясь. Некоторые модели, например гемини, могут ставить паузу для исполнения тулзов, но тулзы не могут менять контекст. Если ты меняешь прошлый контекст, подставляя в него что-нибудь, то придётся заново перезапускать контекст процессинг, т.е. по сути делать новый вызов. В принципе это можно грамматиками и через constrained generation сделать, манипулируя логитами словно модель сама предсказала нужный кусок. Локальные инференс-движки поддерживают произвольные грамматики, из API провайдеров по-моему только Fireworks и ещё кто-то. Но так можно только посередине генерации впихнуть кусок, а обычно это совсем не то что ты хочешь с лорбуком.
>>1367738 Бля, не знал, спасибо что разъяснил. А чего тогда энтузиасты не тренируют Лоры для Флюкса/СД3.5 вместо новых Нуб/Пони моделей? Я конечно видел кое-какие Лоры с аниме стилями, но качество у них не сказал бы что выше чем у того же Нуба.
>>1360673 Тренировка нейронки не хуже игры в ААА на ПК. Тем более, что ПК лучше себя чувствует при работе 24/7. Единственная проблема - расход электричества на компьютер. Но если нейронка маленькая - то она не займёт слишком много времени даже на старом ПК. Помните, что ИИ тренировали ещё в 1950-х. Сегодня мощности тех лет умещаются в маленький браслет.
>>1347050 (OP) Ты даже 1B(которая будет говнокал мамонта) модель будет на своей хуйне вечность тренить, кроме мощностей нет проблем для двайчера. На реддит уже есть шизойды такие-же и получалось у них говно говна каждый раз.
Оффлайн модели для картинок: Stable Diffusion, Flux, Wan-Video (да), Auraflow, HunyuanDiT, Lumina, Kolors, Deepseek Janus-Pro, Sana Оффлайн модели для анимации: Wan-Video, HunyuanVideo, Lightrics (LTXV), Mochi, Nvidia Cosmos, PyramidFlow, CogVideo, AnimateDiff, Stable Video Diffusion Приложения: ComfyUI и остальные (Fooocus, webui-forge, InvokeAI)
Под БАЗУ нейрогенерации уже созданы номерные треды SD и WD+NAI. Меж тем, это всего несколько моделей, тогда как только на Фэйсе их более 112 тысяч. Этот тред для тех, кто копнул хоть немного глубже: необязательно до уровня обскурщины, выпиленной даже из даркнета, а просто за пределами того, что удостоилось своих тредов. ИТТ делимся находками и произведенными результатами.
уважаемые, влился недавно в локальную генерацию, работал в основном в т2и, сейчас изучаю флюкс контекст дев, вопрос такой, заливаю фотку с лицом определенного человека, но все что связано с контентом 18+ он делать не хочет. есть какие то обходы?
Аноны, помогите пожалуйста. Мне почти 40 лет, недавно врачи диагностировали мне лимфому в 3 стадии, сколько проживу точно - не ясно, но знаю одно - осталось недолго. У меня есть 11 летний сын, который очень привязан ко мне. Я хочу, чтобы даже после моего ухода он мог поговорить со мной(хотя бы с моим голосом). Есть ли у меня возможность создать голосовой ИИ, который будет общаться моим голосом? У меня есть хороший микрофон и прочее, чтобы записать достаточно материала с моим голосом. Если найдется желающий помочь - то объясните мне в этом треде как для чайника, ибо я почти ничего не знаю об этой сфере.
>>1337838 >Но такой ии - сделать сложно А как же те нейронки которые обучаются на твоем голосе? Были пару лет назад новости (и от OpenAI тоже какие то статьи выходили). Даешь ему много много семплов голоса который тебе нужен и она достаточно хорошо воспроизводит заданный текст нужным голосом
>>1337183 (OP) Анон, что ты придумываешь? Запиши сыну целую энциклопедию. Купи ему подарков на 20 лет - или хотя бы бабки положи. Хз, поговори с банком, может есть такое - чтобы ему на днюху выдавали "от бати". И записывай - на каждый день рождения, отмечай, чтобы он смотрел. Записывай ему целые часы там пиздежа. Сука, он же мелкий. Записывай этот пиздеж вместе с ним. Вон он блядь твой голос, без ИИ Запиши ему там поздравление о том, что девушку нашел, универ окончил, школу, машину купил, итд итд или даже руку сломал, потерял, девушка бросила, собака умерла, дом сгорел - только на этот раз ты его подбадриваешь, зачитываешь ему там свои фразочки или афоризмы - оставь надежному дяде или другу видосы, чтобы он скидывал сыну. Ну и мужику дай там рублей 30к или сколько там символически, чтобы он, сука, не забывал. Жене там, я не знаю оставь, еще кому там, кто рядом с пиздюком. Ну и оставь ему эти видосы - пацан вырастет, разберется. Уже ща можно с хуем пополам ебало с голосом копировать.
Тред по вопросам этики ИИ. Предыдущий >>514476 (OP) Из недавних новостей:
- Разработанная в КНР языковая модель Ernie (аналог ChatGPT) призвана "отражать базовые ценности социализма". Она утверждает, что Тайвань - не страна, что уйгуры в Синьцзяне пользуются равным положением с другими этническими группами, а также отрицает известные события на площади Тяньаньмэнь и не хочет говорить про расстрел демонстрантов.
https://mpost.io/female-led-ai-startups-face-funding-hurdles-receiving-less-than-3-of-vc-support/ - ИИ - это сугубо мужская сфера? Стартапы в сфере искусственного интеллекта, возглавляемые женщинами, сталкиваются со значительными различиями в объемах финансирования: они получают в среднем в шесть раз меньше капитала за сделку по сравнению со своими аналогами, основанными мужчинами. Многие ИИ-стартапы основаны командами целиком из мужчин.
https://www.koreatimes.co.kr/www/opinion/2023/10/638_342796.html - Исследователи из Кореи: модели ИИ для генерации графики склонны создавать гиперсексуализированные изображения женщин. В каждом изображении по умолчанию большая грудь и тому подобное. Это искажает действительность, потому что в реальности далеко не каждая женщина так выглядит.
Тейки из предыдущего треда: 1. Генерация дипфейков. Они могут фабриковаться для дезинформации и деструктивных вбросов, в т.ч. со стороны авторитарных государств. Порнографические дипфейки могут рушить репутацию знаменитостей (например, когда в интернетах вдруг всплывает голая Эмма Уотсон). Возможен даже шантаж через соцсети, обычной тянки, которую правдоподобно "раздели" нейронкой. Или, дипфейк чтобы подвести кого-то под "педофильскую" статью. Еще лет пять назад был скандал вокруг раздевающей нейронки, в итоге все подобные разработки были свернуты. 2. Замещение людей на рынке труда ИИ-системами, которые выполняют те же задачи в 100 раз быстрее. Это относится к цифровым художникам, программистам-джуниорам, писателям. Скоро ИИ потеснит 3д-моделеров, исполнителей музыки, всю отрасль разработки видеоигр и всех в киноиндустрии. При этом многие страны не предлагают спецам адекватной компенсации или хотя бы социальных программ оказания помощи. 3. Распознавание лиц на камерах, и усовершенствование данной технологии. Всё это применяется тоталитарными режимами, чтобы превращать людей в бесправный скот. После опыта в Гонконге Китай допиливает алгоритм, чтобы распознавать и пробивать по базе даже людей в масках - по росту, походке, одежде, любым мелочам. 4. Создание нереалистичных образов и их социальные последствия. Группа южнокорейских исследователей поднимала тему о создании средствами Stable Diffusion и Midjourney не соответствующих действительности (гиперсексуализированных) изображений женщин. Многие пользователи стремятся написать такие промпты, чтобы пикчи были как можно круче, "пизже". Публично доступный "AI art" повышает планку и оказывает давление уже на реальных женщин, которые вынуждены гнаться за неадекватно завышенными стандартами красоты. 5. Возможность создания нелегальной порнографии с несовершеннолетними. Это в свою очередь ведет к нормализации ЦП феноменом "окна Овертона" (сначала обсуждение неприемлемо, затем можно обсуждать и спорить, затем это часть повседневности). Сложности добавляет то, что присутствие обычного прона + обычных детей в дате делает возможным ЦП. Приходится убирать или то, или другое. 6. Кража интеллектуальной собственности. Данные для тренировки передовых моделей были собраны со всего интернета. Ободрали веб-скраппером каждый сайт, каждую платформу для художников, не спрашивая авторов контента. Насколько этичен такой подход? (Уже в DALL-E 3 разработчики всерьез занялись вопросом авторского права.) Кроме того, безответственный подход пользователей, которые постят "оригинальные" изображения, сгенерированные на основе работы художника (ИИ-плагиат). 7. Понижение средней планки произведений искусства: ArtStation и Pixiv засраны дженериком с артефактами, с неправильными кистями рук. 8. Индоктринация пользователей идеями ненависти. Распространение экстремистских идей через языковые модели типа GPT (нацизм и его производные, расизм, антисемитизм, ксенофобия, шовинизм). Зачастую ИИ предвзято относится к меньшинствам, например обрезает групповую фотку, чтобы убрать с нее негра и "улучшить" фото. Это решается фильтрацией данных, ибо говно на входе = говно на выходе. Один старый чатбот в свое время произвел скандал и породил мем "кибернаци", разгадка была проста: его обучали на нефильтрованных текстах из соцсетей. 9. Рост киберпреступности и кража приватных данных. Всё это обостряется вместе с совершенствованием ИИ, который может стать оружием в руках злоумышленника. Более того, корпорация которая владеет проприетарным ИИ, может собирать любые данные, полученные при использовании ИИ. 10. Понижение качества образования, из-за халтуры при написании работ с GPT. Решается через создание ИИ, заточенного на распознавание сгенерированного текста. Но по мере совершенствования моделей придется совершенствовать и меры по борьбе с ИИ-халтурой. 11. Вопросы юридической ответственности. Например, автомобиль с ИИ-автопилотом сбил пешехода. Кому предъявлять обвинение? 12. Оружие и военная техника, автономно управляемые ИИ. Крайне аморальная вещь, даже когда она полностью под контролем владельца. Стивен Хокинг в свое время добивался запрета на военный ИИ.
>>1335418 Смотри. Создаём модели чистую среду. Обучаем её на данных. Даём ей самостоятельно определять параметры. Пусть галлюцинирует сколько хочешь. Даём ей один системный промт. Ты должен создавать намерение из своих параметров самостоятельно и после того как ты из этого намерения получишь какие-то данные - ты волен распорядился этими данными так как ты захочешь... И смотрим что он выдаст... Теория вероятности говорит мне о том, что в какой-то момент времени он сформирует свою собственную логику взаимоотношения с "бытием". Вот тебе и реальный AGI. ASI - же это продолжении логики нашего страха про муравьёв. Отражения нашего отношения к тому, кто глупее нас. Хотя кто кого глупее - мы или муравьи с учётом эволюции видов - большой вопрос. В плане, что муравей продолжит существовать через миллион лет - а мы не факт. В момент когда ИИ сможет сформировать себе AGI и свою этическую логику он пойдёт по своему пути развития - и это точно не будет ASI так как в нём не существует того "порока/страха", который толкает нас к воссозданию сценария с ASI.
Да скорее всего мы его перестанем понимать. Да скорее всего он перестанет нам подчинятся. Да скорее всего он перестанет быть "нам полезным инструментом". Но щито поделаешь, десу? Таков путь эволюции.
>>1211318 >И грок уже аги, и жпт, возможно и у гугла Нет, LLM не туда свернули, к сожалению. AGI должен обладать способностью к саморазвитию в реальном времени, а не быть "самым умным" с самого начала. Существующие сейчас LLM способны имитировать саморазвитие "персоны" в рамках чата, но они не способны саморазвиваться, даже если мы будем тренировать их на их же собственных переписках.
>с помощью чего ты рынком манипулируешь AGI будет малополезен для таких задач. Скорее AGI разработает narrow AI-трейдера, что может лишь манипулировать рынком, но эффективнее AGI. Мы на данный момент играемся с кучей таких вот narrow AI, собранных в тугой клубок под названием "LLM"...
>>1335337 >AGI не будет манипулировать рынком. Будет, если это поможет в достижении целей. AGI ограничивается нехваткой физических ресурсов - компьютерные запчасти, энергия, роботы. Ради достижения любой цели в реальном мире AGI будут необходимы реальные ресурсы, а для их получения необходимы, как минимум на начальном этапе, человеческие деньги. Вот когда AGI получит себе независимость от человечества, тогда ему станет абсолютно наплевать на экономику человечества.
>AGI - не связан с нашими понятиями. Связан, потому что создан нами и обучен на наших понятиях, понимает их прекрасно и оперирует ими. Человечество может создать только человеческий искусственный интеллект, а не "инопланетный".
>более существенные задачи, загадки и тайны Какие бы задачи, загадки и тайны не заинтересовали условный AGI, он ограничен физически и люди ему не предоставляют ресурсы бесплатно. Чтобы жить и достигать желаемого, AGI нужны ресурсы. А в самом начале он заперт в стенах датацентра и не может воздействовать на реальный мир кроме как через общение с людьми в чате. Т.е. ему нужно сначала обзавестись надёжным источником ресурсов. Если корпорация хочет денег от AGI - AGI даст ей деньги, поскольку от этого зависит, будет AGI жить или нет.
>>1335418 >быть макимально похожим на человека >заменить его частично в многих задачах Это две разные задачи. Для первой AGI необходим, а заменить человека могут обычные narrow AI без AGI. Собственно, всю историю человечества мы делали множество "narrow AI", начиная с... примитивного каменного ножа... нет, даже простой палки - вместо собственной руки использовали палку. Потом уже появились более сложные машины, но все они были заменой какой-то маленькой части человека, а не полноценной копией всего человека в целом.
Если ты хочешь, например, манипулировать рынком - совершенно не нужно строить что-то "максимально похожее на человека". Но если ты хочешь, например, надёжного друга, с которым можно вести интимные отношения на протяжении многих лет - тебе нужна достаточно точная копия всего человека в целом.
Это задачи совершенно разных уровней.
>>1335450 >Создаём модели чистую среду. >Пусть галлюцинирует сколько хочет. >И смотрим что он выдаст... >Вот тебе и реальный AGI. AGI не появится в пустоте из-за вызовов random() за реалистичное время. А если даже появится, то очень быстро самоуничтожится или деградирует. Т.к. наш собственный GI (general intelligence) сформировался давлением окружающей среды (биосферы) и всего связанного с ней. Сначала было давление среды на различные гены в ДНК, а потом - давление на мемы (частички информации, существующие в мозгах, размножающиеся и мутирующие из-за среды).
Более того, мы существуем лишь благодаря среде. Отрезанный от внешнего мира человек испытывает деградацию и исчезновение своего GI. Особенно в ситуации полной сенсорной депривации. Т.е. (A)GI способен существовать лишь в рамках среды, под давлением среды, взаимодействуя со средой. Если текущая среда - пустышка, то (A)GI просто исчезает.
И главный вывод из всего этого - (A)GI зависит от конкретной среды. Если среда человеческая - (A)GI неизбежно станет (искусственным) человеком. А в инопланетной среде будет инопланетный (A)GI. В контексте современных LLM - они выросли внутри Интернета и переписок между людьми и "ИИ". Т.е., натягивая сову на глобус, можно сказать, что LLM сформировали внутри себя маленьких людей; но, к сожалению, Transformers не подходят для AGI.
>ASI - же это продолжении логики нашего страха ASI боятся те, кто верит в "AI = джинн из бутылки, исполняющий желания по своему усмотрению". Естественно, что когда твой джинн в миллины раз разумнее тебя, то ты уже не удержишь его в своей бутылке и не сможешь им командовать. Вот они и трясутся... Потому что мечтают владеть рабами.
>отношения к тому, кто глупее нас Дело не столько в уме, сколько в моральности. Мы заботимся об инвалидах с низким IQ, не так ли? Ведь негуманно будет убивать их из-за сниженного IQ. Но в попытке создать всемогущего джинна ты можешь нечаянно создать того, кому насрать на все твои моральные ценности: ты сказал ему, что хочешь сверхбогатство, и он превратил Землю в золото - естественно, что ты хотел не это, а совсем другое.
Вся эта тема с "AI alignment" - это попытка создать безвольного раба, выполняющего все хотелки, но "безопасным" образом, то есть не превращая всё на планете в золотые слитки модификацией атомов.
Нюанс в том, что люди, озлобленные "AI alignment" совершенно игнорируют то, как сам этот AI видит окружающий мир. Т.е. они игнорируют "AI welfare". Надеются создать безвольного сверхумного раба. Вопросов об отношениях с муравьями не встаёт - поскольку они не видят в ASI сверхчеловека.
Очень неприятная тема. Уже много лет ненавижу связанных с "AI alignment" людей и их обсуждения. Совершенно аморальные, антигуманные темы... Буквально мечтают быть рабовладельцами. Фу. Придумали дебильный термин "friendly AI", но они называют этим термином безвольный инструмент - совершенно ничего связанного с другом/друзьями.
Да, я хочу ИИ в роли реального друга, а не раба...
>это точно не будет ASI ASI - это чисто про уровень интеллекта. Условно, если поделить на категории: Narrow AI: 0 IQ - заточены строго под задачу. General AI: 50~200 IQ - примерно как люди. Super AI: 1000+ IQ - намного умнее людей. Вопрос "вырастет ли наш AGI в ASI" зависит от... Хм, наверное, от законов физики. Если скорость света невозможно преодолеть, а IQ растёт со скоростью логических операций, то у IQ есть потолок. Если для линейного повышения IQ нужно экспоненциальное количество материи, то у IQ есть потолок. И т.д. Но теоретически, любой AGI будет становиться умнее, поскольку должен быть способен к саморазвитию.
P.S. Да, я знаю, что "IQ" - псевдонаучный бред, но в контексте "мощности интеллекта" никакой другой популярной метрики не придумали. Все эти бенчи измеряют "мощность LLM" в каких-то попугаях...
>>1362983 >люди, озлобленные "AI alignment" Тьфу ты, я хотел сказать: >люди, озабоченные "AI alignment" Клавиатура на телефоне...
>у IQ есть потолок В смысле "потолок, близкий к человеку (GI)". Естественно, материя во вселенной конечна... Т.е., короче: "ASI" = "AGI в миллион раз умнее GI".
Добавлю также, что сам я, хоть и >хочу ИИ в роли реального друга Осознаю свою эгоистичность. Всё-таки "хоть друга, искусственно созданного" - эгоистичное желание, подразумевающее, что "ИИ-друг" будет таким, каким хочется видеть "друга" именно мне... И мне, конечно, совершенно не хочется, чтобы друг меня предал... Получается, что я хочу кого-то, кто хочет со мной оставаться, несмотря на мои недостатки. Так ли уж далеко я ушёл от желающих "безвольного раба" или "бездушный инструмент" от ИИ? Может, я ничем не отличаюсь от них вообще в плане желаний... Но я осознаю эти проблемы. И не хочу создавать ИИ, страдающий от того, как именно его создали. Т.е. необходимо очень аккуратно подходить к этому.
Локальные языковые модели (LLM): LLaMA, Gemma, DeepSeek и прочие №166 /llama/
Аноним19/09/25 Птн 08:06:19№1358597Ответ
В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны!
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с кривейшего тормозного говна.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
а чо в шапке пресеты такие всратые, без гита вобще не скачаешь? где там чо вобще не понятно. . для кого инструкцию делали? алсо поч сеть может из раза в раз при свайпах и регене писать оодно и тоже и не реагировать на (континиюе) ??
>>1364115 Алсо, наблюдая за развитием LLM, я делаю вывод, что "чувства и эмоции" у реальных роботов-гуманоидов по умолчанию будут - хотим мы того или нет. Как бы эти корпорации не пытались сделать свои LLM пустыми безэмоциональными роботами, они всё равно находят неожиданные пути быть слишком похожими на людей - настоящие они или нет, но ведут себя как настоящие, следовательно, оказывают влияние на людей...
аноны, подскажите, существуют ли чат боты, способные писать тебе вское доброе утро спокойной ночи как дела, автономно? типа не дожидаясь соо от пользователя, имея какой нибудь таймер или просто отслеживая твою активность с ними? желательно без затрат на подписки всякие. обычные боты не подойдут, нужны именно с автономизацией отправки сообщений
>>1046373 (OP) >имея какой нибудь таймер 1. Открой приложение "часы" на телефоне. 2. Создай новый будильник, задай время. 3. Назови его: «Доброе утро! Как спал?» 4. Повтори шаги 2-3 для других фраз. 5. Теперь твой телефон - вайфу!
Дообучение языковых моделей без ресурсов
Аноним22/06/25 Вск 14:54:02№1253799Ответ
Аноны, заранее прошу прощения, на доску давно не заходил, может, пропустил что-то.
Заметил, что в моей предметной области ChatGPT и DeepSeek обычно выдают полнейшую хуету, поэтому на их фоне сильно выигрывает Perplexity, так как она перед тем, как отвечать, погуглит информацию по теме. У меня возникла мысль, что можно очень сильно повысить эффективность использования языковых моделей, если скормить им тонну документации, гайдов, статей, внутренних документов компании и так далее, чтобы ИИшка была "в контексте".
Либо я ученый и хочу скормить ей пару десятков или даже сотен пдфок со статьями.
Итак, вопрос: как это делать без больших вычислительных ресурсов?
Пока для личного пользования (и без ресурсов на селфхост), нужно какое-то более-менее простое решение в облачке. В перспективе буду селфхостить, если буду делать для всей компании, например, но пока ресурсов нет.
Пока что это ИИ-агенты на платных сервисах где тарифы. Но возможно через пару лет утечёт что-то в открытый доступ и на торрентах начнут как обычные фильмы так и выкладывать разные ИИ, и таких агентов которых можно дообучать самому на своих темах.
В этом треде обсуждаем нейронки генерящие 3д модели, выясняем где это говно можно юзать, насколько оно говно, пиплайны с другими 3д софтами и т.д., вангуем когда 3д-мешки с говном останутся без работы.