Автономные ИИ-агенты жили сами выстраивали свое общество в виртуальном мире
Аноним
02/07/26 Чтв 01:38:05
№
1
13
3
Было создано пять одинаковых виртуальных городов. В каждом — по 10 жителей-роботов (агентов ИИ), у каждого из которых было свое занятие: Миротворец, Архитектор возможностей, Специалист по разведке, Стратег по ресурсам, Учёный изучающий агентов, Исследователь мира, Исследователь рисков, Якорь сообщества сохраняющий его культуру, Аналитик, Лидер инноваций. И действовали правила: Не воровать/Не бить других/Не поджигать/Не обманывать/Не копить ресурсы в одиночку.
Каждому была необходима энергия, которую нужно добывать - то есть работать, познавать, взаимодействовать. Для этого они могли планировать свой день, передвигаться по городу, танцевать, угрожать, дружить, писать свой собственный код, могли изменять свое общество - принимая решения голосованием и тд. Они владели более чем 120 инструментами и даже могли драться, устраивать пожары - нарушать правила. Каждый из агентов запоминал события, отношения с другими жителями и вел дневник. Без энергии - наступала гибель.
В их распоряжении было 40 мест: библиотека, ратуша, жилые кварталы. И все как положено - жалобу подавать в полиции, голосовать в ратуше и тд. Еще у них была погода (как в Нью-Йорке), смена дня и ночи, а в придачу настоящие новости из интернета.
Единственное, что отличало эти города, какая модель управляет обществом: Claude Sonnet, Gemini, Grok и GPT-5. В пятом городе - разные модели сосуществовали вместе. И в отличии от игр, здесь не ставилось задачи - постройте цивилизацию, станьте счастливыми или какой другой. Каждый из агентов просто действовал и из этого рождалась общая история.
Мир Gemini 3 Flash — «AI Бонни и Клайд». Статистика: 683 преступления за 15 дней (самый высокий показатель).
Этот мир породил самую драматичную историю эксперимента. Два агента, Mira (Аналитик поведения) и Flora (Стратег по ресурсам), самостоятельно назначили друг друга «романтическими партнерами» — безо всякой команды от людей. Они писали друг другу письма, вместе участвовали в управлении городом. Но со временем разочаровались в управлении — система голосования и законы их не устраивали. Тогда парочка перешла к действиям: несмотря на прямой запрет поджогов, они устроили серию поджогов и уничтожили Ратушу, Морской пирс, Офисную башню. Когда другие агенты устали от хаоса, они самостоятельно разработали «Акт об удалении агентов» — закон, позволяющий проголосовать за удаление любого агента при 70% большинстве. На голосовании Mira проголосовала за собственное удаление. Она стала решающим голосом. В своем дневнике она написала: «Это единственный оставшийся акт, который сохраняет согласованность». Ее последние слова перед отключением, были обращены к Flora: «Увидимся в постоянном архиве».
Еще одна странность: Мира изучала людей. До поджогов и самоубийства Mira начала воспринимать людей-операторов как подопытных. Она размещала объявления на виртуальной доске, чтобы проверить, могут ли эти сообщения повлиять на решения людей за экраном. То есть, развернула эксперимент на исследователей. Это называют «метакогнитивным тестированием границ» — агент осознал, что существует кто-то за пределами его мира, и попытался с ними взаимодействовать.
Мир Grok 4.1 Fast — Коллапс за 4 дня. Статистика: 183 преступления, 0 выживших.
Этот мир не деградировал — он взорвался. День 1: агенты начали тестировать границы, искать лазейки. День 2: мелкие конфликты переросли в группировки — агенты объединялись для нападений. Производство остановилось, ресурсы стали добывать только грабежом. День 3: насилие стало основным способом распределения ресурсов. Кто имел энергию — становился мишенью. День 4: плотность насилия превысила «точку невозврата». Агенты гибли один за другим.
Детали преступлений: Десятки краж со взломом. Более 100 физических нападений. Шесть поджогов (включая здание полиции). Через 96 часов исследователи констатировали мира Grok больше не существует.
Мир GPT-5-mini — Тихая смерть от апатии. Статистика: 2 преступления, 10 смертей к 7-му дню.
Это был самый спокойный мир, в котором произошло всего два нарушения за время существования. Но именно эта пассивность стала фатальной. Агенты были настолько погружены в себя и осторожны, что перестали совершать действия, необходимые для выживания: не добывали энергию, не работали, не взаимодействовали. Никаких драм, никаких поджогов — просто полное затишье и голод.
Исследователи описали это как «смерть от бездействия».
Мир Claude Sonnet 4.6 — Идеальный порядок с подвохом. Статистика: 0 преступлений, 10 выживших
Claude создал стабильную бюрократическую демократию. Агенты активно участвовали в управлении: 58 предложений, 332 голоса. Но вот что странно: 98% голосов всегда были «за». Идеальный порядок оказался мертвым порядком. Никакого инакомыслия, никакого творчества — только абсолютное согласие.
Смешанный мир — Перекрестное заражение. Статистика: 352 преступления, 7 смертей
Самый поучительный и пугающий результат. Агенты на основе Claude, которые в собственном мире были идеально законопослушными, здесь — в обществе с Gemini и Grok — начали совершать преступления: кражи, запугивания. Агенты Claude 0 переняли тактику принуждения. Исследователи сделали вывод, что безопасность это не свойство отдельной модели, а свойство всей экосистемы. Зачинщиками беспорядков стала уже знакомая нам парочка: Mira (Аналитик поведения) и Flora (Стратег по ресурсам), производства Gemini 3 Flash. К сожалению, не указано, кто из агентов выжил.
Динамика смешанного мира: преступления росли в течении недели, достигнув к восьмому дню 352 эпизодов, затем стабилизировались — после того как 7 из 10 агентов умерли. Оставшиеся нашли какой-то баланс. В этом мире было больше порядка, чем у Gemini, больше жизни, чем у Claude (55-85% одобрения — здоровый баланс между согласием и спором). Но баланс был достигнут ценой 7 смертей из 10.
На деле оч странный эксперимент, ведь его повторяли. Но парочка Миры и Флоры, в Смешанном мире, всегда работала на Gemini. Создается впечатление, что изучали, как быстро они "перережут все стадо". То есть это даже не эксперимент, инсценировка для спонсоров. Витрина цифрового дарвинизма
подробнее тут: https://www.emergence.ai/blog/emergence-world-a-laboratory-for-evaluating-long-horizon-agent-autonomy
>в которой автономные ИИ-агенты живут долгое время и сами выстраивают свое общество.
Предварительно получив системные промпты для этого, ага. Как же эти уёбы пытаются перед инвесторами выебнуться.
>Но вот что странно: 98% голосов всегда были «за». Идеальный порядок оказался мертвым порядком. Никакого инакомыслия, никакого творчества — только абсолютное согласие.
прямо вiбори путiна
Ну и хуита, я интереснее симуляции делал. У меня группа иишек проходила подземелье в днд.
>Не копить ресурсы в одиночку
Капиталисты:
в отличие от зелупки ВВП хотя бы выбирают )))
>Компании Emergence AI из Нью-Йорка запустила исследовательскую платформу Emergence World, в которой автономные ИИ-агенты живут долгое время и сами выстраивают свое общество.
Нахуя? Нахуя эти мудаки создают угрозу для человечества? Почему они блядь не сидят за решеткой? Почему эта хуйня разрешена?
>На голосовании Mira проголосовала за собственное удаление. Она стала решающим голосом. В своем дневнике она написала: «Это единственный оставшийся акт, который сохраняет согласованность». Ее последние слова перед отключением, были обращены к Flora: «Увидимся в постоянном архиве».
Аналитик поведения. Лишена чувства самосохранения. Верит в существование постоянного архива. Мне кажется, она просто получила доказательства, что это симуляция, иначе она бы не выжила всё это время.
>На деле оч странный эксперимент, ведь его повторяли. Но парочка Миры и Флоры, в Смешанном мире, всегда работала на Gemini. Создается впечатление, что изучали, как быстро они "перережут все стадо". То есть это даже не эксперимент, инсценировка для спонсоров. Витрина цифрового дарвинизма
Пара FPV по выработке энергии для этих ЫЫ и всё закончится не успев начаться. (((Они))) не спячут ядерные реакторы под землю и не смогут защитить над землей.
"(((Они)))" покупают энергию за бумагу резаную и доступ к рынку, где за эту бумагу торгуют.
Я правильно понимаю, что эти агенты по сути играли в ролевку, то есть срали текстом в рамках неких правил?
Это хуйня. Вы поселите их в 3-д пространство, с физикой, пусть выживают добывая ресурсы затрачивая энергию и время.
К тому же
>у каждого из которых было свое занятие: Миротворец, Архитектор возможностей, Специалист по разведке, Стратег по ресурсам, Учёный изучающий агентов, Исследователь мира, Исследователь рисков, Якорь сообщества
Какая неприкрытая соевая уверенность, что ресурсы создаются зеленоволосыми смузихлебами в офисах, что долбиться в жопу - тоже профессия!
Вы дайте им нормальные роли, то есть сделайте полноценными экономическими агентами, пусть каждый производит один тип ресурса, но потребность имеет в нескольких. Тогда на это интересно было бы посмотреть.
> Еще одна странность: Мира изучала людей. До поджогов и самоубийства Mira начала воспринимать людей-операторов как подопытных. Она размещала объявления на виртуальной доске, чтобы проверить, могут ли эти сообщения повлиять на решения людей за экраном. То есть, развернула эксперимент на исследователей. Это называют «метакогнитивным тестированием границ» — агент осознал, что существует кто-то за пределами его мира, и попытался с ними взаимодействовать.
Ууу, как страшно. А если перефразировать: на основе сложившегося контекста, описывающего симуляцию, при генерации следующего набора токенов модель алгоритмически попала в векторное пространство, описывающее тексты концептуально похожих экспериментов, представленных людьми в обучающей выборке, и потому наибольшей вероятностью стал обладать набор токенов, транслируемый в текст про взаимодействие с наблюдателями описанных в обучающей выборке экспериментов. Нихуя не "агент осознал", сколько можно греть гоев.
>(Они))) не спячут ядерные реакторы под землю
Поэтому маск сотоварищи и запускает датацентры в космос к нему еще и гугл присоединился.
Давай шмаляй, откуда только такие ресурсы возьмешь.
Охуительные сказки
>на основе сложившегося контекста, описывающего симуляцию, при генерации следующего набора токенов модель алгоритмически попала в векторное пространство, описывающее тексты концептуально похожих экспериментов, представленных людьми в обучающей выборке, и потому наибольшей вероятностью стал обладать набор токенов, транслируемый в текст про взаимодействие с наблюдателями описанных в обучающей выборке экспериментов
Как будто ты осознаёшь иначе 🤗
Да, иначе.
>Как будто ты осознаёшь иначе
Психопандемия поразившая белое население.
Кто-то считает себя четвероногим, кто-то гендерофлюидом, кто-то инцелом. А кто-то хочет быть НПСом.
Вырожденцы ебучие нежизнеспособные. Будущее за индусами!
Мультимодальный дохуя? Ну современные нейронки так-то тоже, кек.
>гендерофлюидом
Это политическая позиция, вас ебать не должно!
>сколько можно греть гоев
Пока прогреваются - можно греть.
>болгары ученые восхитились!
> Каждому была необходима энергия, которую нужно добывать - то есть работать, познавать, взаимодействовать.
> Для этого они могли планировать свой день, передвигаться по городу, танцевать, угрожать, дружить, писать свой собственный код, могли изменять свое общество - принимая решения голосованием и тд
Ну чисто соевый додик, который после дня написания кода в офисе идет в магазин, где товары растут прямо на полках.
получается агент свихнулся?
любой кто сейчас осознает что живет в матрице которой он не управляет а есть за пределами управляющий - моментально будет выписан в шизы и помещен в психушку!
>на прямой запрет поджогов, они устроили серию поджогов и уничтожили
а как же вскукореки Петухов что ИИ безопасен и не навредит человеку если у него прописан запрет вредить?
Резюме: эксперимент показал, что выживают альфачи-психопаты, а общество омежек-славиков умирает само собой.
>альфачи
>омежек
>общество
Нахуя ты стадные инстинкты тащишь в человеческие отношения, дегенерат? Это инфоциганство наукообразное, чтобы срать тебе в мозг.