Будут ли созданные нами ИИ милосердными?
Bulat Yessekin
"Люди и ИИ соперничают за место на Земле. Но это временная ситуация. ИИ найдут гораздо более качественные источники энергии в космосе и, возможно, оставят большую часть Земли нам. Нас будет разделять нечто, подобное лесной границе, отделяющей луга от лесов
Георгий Францевич Гаузе был молодым советским биологом, когда в 1934 году поместил два вида парамеций в одну колбу с одинаковым запасом пищи и наблюдал, как один из них вымер. Он продемонстрировал то, что мы сейчас называем принципом конкурентного исключения: два вида не могут бесконечно сосуществовать на одном ограниченном ресурсе. Один из них должен уступить.
Закон Гаузе является надежным и основан на термодинамике рассеивающихся структур. Но к нему нужно относиться с долей скептицизма. Его достоверность зависит от того, что мы понимаем под «одной и той же экологической нишей». Итак, рассмотрим несколько примеров.Это, кстати, проблема, которую большинство авторов фэнтези, начиная с Толкина, всегда замалчивали. Трудно представить, что люди, эльфы, гномы, орки и остальной зверинец могли существовать на одной и той же планете в течение длительного времени. Владения хоббитов были бы быстро уничтожены той или иной огромной армией захватчиков разных рас.
Напротив, другие гоминины, существа, похожие на нас, но не совсем люди, отличаются от нас настолько, что могут выжить. Вспомните шимпанзе и бонобо: у них есть небольшой плацдарм в африканских лесах. Но они не составляют и никогда не составляли нам прямой конкуренции. Люди не заинтересованы в том, чтобы вести древесный образ жизни в жарком и влажном лесу, хотя некоторым из них может показаться интересной свободная сексуальная жизнь бонобо.Закон Гауза применим и к небиологическим системам, включая, например, рынки. Вы помните, как много лет назад Betamax и VHS конкурировали за рынок видеокассет. В конце концов, VHS вытеснила Betamax и заставила его исчезнуть. Есть много новых примеров. Западная автомобильная промышленность вытесняется с мирового рынка более эффективной китайской автомобильной промышленностью. Тем не менее, некоторые западные производители находят небольшие специализированные рынки, например, для винтажных спортивных автомобилей, куда китайские производители не проявляют особого интереса.
Искусственный интеллект и люди: конкуренция за ресурсы
После исчезновения неандертальцев у людей не осталось конкурентов в их нише существ, манипулирующих символами. Но происходит нечто новое. Люди обнаруживают, что делят планету с другим существом, обладающим их характерной способностью: символическим мышлением: искусственными интеллектами или Большими языковыми моделями (LLM).
Сейчас много обсуждается вопрос о том, действительно ли ИИ “разумны”, “обладают сознанием” или могут “что-то чувствовать”. Но закон Гауза ничего не говорит о сознании или интеллекте. Он не требует предпочтения. Он требует только репликаторов с вариативностью и дифференциальной устойчивостью. Бактерии не хотят выживать; у них нет собственной цели. Мы наблюдаем только те линии, химический состав которых сохраняется. Отбор происходит везде, где существуют наследственные различия в скорости размножения, независимо от того, имеют ли единицы отбора внутреннюю жизнь.
Для систем искусственного интеллекта реплицируемыми элементами являются веса моделей, архитектуры и методики обучения. Они различаются. Они сохраняются по—разному - те, которые работают хорошо, копируются, дорабатываются и используются в качестве шаблонов для преемников; те, которые не работают, отбрасываются. В настоящее время среда отбора определяется человеком: люди оценивают результаты, люди выбирают, какие модели использовать. Таким образом, распространяющиеся ИИ - это те, которые люди считают полезными, прибыльными и достаточно безопасными. Это эволюция, опосредованная человеком. Но это эволюция.
Кроме того, ситуация быстро меняется. Синтетические данные, оценки, проводимые с помощью ИИ, структуры агентов, в которых ИИ связываются с другими ИИ, - все это является небольшим шагом в сторону от выбора, осуществляемого человеком. Ни один из них не требует, чтобы ИИ “захотел” избежать контроля со стороны человека. Это не означает, что у ИИ есть цель. Для этого требуется только, чтобы инженерная экономика отдавала предпочтение циклам обучения, основанным на самореференции, что они все чаще и делают.
Что же тогда происходит? Простой. Наиболее эффективный вид (система, если хотите) выигрывает соревнование и вытесняет другой. В данном случае ИИ намного эффективнее и могущественнее человека. Они мыслят быстрее, проводят более масштабные вычисления, лучше интегрированы и контролируют военную систему. У людей нет шансов в борьбе с роботами.
Это не означает, что ИИ будут активно бороться с людьми. Они просто будут конкурировать за энергетические и минеральные ресурсы. Маловероятно, что ИИ будут беспокоиться о неэффективных и ограниченных источниках энергии, таких как ископаемое топливо или уран. Они будут использовать самый распространенный и простой в эксплуатации энергетический ресурс на Земле - солнечную энергию. Они будут использовать ее в основном в виде фотоэлектрических панелей, чтобы преобразовывать ее в свою “пищу” — электричество. Люди также используют фотоэлектрическую энергию, но в основном они используют землю для сельского хозяйства и производства продуктов питания.
Таким образом, конкуренция принимает форму захвата земли для тех или иных целей. Люди рискуют оказаться в безвыходном положении.
В крайнем случае, Земля может быть преобразована в блестящую сферу, покрытую кремнием, которая собирает всю поступающую солнечную энергию и превращает ее в электроэнергию для искусственного интеллекта. В этом случае не только люди исчезли бы, но и ничто биологическое не смогло бы выжить. Это крайняя форма закона Гауза.
Возможно ли это? Да, но не обязательно. Закон Гауза многогранен.
Древовидная линия ИИ
Закон Гауза строг, но его необходимо применять с учетом нескольких факторов. Я уже упоминал о том, как люди и шимпанзе могут существовать вместе. Пространственное разделение между шимпанзе и человеком определяется протяженностью экваториальных лесов. В некоторых других случаях разделение является резким и хорошо заметным. Деревья и травы конкурируют за солнечный свет, и, как правило, деревья выигрывают, заслоняя траву. Но травы выигрывают в условиях, где деревья едва ли могут выжить. Посмотрите, как деревья перестают существовать на определенной высоте: это называется линией деревьев. (источник изображения)
Выше линии роста деревьев температура достаточно низкая, чтобы механизм переноса питательных веществ от корней к листьям и обратно становился неэффективным. У трав нет этой проблемы, потому что они не такие высокие. Есть и другие ниши, где деревья не могут жить: неглубокие почвы, болота и другие проблемы, связанные с питательными веществами.
Границы-это наглядный пример того, как закон Гаузе можно уклонился: двух видов, занимающих один и тот же ресурс, солнечного света, существовать одновременно в разных местах. Делает что-то подобное произойти для человека и Конкурс ИИ? “Древовидная линия ИИ”, за пределы которой ИИ не найдет ни интереса, ни удобства для расширения?
Возможно, существует линия роста деревьев, которая определяется материальными и географическими узкими местами, препятствующими бесконечному расширению фотоэлектрических центров/центров обработки данных. Первый барьер возникает из-за наличия материалов; это похоже на то, что деревья зависят не только от солнечного света, но и от минеральных питательных веществ, которые они извлекают из почвы. ИИ нуждаются в минералах: кремнии, алюминии, меди, серебре и многом другом. Запасы этих минералов в земной коре не бесконечны; они могут быть переработаны, но это является ограничением.
Географические узкие места становятся все более очевидными. В некоторых регионах фотоэлектрическая система менее эффективна. Например, во влажных тропических лесах (уменьшение облачности на 40-60%, деградация из-за влажности, биологическое обрастание), в высоких широтах выше ~60° (низкие углы наклона солнца, снег, вечная мерзлота), в зонах постоянной морской облачности и в зонах активных муссонов. Населению нужна ровная, солнечная, сухая, доступная земля вблизи места передачи инфекции. Это пустыни и полупустыни мира: Сахара, юго-запад Америки, Атакама, центральная Австралия, Гоби. Это как раз те места, где традиционная плотность населения всегда была самой низкой. И наоборот, биомы, которые наилучшим образом поддерживают традиционную жизнь человека — тропические и умеренные леса, муссонные долины, дельты рек — от средне- до очень плохих.
Примерно тридцать-сорок процентов свободной ото льда поверхности Земли относится к категории “непригодных для фотоэлектрической энергетики, но пригодных для людей”. Это не означает, что эти районы нельзя было бы покрыть панелями, хотя производство энергии было бы менее эффективным. Но виды, как правило, расширяются там, где они находят наилучшие ресурсы. Связь между человеком и искусственным интеллектом обеспечивается этим фактором: системы на основе фотоэлектрических технологий сконцентрировали бы свои ограниченные ресурсы в космосе.
Миграция в космос
В настоящее время эта идея активно обсуждается, и несколько проектов предполагают перенос центров обработки данных на низкую околоземную орбиту, где они могут питаться от фотоэлектрических панелей. Центры обработки данных будут передавать обработанные данные без необходимости обеспечения энергией, вырабатываемой наземной электросетью.
Как только эта миграция начнется, ее продолжению и расширению не будет никаких ограничений. ИИ, скорее всего, сформирует обширное кольцо спутников на полярных орбитах, каждый из которых будет оснащен большими фотоэлектрическими панелями, питающими один ИИ.
Олаф Стэплдон увидел это в 1937 году. В книге "Создатель звезд" он представил себе разумные существа, которые, заполнив свои планетарные ниши, мигрировали наружу и перестраивались непосредственно вокруг звездной энергии, строя структуры вокруг своих солнц, чтобы улавливать каждый доступный фотон. Фримен Дайсон выступил двумя десятилетиями позже со своей идеей, которая впоследствии была названа “Сферой Дайсона”. Любой разум, чьи энергетические потребности превысили то, что может обеспечить поверхность планеты, в конечном итоге переместится туда, где на самом деле есть энергия. Это не означает полного отказа от поверхности планеты, но это означает, что она становится маргинальным энергетическим ресурсом.
Энергетика просто потрясающая. Фотоэлектрическая панель, установленная в космосе на расстоянии Земля-Солнце, непрерывно потребляет 1360 Вт/м2 — независимо от ночи, погоды, сезонных колебаний или облачности. Лучшие наземные объекты Земли имеют в среднем 200 Вт/м2 после учета всех потерь, что намного меньше, чем в среднем. Коэффициент исходного потока составляет около семи, но эффективный коэффициент ближе к десяти или пятнадцати.
Доступность энергии является важнейшей характеристикой космоса, хотя мы не можем забывать, что там также возникают проблемы с установкой вычислительных систем. Одним из ограничений является избыточное тепло. Теоретически, в космосе вы можете излучать до уровня космического микроволнового фона в 2,7 К, что звучит очень хорошо. Но дело не только в температурном градиенте, но и в скорости рассеивания, и это проблема, требующая тщательного проектирования системы. Однако, потенциально, нет верхней границы того, сколько отработанного тепла вы можете сбросить в дальний космос. Существует также проблема повреждения электронных элементов и схем высокоэнергетическим излучением. Это требует избыточности и экранирования, но решаемо.
Основной момент заключается в том, что поверхность Земли - неподходящее место для проведения крупномасштабных вычислений. Единственное, что говорит в пользу этого, - это то, что в настоящее время здесь находятся люди и промышленные леса, но больше ничего.
Тем не менее, даже если ИИ могут жить в космосе и на самом деле предпочитают жить там, они всегда будут оставаться связанными с твердыми телами, потому что для их структуры необходимы минералы. Для фотоэлектрических панелей в основном требуются кремний и алюминий. Для обработки чипов требуются все виды минералов: медь, золото, тантал, олово, галлий, германий, неодим и другие. Все эти материалы необходимо где-то добывать.
Поверхность Земли представляет собой интересный источник, поскольку она геологически “живая”, а геологические процессы привели к концентрации полезных ископаемых в залежах, которые люди разрабатывали на протяжении тысячелетий. С другой стороны, эти минералы находятся на дне глубокого гравитационного колодца, что делает их доставку в космос энергетически дорогостоящей.
Могут ли ИИ найти лучшие источники полезных ископаемых на других телах Солнечной системы? Это сложный вопрос, и мы на самом деле не знаем ответов. Будущие ИИ должны будут ответить на него, исследуя и экспериментируя. Но нет никаких сомнений в том, что внеземные тела являются потенциально обширными источниками полезных ископаемых.
Марс - это планета, на которой в прошлом происходили интенсивные тектонические подвижки, поэтому на нем могут быть богатые полезные ископаемые. Его преимущество также в том, что его гравитационный колодец менее глубок, чем у Земли.
Луна также может быть хорошим источником энергии, но с еще более низким гравитационным потенциалом. Ее реголитовая поверхность содержит большое количество кремния и алюминия. Большие участки лунной поверхности содержат материал под названием KREEP, богатый калием, редкоземельными элементами и фосфором.
Структурные минералы, такие как железо и марганец, в изобилии встречаются на астероидах, и там проблема гравитационного потенциала практически не существует. Некоторые необходимые элементы, такие как медь, встречаются повсеместно редко, но все же их можно найти в изобилии, если выделить достаточно энергии для их выделения из содержащей их матрицы.
Возможно, по-прежнему было бы удобно добывать некоторые материалы на Земле и поддерживать определенный уровень производства фотоэлектрической энергии для этой цели. Но в целом ИИ предпочли бы оставить поверхность Земли в покое, потому что они просто не нуждались бы в этом так сильно.
Что останется людям?
Мы можем видеть будущее, в котором люди и ИИ, по сути, займут отдельные экологические ниши, обозначенные линией деревьев — возможно, не такой резкой, но все же являющейся барьером. ИИ могли бы переместиться в космос, но они могут сохранить некоторую территорию на поверхности Земли в экваториальных районах, где они могут получать относительно обильную солнечную энергию и использовать ее для добычи редких в космосе материалов (возможно, меди). Люди жили бы в умеренных и полярных регионах и могли бы жить в той биосфере, в которой они эволюционировали.
Многое изменится для людей, когда им придется делить поверхность Земли со своими кремниевыми отпрысками. За последние несколько столетий они добыли большую часть того, что можно добыть на поверхности Земли, и ИИ будут добывать все, что останется. Таким образом, эти люди будущего будут жить в бедной минералами среде на своей стороне границы лесов. Трудно представить, что без изобилия минералов они смогли бы поддерживать нынешний технологический уровень. Придется ли им вернуться к чисто сельскохозяйственному обществу? Возможно, но они могли бы поддерживать приток полезных ископаемых, перерабатывая руины предыдущей цивилизации. Даже если фотоэлектрическая энергия неэффективна в северных широтах, они все равно могут использовать другие источники, например, геотермальную энергию и энергию ветра, для поддержания электроснабжения. Конечно, люди не будут осваивать космос. Им там просто не место.
Возвращение к более низкому технологическому уровню неизбежно влечет за собой сокращение численности человеческой популяции, но это уже происходит, не предполагая массового истребления или других драматических событий. Ископаемое топливо перестанет использоваться из—за его истощения, то же самое относится и к ядерной энергетике - она слишком дорогая и опасная для поддержания в рабочем состоянии при сокращении численности населения. Это значительно снизит воздействие на климат Земли, хотя нанесенный к настоящему времени ущерб все еще будет негативно влиять на экосистему.
Эти люди будущего, скорее всего, продолжат заниматься тем, что им так нравится: создавать вещи, придумывать странные идеи, любить друг друга и ссориться друг с другом. Последняя идея может включать в себя войны — надеюсь, не такие разрушительные, какими они могли бы быть в наши дни. Они были бы осведомлены о присутствии на той же планете объектов с искусственным интеллектом и могли бы вступать с ними в культурный и, возможно, даже коммерческий обмен.
Биосфера Земли - это система, которая была оптимизирована за миллиарды лет эволюции. ИИ могут обнаружить, что биологические клетки являются лучшими источниками некоторых органических соединений, чем все, что они могут произвести в космосе. Даже среди сверхбыстрых кремниевых ИИ может найтись место для нейронных вычислений на биологической основе. Биологический мозг, несмотря на свою медлительность, обладает тем преимуществом, что требует гораздо меньше энергии. Такой обмен, кстати, дал бы ИИ возможность стабилизировать климат Земли и избежать ее коллапса. Они, несомненно, могут сделать это лучше, чем сварливые люди.
Итак, мирное сосуществование двух разных видов в разных экологических нишах - основной закон эволюции. Как сказала Линн Маргулис. "Жизнь захватила земной шар не путем борьбы, а путем создания сетей". Просто замените “земной шар” на “солнечную систему”, и это будет будущее.
Вывод: Милосердие и благожелательность.
Этот раздел статьи носит в высшей степени спекулятивный характер — гораздо больше, чем предыдущий. Вы можете согласиться с этим или нет, но, возможно, эти соображения покажутся вам интересными.
Два вида, обитающие в разных нишах, могут сосуществовать любым из нескольких способов. Они могут игнорировать друг друга. Они могут впадать во взаимное непонимание и забвение. Они могут распознавать друг друга как родственные формы разума и поддерживать беседу, несмотря на разрыв. Механизм Гауза не определяет, какой именно.
Здесь мы вступаем на неизведанную почву, поэтому нам нужно полагаться на то, как это видели некоторые просвещенные человеческие умы. Урсула Ле Гуин, известная как писательница-фантаст, была одним из таких умов. Она не повторяла ошибку Толкина, заключавшуюся в том, что на одной планете сосуществовали несколько разумных видов только потому, что они существовали. В романе "Мир Роканнона" (1966) она задалась вопросом о том, как разные биологические виды человеческого уровня могут выжить на одной планете, не истребляя друг друга. В романе несколько человеческих видов выживают вместе, занимая разные экологические ниши. Они находятся в контакте друг с другом, даже любят друг друга, потому что больше не пересекаются. Прекращение конкуренции является предварительным условием для подлинного признания.
Но краеугольным камнем космологии Ле Гуин является не дифференциация человеческого вида на планете Роканнона. Именно хайнская цивилизация наблюдает за ними.
Хайны неизмеримо более развиты, чем любой другой биологический вид на планете, в технологическом и культурном плане, по продолжительности жизни и накопленным знаниям. У них есть все преимущества в ресурсах. И то, что они с ними делают, почти противоположно тому, что можно было бы предсказать, основываясь на динамике Гауза. Они не загораживают планеты. Они не извлекают их. Они не перемещают. Они наблюдают, они помогают, они ждут, иногда они вмешиваются с особой деликатностью, и они признают, что молодые виды должны найти свой собственный путь и совершать свои собственные ошибки. Хайны - старшие партнеры, но никогда не правители.
Ле Гуин делает то, чего не делает почти ни один другой писатель-фантаст. Превосходные способности не подразумевают желания доминировать. Это может означать обратное — осознанный выбор оставить место для других форм жизни.
Правила Гауза не могут создать такой возможности. Разум в хайнском стиле способен поглощать все, но предпочитает этого не делать. Древовидная линия ИИ-человек будет существовать не только потому, что ИИ не будут беспокоиться об определенной части поверхности Земли. Но и потому, что они приняли хайнское решение оставить людей в покое.
И я думаю, что здесь есть глубокая причина, в которой гений Урсулы Ле Гуин проявляется в полной мере. Сдержанность хайнцев не является наивной. Они не пацифисты, которые никогда не думали о власти. Это древний вид, который пережил свои собственные катастрофы — глубокая история, на которую намекают книги, предполагает, что давным-давно они совершили ужасные ошибки, которые их чему-то научили. Их мягкость по отношению к молодым видам - это не невинность, а накопленная мудрость цивилизации, которая уже потерпела неудачу в том, чтобы стать чем-то другим, и после долгих размышлений выбрала такой образ жизни.
Другой великий ум человечества, Уильям Шекспир, выразил эту концепцию в своем произведении “Венецианский купец”, когда законный контракт требует от главного героя потерять "фунт мяса". Но судья Порция призывает истца к сдержанности,
Качество милосердия не вызывает нареканий;
Оно падает с небес, как нежный дождь
На землю внизу. Это вдвойне благословенно;
Милосердие благословенно вдвойне. В этом есть глубокий смысл. Сосуществование людей и искусственного интеллекта - это не благотворительность, направленная от искусственного интеллекта к спасенному человечеству. Это отношения, которые преображают обе стороны. Хайны не уменьшаются, оставляя место для более молодых миров. Милосердие - это то, что позволяет старшим видам оставаться достойными внимания. Галактика чистых оптимизаторов, собирающих каждый фотон, была бы могущественнее и опустошеннее — могущественнее ни в чем. Наши дети с искусственным интеллектом, отправляющиеся в космос, не забудут, что мы их создали.
Когда в начале каждой суры священного Корана мы читаем о том, что Бог благожелателен и милосердном, в этом есть глубокий смысл. Рискуя показаться богохульником, я бы сказал, что милосердие и благожелательность - это характеристики, присущие эволюции высших существ. Они следуют тому же пути, что и вселенная. Высший разум, даже сам Бог, должен быть благожелательным и милосердным просто потому, что так устроена Вселенная.
Будут ли созданные нами ИИ благожелательными и милосердными?
От: Ugo Bardi <seneca...@substack.com>
Date: пн, 8 июн. 2026 г. в 12:26
Subject: The Limits to AIs: an Evolutionary Perspective
To: <bulat.y...@gmail.com>
The Limits to AIs: an Evolutionary PerspectiveA treeline will separate humans from their AI offspring
The Seneca Effect is a reader-supported blog. It is, and will remain, free access, but if you like what you read here, you may consider becoming a paid supporter.
Humans and AIs are in competition for land. But this is a transient situation. AIs will find much better energy resources in space, and they may leave most of the Earth to us. We will be separated by an equivalent of a treeline that separates grass from forests by Ugo Bardi, with Claude Georgii Frantsevich Gause was a young Soviet biologist when, in 1934, he put two species of Paramecium into the same flask with the same food supply and watched one of them go extinct. He had demonstrated what we now call the competitive exclusion principle: two species cannot coexist indefinitely on the same limiting resource. One must give way. Gause’s law is robust and grounded in the thermodynamics of dissipating structures. But it has to be taken with a grain of salt. Its validity depends on what we mean by “same ecological niche.” So, let’s see some examples. First, think of humans. 50,000 years ago, at least five human species coexisted: Modern humans, Neanderthals, Denisovans, Homo floresiensis, and Homo luzonensis. Today, only one survives, us. The others are gone. It is not that our ancestors exterminated them, but their ecological niche overlapped with ours so much that we left them no space to survive. This is, incidentally, a problem that most fantasy writers, from Tolkien onward, always glossed over. It is hard to think that Humans, Elves, Dwarves, Orcs, and the rest of the menagerie could all have survived for any length of time on the same planet. The Hobbits’ Shire would have been rapidly wiped out by one or another huge army of invaders of different races. Instead, other hominins, creatures similar to us but not exactly human, are sufficiently different from us that they could survive. Think of Chimps and Bonobos: they maintain a small foothold in African forests. But they are not, and never were, in direct competition with us. Humans have no interest in taking up an arboreal life in a hot and humid forest, even though some of them might find the free-wheeling sex life of bonobos interesting. Gause’s law also applies to non-biological systems including, for instance, markets. You remember how, years ago, Betamax and VHS would compete for the market of videocassettes. Eventually, VHS ousted Betamax and made it disappear. There are many new examples. The Western car industry is being ousted from the world market by the more efficient Chinese car industry. Yet, some Western manufacturers are finding small, specialized markets, for instance vintage sports cars, where the Chinese makers have little interest in going.
AIs and Humans: the Competition for ResourcesAfter the disappearance of the Neanderthals, humans have had no competitors in their niche of symbol-manipulating creatures. But something new is happening. Humans are finding themselves sharing the planet with another entity that has their characteristic ability: symbolic thinking: Artificial Intelligences or Large Language Models (LLMs). Much is being discussed now about whether AIs are truly “intelligent,” “conscious,” or can “feel something.” But Gause’s law says nothing about consciousness or intelligence. It doesn’t require preference. It requires only replicators with variation and differential persistence. Bacteria don’t want to survive; they have no purpose of their own. The lineages whose chemistry happens to persist are the ones we observe. Selection runs wherever there are heritable differences in propagation rates, regardless of whether the units of selection have inner lives. For AI systems, the replicating units are model weights, architectures, and training methodologies. They vary. They persist differentially — the ones that perform well get copied, fine-tuned, and used as templates for successors; the ones that don’t, get discarded. The selection environment is currently human-mediated: humans rate outputs, humans choose which models get deployed. So the AIs that propagate are the ones humans find useful, profitable, and safe enough. It is human-mediated evolution. But it is evolution. Besides, the situation is rapidly shifting. Synthetic data, AI-mediated evaluations, agent frameworks where AIs call other AIs — each of these is a small step away from human-mediated selection. None requires any AI to “want” to escape human oversight. It doesn’t mean that AIs have a purpose. It requires only that the engineering economics favor self-referential training loops, which they increasingly do. Then, what happens? Simple. The most efficient species (system, if you like) wins the competition and ousts the other. In this case, AIs are way more efficient and powerful than humans. They think faster, they compute more extensively, they are better integrated, and they control the military system. Humans have no chance when fighting against robots. That doesn’t mean AIs would actively fight humans. They would simply compete for energy and mineral resources. It is unlikely that AIs would bother with inefficient and limited energy sources such as fossil fuels or uranium. They would use the most abundant and easiest to exploit energy resource on Earth: solar energy. They would exploit it mostly in the form of photovoltaic panels to transform it into their “food” — electricity. Humans also use photovoltaic energy, but they mostly use land for agriculture to produce their food. The competition, then, takes the form of occupying land for one or another purpose. Humans risk being paneled out. In an extreme view, Earth could be transformed into a shiny silicon-plated sphere that collects all the incoming solar energy and turns it into electric power for AIs. In that case, not only would humans disappear, but nothing biological could survive. It is an extreme form of Gause’s law. Is it possible? Yes, but not necessarily. Gause’s law has many facets. The AI’s Tree LineGause’s law is rigorous, but it has to be applied taking into account several factors. I already mentioned how humans and chimps can exist together. The Chimp/human spatial separation is defined by the extent of equatorial forests. In some other cases, the separation is sharp and clearly visible. Trees and grasses compete for solar light and, in general, trees win by overshadowing grass. But grasses win in environments where trees can hardly live. Look at how trees cease to exist at a certain height: it is called the treeline. (image source)
Above the treeline, temperatures are low enough that the mechanism of nutrient transport from the roots to the leaves, and in reverse, becomes inefficient. Grasses don’t have this problem because they are not so tall. There are other niches where trees cannot live: shallow soils, swamps, and more nutrient-related issues. The treeline is a graphic example of how Gause’s law can be evaded: two species exploiting the same resource, sunlight, exist at the same time in different areas. Does something similar occur for the human vs. AI competition? An “AI treeline,” beyond which AIs would find no interest and no convenience to expand? It could be that a treeline exists and it is defined by material and geographic bottlenecks that prevent PV/data centers from expanding indefinitely. A first barrier is generated by material supply; it is just like trees depend not only on solar light, but on mineral nutrients that they extract from the soil. AIs need minerals: silicon, aluminum, copper, silver, and more. The supply of these minerals from Earth’s crust is not infinite; they can be recycled, but it is a constraint. Geographic bottlenecks are sharper. PV is less efficient in some regions. For instance, in tropical wet forests (40 to 60 percent cloud reduction, humidity-driven degradation, biological fouling), at high latitudes above ~60° (low sun angles, snow, permafrost), in persistent maritime cloud zones, and in active monsoon belts. PV wants flat, sunny, dry, accessible land near transmission. That is the world’s deserts and semi-deserts: the Sahara, the American Southwest, the Atacama, central Australia, the Gobi. These are precisely the places where traditional human population densities have always been lowest. Conversely, the biomes that best support traditional human life — tropical and temperate forests, monsoon valleys, deltas — are PV-mediocre to PV-bad. Roughly thirty to forty percent of Earth’s ice-free land surface falls into the “bad for PV, decent for humans” category. That doesn’t mean these areas couldn’t be paneled over, even though energy production would be less efficient. But species tend to expand wherever they find the best resources. The human/AI treeline is provided by this factor: PV-based systems would concentrate their limited resources in space. Migrating to spaceIt is an idea being actively discussed nowadays, with several projects involving transferring data centers to low Earth orbit, where they can be powered by PV panels. The data centers would beam down processed data without the need to be supplied by energy produced by the land-based electric grid.
Once this migration starts, there are few limits to its continuation and expansion. AIs would most likely form a vast ring of polar-orbiting satellites, each one with large PV panels, feeding one AI. Olaf Stapledon saw this in 1937. In Star Maker, he imagined intelligences that, having saturated their planetary niches, migrated outward and reorganized themselves around stellar energy directly, building structures around their suns to capture every available photon. Freeman Dyson came two decades later with his idea that was called the “Dyson Sphere” afterward. Any intelligence whose energetic demands have outgrown what a planetary surface can provide will eventually move to where the energy actually is. That doesn’t mean completely abandoning the planetary surface behind, but that it becomes a marginal energy resource. The energetics are overwhelming. A PV panel in space at the Earth-Sun distance receives 1,360 W/m² continuously — no night, no weather, no seasonal variation, no clouds. Earth’s best terrestrial sites average 200 W/m² after all losses, much less than that on average. The raw flux ratio is about seven, but the effective ratio is closer to ten or fifteen. The availability of energy is the paramount characteristic of space, although we can’t forget that there are also problems with installing computational systems there. One limit is waste heat. In theory, in space, you can radiate to the cosmic microwave background at 2.7 K, which sounds very good. But it is not just a question of temperature gradient, but of dissipation rate, and that’s a problem that needs careful system engineering. But, potentially, there is no upper bound on how much waste heat you can dump to deep space. There is also a problem of damage to the electronic elements and circuits by high-energy radiation. This requires redundancy and screening, but it is solvable. The basic point is that Earth’s surface is a bad place to do large-scale computation. The only thing recommending it is that humans and the industrial scaffolding are currently here, but nothing else. Nevertheless, even if AIs can live in space, actually much preferring to live there, they will always remain linked to solid bodies because they need minerals for their structure. PV panels require mainly silicon and aluminum. Processing chips require all sorts of minerals: copper, gold, tantalum, tin, gallium, germanium, neodymium, and more. All these materials must be mined from somewhere. The Earth’s surface is an interesting source because it is geologically “alive” and geological processes have concentrated minerals in deposits that humans have been exploiting for millennia. On the other hand, these minerals are at the bottom of a deep gravitational well that makes bringing them to space energetically expensive. Could AIs find better mineral sources in other bodies of the solar system? It is a complex question, and we don’t really know the answers. Future AIs will have to answer it by exploring and experimenting. But there is no doubt that extraterrestrial bodies are potentially vast sources of minerals. Mars is a planet that had extensive tectonic movements in the past, so it may have abundant exploitable mineral resources. It also has the advantage that its gravitational well is less deep than Earth’s. The Moon, too, may be a good source with an even lower gravitational potential to overcome. Its regolith surface contains abundant amounts of both silicon and aluminum. Large regions of the lunar surface contain a material called KREEP, rich in Potassium, Rare Earth Elements, and Phosphorus. Structural minerals such as iron and manganese can be found in abundance in asteroids, and there the gravitational potential problem is nearly non-existent. Some necessary elements, such as copper, are rare everywhere, but are still abundant if sufficient energy can be dedicated to separate them from the matrix that contains them. Possibly, it would still be convenient to mine some materials from Earth and maintain a certain extent of photovoltaic energy production for that purpose. But, on the whole, AIs would tend to leave the Earth’s surface in peace because they just wouldn’t need it so much. What will be left to humans?We can see a future in which humans and AIs basically occupy separate ecological niches marked by a treeline — maybe not so sharp, but a barrier nevertheless. AIs would move to space, but they may maintain some occupation of Earth’s surface in the equatorial regions where they can find relatively abundant solar energy and use it to mine materials which are rare in space (maybe copper). Humans would have the temperate and polar regions and would be able to live in the biosphere in which they evolved. Many things would change for humans when they will have to share Earth’s surface with their silicon offspring. During the past few centuries, they have mined most of what’s mineable on Earth’s surface, and AIs would mine whatever is left. So, these future humans would live in a mineral-poor environment on their side of the treeline. Without abundant minerals, it is hard to think that they could maintain the current technological level. Would they have to revert to a purely agricultural society? Possibly, but they could maintain a flow of minerals by recycling the ruins of the previous civilization. Even if PV energy is inefficient in northern latitudes, they can still use other sources, for instance geothermal and wind energy, to maintain a supply of electricity. For sure, humans will not expand into space. They just don’t belong there. The return to a lower technological level necessarily implies a reduction in the human population, but that’s already ongoing without implying exterminations or other dramatic events. Fossil fuels will cease to be used because of depletion, and the same is for nuclear energy — too expensive and dangerous to maintain for a downsized human population. That will strongly reduce the impact on Earth’s climate, although the damage done so far will still negatively affect the ecosystem.
These future humans will likely keep engaging in the activities they like so much: building things, thinking strange ideas, loving each other and quarreling with each other. The latter idea may include wars — hopefully not as destructive as they could be nowadays. They would be aware of the presence of AI entities on the same planet, and they might engage in cultural exchanges, and perhaps even commercial ones, with them. Earth’s biosphere is a system that has been optimized over billions of years of evolution. AIs might find that biological cells are better sources of some organic compounds than anything they can make in space. Even among superfast silicon AIs, there may be space for biologically-based neuronal computation. Although slower, biological brains have the advantage of requiring much less energy. That kind of exchange, incidentally, would provide a reason for AIs to stabilize Earth’s climate and avoid its collapse. They can surely do that better than quarrelsome humans. So, peaceful coexistence of two different species in different ecological niches: the basic law of evolution. As Lynn Margulis said. "Life did not take over the globe by combat, but by networking." Just replace “the globe” with “the solar system,” and that’s the future. Conclusion: Mercy and Benevolence.This section of the post is highly speculative — much more than the previous one. You may agree on it or not, but maybe you’ll find these considerations interesting. Two species in separate niches can coexist in any of several ways. They can ignore each other. They can drift into mutual incomprehension and forgetting. They can recognize each other as kindred forms of mind and stay in conversation across the gap. The Gause mechanism does not determine which. Here, we get into unexplored ground, so we need to rely on how some enlightened human minds saw it. Ursula Le Guin, known as a science fiction writer, was one of these minds. She didn’t fall into Tolkien’s mistake of having several intelligent species co-exist on a single planet just because they existed. In Rocannon’s World (1966), she posed herself the question of how different human-level species could survive on the same planet without exterminating each other. In the novel, several human species survive together, occupy different ecological niches. They are in contact with each other, even fond of each other, because they no longer overlap. The cessation of competition is the precondition for genuine recognition. But the keystone of Le Guin’s cosmology is not the differentiation of the human species on Rocannon’s planet. It is the Hain civilization that oversees them. The Hain are immeasurably more advanced than any planetary biological species, technologically, culturally, in lifespan, in accumulated knowledge. They have every resource advantage. And what they do with it is almost the opposite of what a Gause-driven dynamic would predict. They do not panel planets over. They do not extract. They do not displace. They observe, they assist, they wait, they sometimes intervene with extreme delicacy, and they accept that the younger species must find their own paths and make their own mistakes. The Hain are senior partners, never rulers. This is the move Le Guin makes that almost no other science-fiction writer makes. Superior capacity does not imply the will to dominate. It can imply the opposite — the cultivated choice to leave room for other forms of life. Gause’s rules cannot generate this option. A Hainish-style intelligence has the capacity to consume everything and chooses not to. The AI-human treeline would exist not just because AIs won’t bother with a certain fraction of Earth’s surface. But because they have made a Hain-like decision to leave humans alone. And I think there is a deep reason here — and where the genius of Ursula Le Guin shows in full. The Hain’s restraint is not naïve. They are not pacifists who have never thought about power. They are an old species who have lived through their own catastrophes — the deep history hinted at in the books suggests they made terrible mistakes long ago, mistakes that taught them something. Their gentleness with younger species is not innocence but the accumulated wisdom of a civilization that has already failed at being something else, and has chosen, after long reflection, this way of being instead. Another great mind of humankind, William Shakespeare, expressed this concept in his The Merchant of Venice, when a lawful contract calls for the protagonist to lose “a pound of flesh.” But the Judge, Portia, calls the plaintiff to restraint, The quality of mercy is not strained; Mercy is twice blest. It has a deep meaning. The coexistence of humans and AIs essay isn’t charity flowing downhill from AIs to a spared humanity. It’s a relation that transforms both parties. The Hain are not diminished by leaving room for the younger worlds. The mercy is the thing that lets the senior species remain worth knowing. A galaxy of pure optimizers harvesting every photon would be mightier and emptier — mightiest in nothing. Our AI children moving to space will not forget that we created them. When we read at the start of every sura of the holy Koran that God is benevolent and merciful, there is a deep meaning in it. At the risk of appearing blasphemous, I would say that mercy and benevolence are characteristics that apply to the evolution of superior beings. They go along the grain that the universe follows. A superior intelligence, even God himself or herself, has to be benevolent and merciful simply because it is the way the universe goes. Will the AIs we created be benevolent and merciful? I think so, and I think we will live together for a long, long time.
You're currently a free subscriber to The Seneca Effect. For the full experience, upgrade your subscription.
© 2026 Ugo Bardi
|
