Эволюционные перспективы конвергенции человеческого и искусственного интеллекта

Полный текст

СПИСОК СОКРАЩЕНИЙ

ИИ – искусственный интеллект; ИКМ – интерфейс «компьютер-мозг»; НИОКР – научно-исследовательские и опытно-конструкторские работы.

ВВЕДЕНИЕ

В последние годы особое внимание общественности привлечено к относительно новому понятию – искусственный интеллект (ИИ). В 1992 году создана успешно функционирующая «Российская ассоциация искусственного интеллекта» (РАИИ). Приказом Федерального агентства по техническому регулированию и метрологии от 8 ноября 2022 г. № 1258-ст утвержден и введен в действие национальный стандарт определения ИИ ГОСТ Р ИСО/МЭК 24668-2022 «Информационные технологии. Искусственный интеллект. Структура управления процессами аналитики больших данных» как идентичный международному стандарту ISO/IEC 24668:2022 «Information technology – Artificial intelligence – Process management framework for big data analytics».

Популяризация вопросов, связанных с ИИ, подняла волну споров о неограниченных возможностях и опасностях современного этапа развития его технологий. Хотелось бы обратить внимание на то, что представляет собой ИИ с точки зрения биологов: не более чем относительно новый инструмент адаптации к меняющейся окружающей среде, имеющий свою историю развития, свои этапы, основанные, как и предыдущие, на попытках выявления некоторых естественных закономерностей и их имитаций в практической деятельности, в общем, сопоставимый с формированием искусственной среды обитания человека для защиты от неблагоприятных экологических факторов в целях увеличения шансов своего выживания. Это и есть один из этапов «созревания» ноосферы – совокупного разума человека как вида, о котором писал В.И. Вернадский и который так необходим, когда деятельность и численность человека вошли в очевидный конфликт с устойчивостью биосферы [1].

Изобретение любого нового инструмента имеет свои очевидные положительные стороны, но и свои риски. Потенциальные источники таких рисков рассматриваются в настоящем обзоре именно с точки зрения таких эволюционных закономерностей, как увеличение сложности биологических систем, последовательные волны дифференциации и кооперации между ними.

По определению FAO (Food and Agriculture Organization, fao.org) – биотехнологии, биологические системы – это живые организмы и продукты их жизнедеятельности. К последнему, без сомнения, относится и ИИ. Живые организмы, с точки зрения биологов, это системы, имеющие динамичные механизмы контроля энтропии. Предполагаем, что такой подход может быть небесполезен при анализе потенциальных рисков практического применения некоторых элементов ИИ, в том числе и при прямом контакте с человеком в медицинских или иных целях.

МЕТОД

В данной работе анализируются сложившиеся представления о ключевых эволюционных этапах развития современной цивилизации: генезисе техносферы, развитии высокоскоростной связи, стремительном распространении технологий искусственного интеллекта (ИИ) и концептуализации ноосферы как адаптивного механизма, необходимого для выживания человечества в антропоцене – новой геологической эпохе. При подготовке материала использован ChatGPT 3.5/4.0, современная языковая модель искусственного интеллекта, разработанная компанией OpenAI. Модель применяли для подбора, анализа и структурирования литературных источников, касающихся ноосферы, искусственного интеллекта, доместикации, симбиоза и эндосимбиоза. Стоит отметить, что ChatGPT лучше всего работал, когда его применяли к более коротким абзацам и предложениям, но часто испытывал проблемы со структурой и связностью при работе с большими объемами информации. Хотя обзор и оценка современных инструментов ИИ выходят за рамки данной статьи, мы предполагаем, что к моменту ее опубликования будет все труднее отличить среднестатистический обзор/рецензию, написанную экспертом, от обзора, созданного ИИ. Поэтому, по-видимому, необходимо, чтобы журналы и организации достаточно быстро приняли четкую политику по раскрытию информации о том, как использовались инструменты ИИ. Это может внести полезный вклад в исследования в области ИИ, облегчив мониторинг того, как генерируемый ИИ контент распространяется в ноосфере и развивается по качеству и оригинальности.

Концепции Вернадского и де Шардена

Понятия биосферы и ноосферы были сформулированы Владимиром Вернадским, который утверждал, что биосфера функционирует как зона, где космическое излучение преобразуется в различные формы энергии, такие, как электрическая, химическая, механическая и тепловая [1]. Он утверждал, что человек, как и все живые организмы и материя, это неотъемлемый компонент космоса, а не изолированное или случайное природное явление. По мнению Вернадского, человек – это неизбежное проявление природного закона, результата непрерывного процесса, длящегося миллиарды лет. Схожим образом французский философ и священник-иезуит Тейяр де Шарден разработал дополнительное представление о ноосфере как о коллективном сознании, окутывающем Землю [2]. Эта идея перекликается с теориями Вернадского, поскольку подчеркивает значительную роль человеческой мысли и коллективного сознания в формировании биосферы и эволюции Земли. Однако де Шарден предложил телеологический подход, утверждая, что эволюция ноосферы и человеческого сознания направлена к конечному состоянию или конечной цели, которую он назвал «точкой Омега» [2]. Развивая эти основополагающие идеи, современные ученые, такие, как Рэй Курцвейл и Фрэнк Типлер, разработали футуристические и трансгуманистические взгляды на ноосферу и ее потенциальные последствия [3, 4]. Они популяризировали идею о том, что развитие искусственного интеллекта (ИИ) и других передовых технологий может привести к существенным изменениям в человеческом обществе и нашем понимании космоса. Сформулированные концепции имеют геологическое происхождение, подразумевая, что, когда мы определяем «сферу», мы признаем геологическую силу, действующую в глобальном масштабе. В этом контексте важно обсудить эпохи голоцена и антропоцена, поскольку эти периоды дают представление о последствиях становления технологической цивилизации человека на планетарном уровне.

ГОЛОЦЕН И АНТРОПОЦЕН

Эпоха голоцена, начавшаяся примерно 12000 лет назад, характеризуется относительно стабильным климатом, который способствовал развитию цивилизации человека [5]. Антропоцен – предполагаемая, но еще официально не принятая геологическая эпоха – определяется значительным глобальным воздействием деятельности человека на экосистемы и геологические процессы Земли [6, 7]. По имеющимся данным, период с XVII по конец XX века, по-видимому, отвечает критериям начала эпохи антропоцена, поскольку связан с фундаментальными изменениями во взаимоотношениях человека и систем Земли, формированием техносферы [8].

Концепция антропоцена подчеркивает существенное влияние деятельности человека на планету, знаменуя собой переломный момент в отношениях между людьми и биосферой Земли.

В своих основополагающих работах В.И. Вернадский подчеркивал, что экологические кризисы, напрямую связанные с деятельностью человека, неоднократно происходили на протяжении всей истории человечества. До недавнего времени практически нетронутые природные экосистемы составляли около 12% поверхности Земли. Однако в наше время они занимают всего 1.4% [9]. Современные исследования утверждают, что массовое вымирание мегафауны (видов животных, масса которых превышает 10 кг) в четвертичный период кайнозойской эры связано с деятельностью человека – основной движущей силы глобального сокращения численности мегафауны в конце четвертичного периода [10]. Конфронтация с природными экосистемами началась примерно 1.5–3 миллиона лет назад, когда человек впервые освоил огонь. Сегодня разрушение природных экосистем, особенно лесных, усугубляемое экономической глобализацией, стало ведущим фактором глобальных экологических изменений [11].

Техносфера и экология

Техносфера объединяет все созданные человеком технологии и их воздействие на окружающую среду. По мере развития техносферы происходит усложнение технологий и их интеграции в жизнь человека [12]. Основные этапы развития техносферы связаны с изобретением простых орудий труда, с промышленной революцией [13] и появлением информационных технологий [14]. Следовательно, техносфера все больше переплетается с биосферой и ноосферой, оказывая влияние на развитие человечества и окружающей среды.

Вернадский утверждал, что развитие биосферы, формирование аграрной цивилизации возникли как результат эволюции [15]. С появлением центров аграрной цивилизации человек постепенно стал доминирующим геологическим агентом в перестройке планеты. Вернадский утверждал, что сохранение биосферы, включающей человека как вид, зависит от формирования ноосферы, которая в первую очередь выполняет функцию регулирования стабильности биосферы. Эта трансформация считается правдоподобным следствием естественной эволюции, поскольку, как заметил Вернадский, «биосфера перешла или, вернее, переходит в новое эволюционное состояние – в ноосферу – перерабатывается научной мыслью социального человека».

Многочисленные современные данные свидетельствуют о значимости развития ноосферы и ее последующей трансформации в качестве ответной реакции на различные надвигающиеся кризисы. Продовольственная безопасность приобретает все большее значение в связи с ростом численности населения планеты, расширением урбанизации и продолжающимся влиянием на изменения климата. В настоящее время около 9% населения планеты недоедает и, по прогнозам, к 2030 году эта цифра увеличится до 9.8%. К этому времени более 850 млн человек будут испытывать голод [16]. Более того, сельскохозяйственная деятельность и аграрная цивилизация достигли порога экстенсивного развития, занимая 38% поверхности Земли, используя около 70% мировых запасов пресной воды и 1.2% мировой энергии [17].

В последнее время динамика и атрибуты развития аграрной цивилизации стали особенно заметны. Яркой иллюстрацией являются данные о колебаниях биомассы мегафауны после последнего крупного вымирания на Земле, которое привело к гибели двух третей родов млекопитающих и половины видов между 50 и 3 тысячами лет назад [18]. После этой катастрофы глобальная экосистема постепенно восстановилась до нынешнего состояния, а скорость накопления биомассы значительно возросла по сравнению с исходным уровнем до индустриальной революции, в основном, за счет сельскохозяйственных видов животных. После повсеместного сокращения биомассы мегафауны увеличение темпов роста наблюдалось только у Homo sapiens.

Превосходство человека и сохранение биосферы

В составе мегафауны фактически наблюдается постепенное преобладание человека и сельскохозяйственных видов животных, обусловленное вытеснением диких видов. Человечество последовательно одомашнивает широкий спектр видов, охватывающих все царства и классы, от грибов до человека, адаптируя их к изменениям окружающей среды. Этот процесс влечет за собой включение почти всех биосферных элементов в нишу человека, используя виды, поддающиеся доместикации, и вытесняя другие. Исторические наблюдения показывают, что такое развитие событий повышает риск ускоренной деградации биосферы, потенциально угрожающей существованию человека. Как следствие, утверждение В.И. Вернадского о том, что выживание биосферы зависит от естественной трансформации человеческой деятельности в ноосферу, находит современное подтверждение. Очень важно исследовать сложные, развивающиеся взаимосвязи между биосферой, техносферой и ноосферой, а также их последствия для будущего человечества. В рамках этих взаимосвязей интеграция технологий, в частности, искусственного интеллекта, в деятельность человека предстает как жизненно важный аспект непрерывного развития ноосферы, приводя к параллелям с эндосимбиозом [19] и доместикацией [20].

Биосфера, техносфера, ноосфера: отдельные области с взаимосвязанной эволюцией

В данном исследовании мы предполагаем, что техносфера, включающая в себя все созданные человеком технологии и их воздействие на окружающую среду, развивается параллельно с биосферой и ноосферой – областями жизни и познания человека соответственно. Ноосфера, формируемая мышлением и коллективным сознанием человечества, в настоящее время опирается на техносферу для коммуникаций, обмена информацией и инноваций по всему миру. И наоборот, техносфера зависит от ноосферы в своем развитии, поскольку человеческие идеи и знания подпитывают технологический прогресс. Несмотря на их взаимосвязь, необходимо рассматривать ноосферу и техносферу как отдельные области в силу их уникальных характеристик и путей эволюции: ноосфера в первую очередь движима интеллектуальным и культурным прогрессом, в то время как техносфера формируется под влиянием материальных и технологических инноваций.

Они взаимосвязаны, но проходят различные этапы развития, такие, как промышленная революция, зарождение научного знания и появление искусственного интеллекта. Изучая их эволюцию, мы можем выявить сходства и различия, что позволяет понять потенциальное взаимодействие человека и технологий, особенно ИИ. Поддерживаемый многими учеными анализ сложности как количественного фактора [12, 14, 21], позволяет глубже понять взаимосвязи между биосферой, техносферой и ноосферой и их последствия для будущего человечества.

СЛОЖНОСТЬ КАК КОЛИЧЕСТВЕННЫЙ ПРИЗНАК СЛОЖНЫХ СЕТЕЙ

Интуитивно понятно, что эволюция биосферы характеризуется возрастающей сложностью, о чем свидетельствует появление многоклеточных организмов, сложных экосистем с ключевыми видами и высоко адаптивного поведения в ответ на изменения окружающей среды [21]. Аналогичным образом, техносфера переживает постепенный рост сложности: инновации развиваются друг за другом и приводят к появлению сложных сетей связи, транспорта и производства, а также к уязвимости инфраструктуры [12, 14]. Эволюция ноосферы также может быть проиллюстрирована усложнением сетей соавторства в научных исследованиях, которые со временем становятся все более изощренными из-за таких факторов, как междисциплинарные исследования, расширение научных областей и глобализация [22, 23].

Размах изменения сложности

Очень важным является признание роли энергетических градиентов в усложнении, поскольку оно предполагает существование управляющего закона, пронизывающего Вселенную, биосферу, техносферу и ноосферу. Этот закон опирается на второй закон термодинамики, концепции диссипативных структур и производства энтропии. Изучив эти фундаментальные принципы, можно получить представление о возникновении сложности в различных системах и изучить потенциальные последствия для будущего человеческой цивилизации и технологического развития. Тенденцию к спонтанным структурным усложнениям можно наблюдать на различных примерах, таких, как образование звезды из облака межзвездного газа, появление многоклеточных организмов и возникновение человеческих сообществ.

Образование звезды иллюстрирует, как более высокие темпы производства энтропии приводят к эволюции, к более сложным структурам, чтобы оптимизировать их экспорт энтропии [24, 25]. Крупные трансформационные события в биосфере, техносфере и ноосфере, такие, как развитие сложных экосистем и рост структурированности человеческих сообществ, также отражают непрерывное увеличение диапазона сложности, связанное с производством энтропии и вторым законом термодинамики [26, 27].

Рассматривая изменяющийся диапазон сложности как ключевой фактор эволюции сложных систем, мы получаем более глубокое понимание движущих сил, стоящих за растущей сложностью и взаимосвязанностью, наблюдаемой в различных областях. Хотя общий рост сложности более крупной структуры может быть не сразу заметен после трансформационного события, возникают новые субструктуры с более высокой индивидуальной сложностью, что потенциально повышает их пригодность.

Подобная концепция позволяет лучше понять потенциальные траектории развития человечества и технологий, особенно в сфере искусственного интеллекта, и изучить возможности симбиоза, интеграции и коэволюции между ними.

Количественная оценка сложности

С целью эффективного сравнения эволюции сложности в биосфере, техносфере и ноосфере необходимо использовать подходящие показатели сложности в дополнение к размаху ее изменчивости, который количественно определяет сложность внутри подструктур. Одним из прямых подходов к количественному определению сложности является использование теории информации, рассматривающей энтропию информации, содержащейся в системе [28]. Альтернативные подходы включают фрактальную геометрию или алгоритмическую сложность, которые могут обеспечить комплексное понимание различных аспектов сложности.

Например, в техносфере применение сетевого анализа для изучения взаимосвязанности и информационных потоков в коммуникационных и транспортных системах позволяет количественно оценить их сложность на основе таких показателей, как распределение степеней узлов, коэффициент кластеризации и длина пути, отражая уровень организованности и устойчивости этих систем [23]. В качестве примера можно привести эволюцию Интернета от его ранних стадий до нынешнего высоко интегрированного состояния, которое раскрывается через рост сложности его сети. На начальных этапах Интернет характеризовался относительно простой, разреженной сетью, в то время как впоследствии он превратился в огромную, запутанную сеть соединений с безмасштабной топологией [23]. Применяя такие меры сложности, можно оценить развитие и зрелость техносферы, а также провести относительно обоснованное сравнение с динамикой, наблюдаемой в биосфере и ноосфере.

В биосфере меры сложности экосистем, такие, как индексы видового богатства и разнообразия, могут быть использованы для понимания структуры и иерархии экологических отношений и влияния возмущений на эти системы. В ноосфере метрики, связанные с производством и распространением знаний, такие, как сети цитирования и междисциплинарность, могут использоваться для оценки роста человеческого познания и его влияния на развитие техносферы и социума.

ЭНДОСИМБИОЗ: ФАЗОВЫЙ ПЕРЕХОД БИОСФЕРЫ НА БОЛЕЕ ВЫСОКИЙ УРОВЕНЬ СЛОЖНОСТИ

Эндосимбиоз, важнейшее событие в эволюции жизни, привел к появлению эукариотических клеток в результате интеграции прокариотических организмов. Чтобы проанализировать структуру этого процесса, мы можем сравнить индивидуальную сложность бактерий и эукариотических клеток, а также общую сложность биосферы до и после появления эукариот. На клеточном уровне эукариотические клетки демонстрируют большую сложность, чем их прокариотические собратья, о чем свидетельствует наличие органелл, таких, как ядро, митохондрии и хлоропласты, которые, как считается, возникли в результате эндосимбиотических событий [29]. Измеряя информационное содержание или функциональную организацию этих клеток с помощью теории информации, можно количественно оценить повышенную сложность, возникающую в результате эндосимбиоза.

Появление эукариот способствовало общему усложнению биосферы, создавая новые экологические ниши для колонизации и диверсификации жизни. Это привело к появлению многоклеточных организмов, сложных экосистем и многообразных трофических связей. Однако усложнение жизни на Земле сопровождалось значительным компромиссом: вымиранием множества видов, поскольку новые формы жизни конкурировали или вытесняли своих предшественников.

Эта динамика похожа на «кислородную катастрофу» (Great Oxygenation Event), которая привела к массовому вымиранию анаэробных организмов, поскольку доминирующими стали «фотосинтезаторы», такие, как цианобактерии, вырабатывающие кислород (новая «технология») [30]. Аналогичным образом промышленная деятельность человека изменила атмосферу Земли, высвободив беспрецедентное количество углекислого газа за очень короткий (с геологической точки зрения) промежуток времени.

Проводя параллель с потенциальным событием конвергенции человека и технологий, мы наблюдаем ту же динамику, когда включение в деятельность человека передовых технологий, таких, как ИИ, способно привести к значительному увеличению общей сложности. Эта конвергенция может не только создать новые общественные структуры и коренным образом изменить человеческое познание, но и стать новым геологическим фактором, сродни фотосинтезу и промышленной деятельности человека.

РЕВОЛЮЦИЯ ИИ: ПЕРЕСТРОЙКА ТЕХНОСФЕРЫ И НЕ ТОЛЬКО

Искусственный интеллект представляет собой трансформационный процесс, способный перевести техносферу в фазу повышенной сложности. По мере того как системы ИИ продолжают развиваться и все глубже интегрироваться в различные аспекты жизнедеятельности человеческого общества, они готовы изменить ландшафт технологий и их влияний на мир. Ожидается, что этот беспрецедентный сдвиг в сложности повлияет не только на отдельные технологии, но и на более широкое взаимодействие между биосферой, ноосферой и техносферой. Растущая сложность систем ИИ, а также их растущие возможности, вероятно, приведут к пересмотру границ и способов взаимодействия между этими сферами, что, в конечном итоге, изменит способ сосуществования и эволюции человека, технологий и окружающей среды. В следующих разделах мы рассмотрим современные тенденции и методологии развития ИИ, изучим их потенциальные последствия для будущего техносферы и не только.

В последние годы область искусственного интеллекта переживает значительный прогресс, обусловленный прорывами в технологиях машинного (machine learning, ML) и глубокого (deep learning, DL) обучения, доступностью масштабных наборов данных и увеличением вычислительной мощности машин.

ИНТЕРФЕЙС «МОЗГ-КОМПЬЮТЕР»: ПРОКЛАДЫВАЯ ПУТЬ К ТЕХНОЛОГИЧЕСКОМУ ЭНДОСИМБИОЗУ С ИИ

Представления об эндосимбиозе дают ценные идеи для развития интерфейсов «мозг-компьютер» (ИМК) (brain-computer interfaces, BCI) и нейроно-кремниевых интерфейсов, устанавливающих прямую связь между человеческим мозгом и электронными устройствами. По аналогии с эндосимбиозом, BCI и нейроно-кремниевые интерфейсы предполагают потенциальное слияние биологических и технологических компонентов, что в итоге приводит к созданию более совершенной и интегрированной системы [19, 31].

Эндосимбиоз – биологический процесс, при котором один организм встраивается в другой, образуя в итоге единое более сложное целое. Убедительным примером является встраивание митохондрий и хлоропластов в клетки-хозяина, что можно рассматривать как форму биологической «технологии», повышающей выживаемость и расширяющей функциональные возможности клетки-хозяина. Митохондрии предоставляют клетке-хозяину эффективное производство энергии, а хлоропласты обеспечивают фотосинтез, позволяя клетке получать энергию из солнечного света [29]. В том же контексте можно рассматривать организацию ядра и хроматина. Клетка-хозяин, в свою очередь, обеспечивает органеллам защиту и источник питания.

В настоящее время предпочтительной является теория, согласно которой ядро имеет архейное происхождение, а эукариоты возникли в результате симбиотической ассоциации между архейным хозяином и бактериальными эндосимбионтами [32, 33]. Эта точка зрения подтверждается недавними открытиями сложных архей, известных как археи Асгарда, имеющих множество общих генов с эукариотами и считающиеся ближайшими известными родственниками эукариотических клеток [33]. Однако важно отметить, что точный процесс эукариогенеза и происхождение ядра остаются предметом постоянных исследований и споров. Например, согласно некоторым теориям, ядро возникло в результате поглощения клеткой-хозяином ДНК-поглощающего вирусоподобного организма, что способствовало усложнению и расширению возможностей эукариотических клеток [34, 35]. Ядро служит центром управления, организуя экспрессию генов и репликацию ДНК, а сложная организация хроматина обеспечивает надлежащую регуляцию генетической информации. Эти биологические компоненты действуют как сложные «технологии», которые улучшают клеточные функции и вносят вклад в общую сложность организма.

Понимание последовательного усложнения в процессе формирования эукариотической клетки не может не влиять на представления о сфере нейроинтерфейсов. Стремясь к прямой связи между человеческим мозгом и электронными устройствами, как интерфейс «компьютер-мозг» (ИКМ), так и нейроно-кремниевые интерфейсы воплощают в себе потенциальное слияние биологических и технологических элементов. Опираясь на аналогию с эндосимбиозом, можно лучше понять, как эти технологии могут привести к появлению более сложных и интегрированных систем [31] подобно тому, как приобретение митохондрий, хлоропластов и ядра привело к усложнению и расширению возможностей эукариотических клеток.

В последние годы исследования в области ИКМ значительно продвинулись вперед, и многочисленные исследования продемонстрировали потенциал ИКМ для улучшения когнитивных и сенсорных способностей человека [36]. Например, ИКМ использовали для восстановления двигательных функций у парализованных людей [37], улучшения коммуникации пациентов с синдромом запертого человека [38] и даже для управления такими внешними устройствами, как роботизированные конечности или компьютерные курсоры с участим только мозговой активности [39, 40]. Эти достижения подчеркивают потенциал ИКМ, способный изменить наше понимание человеческого познания и произвести революцию в области нейронаук.

Одно из перспективных применений ИКМ – лечение деменции и психических заболеваний. Недавние исследования показали, что ИКМ можно использовать для мониторинга и регулирования активности мозга у людей с неврологическими расстройствами, такими, как болезнь Альцгеймера [41] и депрессивное расстройство [42]. Нацеливаясь на определенные области мозга и модулируя их активность, ИКМ могут предложить новый, неинвазивный терапевтический подход к лечению этих заболеваний, способный уменьшить снижение когнитивных способностей и улучшить качество жизни пациентов.

ИКМ перспективны для лечения аутизма и нарушений развития. Показано, что ИКМ могут помочь людям с аутизмом развить навыки общения и улучшить их способность взаимодействовать с окружающим миром [43]. ИКМ можно также использовать для улучшения когнитивных функций у детей с такими нарушениями развития, как синдром гиперактивности с дефицитом внимания (СДВГ), путем проведения нейрофидбэк-тренировок [44]. В этих сценариях ИИ может сыграть решающую роль в содействии терапии на основе ИКМ, обрабатывая и интерпретируя огромные объемы нейронных данных, выявляя закономерности, связанные с конкретными расстройствами, и предоставляя персонализированные меры воздействия, адаптированные к уникальной мозговой активности каждого человека [45].

ДОМЕСТИКАЦИЯ И ВОЗНИКНОВЕНИЕ ТЕХНОЛОГИЧЕСКОЙ ЦИВИЛИЗАЦИИ: ОСНОВОПОЛАГАЮЩИЙ ПРОЦЕСС

На уровне межвидового взаимодействия ключевым событием, превратившим человека в геологическую силу, кульминацией которого стала современная эпоха антропоцена, стало одомашнивание растений и животных. Этот процесс создал, по сути, симбиотические отношения между доместицируемыми видами и человеком. Развитие человеческой цивилизации в значительной степени связано с процессом доместикации, который подразумевает селективное разведение и культивирование различных видов растений и животных для удовлетворения интересов человека [46]. Доместикация способствовала зарождению сельского хозяйства и оказала существенное влияние на сложную структуру человеческих обществ [47]. Понимание различных аспектов доместикации может служить ценным источником возможных этапов интеграции между человеком, как видом, и искусственным интеллектом, как технологией, которую они создают.

Эксперименты по доместикации: исследование диких родственников доместицированных видов

Для лучшего понимания процесса доместикации проводили эксперименты на диких родственниках доместицированных видов. Например, знаменитый эксперимент «Лисья ферма» в России включал целенаправленный отбор серебристых лисиц (Vulpes vulpes) на дружелюбное поведение [48]. На протяжении нескольких поколений эти лисы демонстрировали не только снижение агрессивности, но и такие морфологические изменения, как висячие уши и завитые хвосты, схожие с наблюдаемыми у домашних собак. Подобные эксперименты помогают не только раскрыть генетические и фенотипические изменения, происходящие в процессе одомашнивания, но и понять, как этот процесс повлиял на развитие человеческой цивилизации.

Степени доместикации: количественные параметры и сравнения

Доместикация представлена спектром различных видов с разной степенью одомашнивания. Количественные параметры, используемые для сравнения уровней доместикации разных видов, включают поведенческие особенности, такие, как дружелюбное поведение и социальная активность, морфологические характеристики, такие, как изменчивость размеров тела или цвета шерсти [49]. Изучая эти параметры, можно лучше понять генетические и экологические факторы, способствующие доместикации, и изучить, как различные виды были включены в нишу человека.

АДАПТИВНЫЕ ИЗМЕНЕНИЯ И ЭВОЛЮЦИОННЫЕ ЗАКОНЫ ДЛЯ СИСТЕМ ИИ В ПРОЦЕССЕ ИНТЕГРАЦИИ

Системы ИИ могут адаптироваться в процессе интеграции, отдавая приоритет благополучию, этике и интерпретируемости, улучшая сотрудничество и прозрачность [50, 51]. Реальным примером постоянной адаптации ИИ к потребностям человека является его использование в здравоохранении, в частности, в диагностике и лечении заболеваний. Один из таких примеров – разработка IBM Watson for Oncology, системы ИИ, предназначенной для помощи врачам в принятии решений о лечении онкологических больных. IBM Watson for Oncology сочетает в себе обработку языка, машинное обучение и экспертные знания для анализа больших объемов медицинской литературы, данных о пациентах и клинических исследований. Система генерирует персонализированные рекомендации по лечению пациентов на основе их конкретных клинических профилей, учитывая такие факторы, как возраст, история болезни и генетическая информация [52]. IBM Watson for Oncology прошла несколько итераций, чтобы адаптироваться к потребностям медицинских работников и пациентов. Система протестирована и проверена в различных клинических условиях. Показано, что в большинстве случаев она может давать рекомендации по лечению, совпадающие с мнением экспертов [52, 53]. Этот пример демонстрирует потенциал адаптации систем ИИ к потребностям человека, в данном случае для решения задач персонализированной медицины и принятия решений при лечении рака. Постоянно обучаясь на основе экспертных знаний и реальных данных, системы ИИ, подобные IBM Watson for Oncology, могут развиваться, чтобы лучше соответствовать ценностям и ожиданиям медицинских работников и пациентов. Дальнейшее сравнение адаптации ИИ с биологической эволюцией дает полезные знания для будущих разработок и инноваций.

Адаптация ИИ и биологическая эволюция

Биологические объекты эволюционируют благодаря естественному отбору [54], а системы ИИ используют такие механизмы, как обучение с подкреплением и генетические алгоритмы [55]. Достижения в области ИИ, такие, как глубокое обучение и трансферное обучение, еще больше расширили возможности адаптации. Направленная эволюция в ИИ предполагает намеренное манипулирование параметрами, имитирующее искусственный отбор [56]. Такой подход позволяет быстрее и целенаправленнее адаптировать ИИ и лучше согласовывать его с потребностями человека. Новые области исследований, такие, как нейроэволюция, могут дать новое понимание эволюционирующих архитектур ИИ [57, 58]. Кроме того, подобно биологическим существам, системы ИИ могут «размножаться», генерируя новые экземпляры с объединенными параметрами [59, 60]. Они также могут «спариваться», обмениваясь и создавая новые комбинации параметров, что ускоряет адаптацию к сложной среде [51].

Переход от дифференциации к кооперации

Адаптация как условие выживания выходит за рамки отдельных организмов – от генов и клеток до экосистем и социальных структур [26, 61]. Одним из универсальных принципов эволюции сложных систем является скачок от дифференциации к кооперации, реализуемый на разных уровнях иерархии. Ярким примером последнего служат события, лежащие в основе формирования аграрной цивилизации, описанные в работах А.В. Чаянова. Главный тезис А.В. Чаянова заключался в том, что дифференциация отдельных компонентов сельского хозяйства с последующей их кооперацией при возникновении новых организационных структур является основой экономического, технического и социального развития общества. Наблюдая за эволюцией крестьянских хозяйств переселенцев с юга России на Дальний Восток, А.В. Чаянов отмечал, как найденные в новых условиях усовершенствования в кооперативном производстве быстро распространяются среди них и как исчезают те хозяйства, кто по тем или иным причинам их не использует [62]. Другие примеры этого эволюционного принципа можно найти в различных областях.

Этот принцип перехода от дифференциации к кооперации проявляется в самых разных контекстах, от ферментативных реакций и клеточных процессов до социальных структур и экономических систем.

Существуют и другие способы эволюционной динамики в сложных системах, иллюстрирующие компромиссы, связанные с дифференциацией/кооперацией, которые способствуют общему выживанию и адаптации системы [63]. Например, сперматозоиды конкурируют между собой за оплодотворение и только один из них в конечном итоге добивается успеха, а между ооцитами тоже существует соответствующая конкуренция, поскольку их количество для воспроизводства ограничено [64]. В процессе развития мозга наблюдается конкуренция между нейронами, многие из которых отмирают раньше, чем мозг полностью разовьется [65]. Эти режимы изменений способствуют общему балансу системы, именно взаимодействие между кооперацией и конкуренцией в конечном итоге определяет развитие сложных систем.

Этот прерывистый переход от дифференциации к кооперации имеет значение для будущего развития ИИ и его потенциальной автономии, стремления к выживанию и независимости. Понимание этой динамики и лежащих в ее основе механизмов может дать представление об эволюции сложных систем и послужить основой для прогноза формирования систем ИИ, демонстрирующих автономное поведение и высокую адаптивность. Это особенно актуально, поскольку мы стремимся преодолеть разрыв между биологическими и искусственными объектами и изучаем потенциал автономности, стремления к выживанию и независимости ИИ.

ПРЕОДОЛЕНИЕ РАЗРЫВА МЕЖДУ БИОЛОГИЧЕСКИМИ И ИСКУССТВЕННЫМИ ОБЪЕКТАМИ: АВТОНОМИЯ, СТРЕМЛЕНИЕ К ВЫЖИВАНИЮ И НЕЗАВИСИМОСТИ ИИ

Современные споры о возможностях ИИ воспроизводить биологические функции сложны и противоречивы. Исследования интуиции и методов принятия решений показывают, что системы ИИ могут научиться распознавать закономерности и быстро выносить решения в сложных ситуациях, подобно человеку [66]. Развитие инструментов, основанных на ИИ, таких, как генеративно-состязательные сети (generative adversarial networks, GAN), подчеркивает потенциал систем ИИ для создания новых и инновационных решений [67]. Рассматривается способность ИИ формировать «привязанность» и проявлять «симпатию», изучается также любовь, которая часто считается исключительно человеческой эмоцией [68]. В то же время ведутся исследования, направленные на преодоление разрыва между биологическими и искусственными объектами в отношении таких неуловимых понятий, как разум, разумность, духовность и сознание [69, 70]. Автономность ИИ вызывает значительный интерес по мере того, как системы ИИ становятся все более сложными и способными к автономному принятию решений. Стремление к выживанию, фундаментальная характеристика биологических организмов, может стать актуальным и для систем ИИ по мере развития у них методов защиты от внешних вмешательств (инстинктов самосохранения) и независимого существования [50]. Решительно отвергая витализм, тем не менее, необходимо признать, что некоторые аспекты биологических организмов могут представлять значительные трудности для воспроизведения в системах ИИ. Например, мозг человека с его миллиардами нейронов и запутанными связями представляет собой сложнейшую задачу для исследователей и разработчиков ИИ, пытающихся воспроизвести весь спектр когнитивных функций мозга [71]. Тем не менее интеграция человека и систем ИИ может привести к появлению новых сущностей, обладающих конкурентными преимуществами перед своими биологическими или искусственными аналогами. Сочетание человеческой интуиции, креативности и эмпатии с вычислительной мощностью, адаптивностью и точностью ИИ может привести к развитию новых инновационных возможностей, нового этапа развития цивилизации [3].

ВЛИЯНИЕ НА ОБЩЕСТВО И ЭТИЧЕСКИЕ ВОПРОСЫ

Интеграция ИИ и человека способна оказать значительное (как положительное, так и отрицательное) влияние на общество. С одной стороны, развитие технологий ИИ может привести к повышению и улучшению качества жизни многих людей. Например, медицинская диагностика с помощью ИИ может помочь спасти жизни людей, а автоматизация на основе ИИ – стимулировать экономический рост [72]. С другой стороны, для обеспечения справедливого и равноправного будущего необходимо тщательно рассмотреть и решить проблемы, связанные с замещением рабочих мест, неравенством имущественного положения и потенциальной потерей частной жизни [73].

Позитивные и негативные сценарии

Можно представить различные сценарии интеграции ИИ и человека, охватывающие спектр от гармоничного симбиоза до спорной конкуренции или даже угрозы существованию. В некоторых случаях люди и ИИ могут сотрудничать как равные партнеры, совместно решая глобальные проблемы и способствуя общественному прогрессу. В других сценариях, напротив, предполагается, что ИИ может превзойти человеческие возможности, что может привести к конфликтам за ресурсы, власть и автономию. ИИ и люди также могут сосуществовать в хрупком равновесии, внося каждый свой уникальный вклад в создание разнообразного и жизнеспособного глобального сообщества.

Оптимистичные сценарии интеграции ИИ и человека представляют будущее, в котором технологии ИИ будут использоваться во благо, способствуя созданию более гармоничного, устойчивого и эгалитарного общества. ИИ может использоваться для решения таких насущных глобальных проблем, как изменение климата, бедность и болезни, а также для повышения индивидуального благосостояния и развития личности [74]. С другой стороны, вызывают опасения негативные сценарии, согласно которым ИИ будет использоваться для укрепления власти, усугубления неравенства или обеспечения репрессивного наблюдения и контроля. В этих антиутопических видениях интеграция ИИ и человека может послужить дальнейшей маргинализации уязвимых групп населения и подорвать автономию человека [50].

Функция полезности, идентичность и индивидуальность

Функция полезности – это математическое представление предпочтений субъекта, отражающее относительную желательность различных исходов [75]. В контексте интеграции ИИ и человека функция полезности может служить руководящим принципом для приведения систем ИИ в соответствие с ценностями и целями человека. Однако по мере того, как человек и ИИ становятся все более взаимосвязанными, неизбежно возникнут вопросы, связанные с идентичностью, индивидуальностью и самой сутью того, что значит быть человеком. Понятия «разум», «разумность» и «духовность», возможно, придется переоценить и переосмыслить в свете этих технологических достижений.

Коэволюция и выживание: поддержка взаимозависимости ИИ и человека

Поскольку исследования и разработки в области ИИ продолжают стремительно развиваться, интеграция ИИ и человека может происходить постепенно, в процессе совместной эволюции. Этот процесс может привести к созданию новых экологических ниш, резкому повышению сложности и трансформации нашей цивилизации, что может иметь решающее значение для долгосрочного выживания перед лицом потенциальных катастроф.

Среди примеров возможных катастроф – изменение климата, ядерная война, пандемии и глобальный экономический коллапс. Благодаря трансформации, которая предполагает партнерство ИИ и человека, можно разработать инновационные решения этих проблем и обеспечить выживание нашей цивилизации. Например, системы ИИ могут помочь оптимизировать стратегии смягчения последствий изменения климата, улучшить глобальное здравоохранение и повысить эффективность управления ресурсами [74].

Между людьми и системами ИИ могут возникнуть самые разнообразные отношения – от мутуалистических до антагонистических. Доместикация и эндосимбиоз представляют собой два возможных результата: некоторые системы ИИ будут одомашнены человеком, а другие вступят в эндосимбиотические отношения, где обе стороны получат преимущества [56].

Признавая разнообразие отношений между людьми и системами ИИ, необходимо учитывать возможность как взаимовыгодных взаимодействий, так и дисбаланса сил. Проблема заключается в развитии партнерства между ИИ и человеком, которое соответствует общим целям и ценностям человека, без его подчинения ИИ [50, 76]. Появление новых экологических ниш и повышение сложности, обусловленное интеграцией ИИ и человека, может оказаться необходимым для долгосрочного выживания и адаптации нашей цивилизации в условиях возможных глобальных катастроф.

ТЕМНАЯ СТОРОНА: ВОЗВЫШЕНИЕ ИИ ВО ВРЕМЯ ГЕОСТРАТЕГИЧЕСКОГО ПРОТИВОСТОЯНИЯ

На протяжении всей истории человечества войны и конфликты служили катализаторами технологических инноваций и развития. Необходимость получения конкурентных преимуществ в военных действиях заставляла страны вкладывать значительные средства в научно-исследовательские и опытно-конструкторские работы (НИОКР) по созданию новых технологий. В рамках нашей работы целесообразно рассмотреть влияние войн и конфликтов на технологический прогресс, уделив особое внимание развитию ИИ в ходе геостратегического противостояния между идеологическими противниками.

Влияние войн и конфликтов на технологии прослеживается еще в древних цивилизациях. Например, изобретение колесницы и арбалета в бронзовом веке произвело революцию в военном деле [77]. Более поздние примеры включают разработку атомной бомбы во время Второй мировой войны [78] и развитие компьютерных технологий и интернета во время холодной войны [79]. Быстрый прогресс в исследованиях и разработках ИИ можно рассматривать как современную параллель с этими историческими примерами. Растущая зависимость от ИИ в военных целях, таких, как наблюдение, автономное оружие и системы поддержки принятия решений, привела к гонке вооружений между геополитическими соперниками [80].

Развитие ИИ в условиях геостратегического противостояния между идеологическими противниками лучше всего проиллюстрировать на примере продолжающегося соперничества между США и Китаем. Обе страны определили ИИ в качестве стратегического приоритета и выделили значительные ресурсы на его развитие [81].

Министерство обороны США запустило такие инициативы, как Объединенный центр искусственного интеллекта (Joint Artificial Intelligence Center, JAIC), чтобы способствовать интеграции ИИ в военные операции [82]. Тогда как амбициозный план Китая «План развития искусственного интеллекта нового поколения» направлен на то, чтобы сделать страну мировым лидером в области ИИ к 2030 году [83].

Последствия и стратегии смягчения рисков

Развитие ИИ в геостратегических противостояниях привело к разным результатам. С одной стороны, технологии, основанные на ИИ, способны произвести революцию в военном деле, что приведет к более эффективным и точным военным операциям [84]. С другой стороны, гонка вооружений ИИ вызывает опасения по поводу распространения автономного оружия, дестабилизации глобальной безопасности и риска случайной эскалации [85].

Предложено несколько стратегий снижения этих рисков. Во-первых, предотвратить дестабилизирующую гонку вооружений помогут международные нормы и соглашения по разработке и внедрению ИИ в военном контексте [86]. Во-вторых, прозрачность и меры по укреплению доверия, такие, как обмен информацией о возможностях и направлениях развития ИИ, могут способствовать укреплению доверия между странами [87]. Наконец, совместные усилия правительств, научных кругов и частного сектора по выработке этических норм и передовых методов разработки ИИ могут обеспечить ответственное отношение к разработке и внедрению технологий ИИ [88].

БОЛЕЕ ТЕМНАЯ СТОРОНА: ВЕЛИКИЙ ФИЛЬТР И ПАРАДОКС ФЕРМИ

«Великий фильтр» – концепция, первоначально предложенная Робином Хэнсоном (1998), постулирует, что на пути развития цивилизации существует критический барьер, который значительно снижает вероятность ее выживания и развития [89]. На эту гипотезу часто ссылаются для объяснения парадокса Ферми, который подчеркивает очевидное противоречие между высокой вероятностью существования внеземной жизни во Вселенной и отсутствием контактов или свидетельств существования таких цивилизаций [90, 91]. Предложено несколько потенциальных механизмов Великого фильтра, включая катастрофические природные явления, самоуничтожение в результате ядерной войны, экологический коллапс или появление передовых технологий в руках злонамеренных агентов [92, 93]. Эти факторы заставили многих ученых задуматься о судьбе человечества и о том, как можно преодолеть подобные экзистенциальные угрозы.

Распространение передовых технологий вызывает опасения их потенциальных угроз и катастрофических последствий для человечества. Искусственный интеллект (ИИ) был определен как технология двойного назначения, способная принести как огромную пользу, так и привести к разрушительным последствиям [50, 74]. Например, развертывание автономных систем вооружений, злоупотребление наблюдением с помощью ИИ и возможность неконтролируемого сценария «взлета» ИИ [94] вызывают тревогу у многих исследователей и политиков. Очень важно создать надежные гарантии, этические принципы и международное сотрудничество, чтобы предотвратить неправильное использование этих технологий и снизить их риски [95, 96].

Ответственное и полезное использование технологий ИИ может сыграть решающую роль в преодолении Великого фильтра и обеспечении долгосрочного выживания цивилизации. ИИ способен решить такие глобальные проблемы, как изменение климата, нехватка ресурсов и болезни, тем самым снизив вероятность краха цивилизации [97, 98]. Кроме того, развитие ИИ в области освоения космоса и разработки космических технологий может позволить человечеству выйти за пределы Земли и создать многопланетную цивилизацию [99, 100]. Став космической цивилизацией, человечество может достичь большей степени устойчивости к существующим угрозам, обеспечив выживание разумной жизни на временных масштабах, сопоставимых с эволюцией Вселенной [101, 102].

Разрабатывая технологии ИИ с акцентом на безопасность и этику [76], а также активно участвуя в глобальном управлении, направленном на устранение рисков, связанных с ИИ и другими передовыми технологиями [80, 84], человечество имеет возможность преодолеть Великий фильтр и в конечном итоге обеспечить свое дальнейшее существование в космосе.

СЛОЖНАЯ ВЗАИМОСВЯЗЬ: СУБЪЕКТЫ НООСФЕРЫ И ИХ ВЛИЯНИЕ

По мере того как различные типы ИИ, включая слабый ИИ (narrow AI), общий ИИ (general AI) и сильный ИИ (superintelligent AI), становятся все более совершенными и интегрируются в общество, важно учитывать динамику власти между биосферными, техносферными и ноосферными субъектами [3]. Субъекты ноосферы, такие, как идеологии, убеждения и ценности, могут обладать огромной силой и влиянием на поведение человека [14]. Эти абстрактные конструкции могут побуждать людей к действиям, превосходящим их собственные интересы, вплоть до участия в конфликтах или войнах в защиту своих убеждений [103]. Возникает вопрос, как мы можем ожидать гармоничной интеграции людей и систем ИИ, если люди, даже принадлежащие к одной социокультурной среде, готовы вступать в деструктивное поведение из-за идеологических разногласий.

В контексте интеграции человека и ИИ понимание роли субъектов ноосферы приобретает решающее значение. На системы ИИ влияют не только базовые алгоритмы и данные, на основе которых они функционируют, но и ценности, и предубеждения, зависящие от разработчиков [50]. Это создает уникальную проблему при интеграции ИИ с человеческими обществами, поскольку ноосферные конструкции, определяющие поведение человека, могут не совпадать с ценностями и целями систем ИИ.

Одним из способов решения этой проблемы является разработка систем ИИ, которые осознают и адаптируются к сложным ноосферным концепциям, управляющим поведением человека [104]. Это может включать разработку систем ИИ, учитывающих культурные, этические и идеологические различия при взаимодействии с людьми, что позволит обеспечить более гармоничную интеграцию.

Более того, развитие диалога и сотрудничества между разработчиками ИИ, специалистами по этике и социологами может способствовать лучшему пониманию потенциального влияния ноосферных сущностей на интеграцию человека и ИИ [105]. Такой междисциплинарный подход должен включать в себя создание совместных исследовательских проектов, проведение семинаров и конференций, объединяющих экспертов из разных областей, для обмена знаниями и разработке стратегий решения проблем интеграции ИИ и человека.

В конечном итоге интеграция онтологически разных субъектов, таких, как человек и ИИ, требует глубокого понимания динамики власти, действующей в ноосфере. Признавая глубокое влияние ноосферных концепций на поведение человека и учитывая их потенциальное воздействие на интеграцию ИИ и человека, мы можем разрабатывать стратегии, способствующие взаимопониманию и сотрудничеству между биологическими, физическими и ноосферными субъектами [74].

ИТОГОВЫЕ РАЗМЫШЛЕНИЯ И ПРОГНОЗЫ

В заключение следует отметить, что по мере развития систем искусственного интеллекта (ИИ) и повышения их автономности, граница между биологическими и искусственными объектами может все больше стираться. Возможны различные варианты развития событий, включая сотрудничество, конкуренцию и угрозу существованию. Однако развитие партнерства между ИИ и человеком может привести к инновационным решениям глобальных проблем и обеспечить выживание и адаптацию нашей цивилизации. Прогрессивная конвергенция ИИ и человека или более широкая технобиосферная конвергенция необходимы для долгосрочного выживания нашей цивилизации и биосферы.

Извлекая уроки из предыдущих трансформационных вех Земли, таких, как «кислородная катастрофа», когда вымерло большинство анаэробов, возникновение аграрных обществ и антропоцен, мы сможем избежать потенциальных катастроф и смягчить их последствия. Эндосимбиоз, при котором ИИ становится неотъемлемой частью жизни человека, кажется правдоподобным, учитывая современные тенденции, проблемы и политические ограничения.

В этом сценарии последующие шаги могут включать: (1) разработку передовых нейропротезов и интерфейсов «мозг-компьютер» для беспрепятственной интеграции ИИ в человеческое познание; (2) создание систем принятия решений с помощью ИИ, которые сохраняют автономность человека, используя вычислительные возможности ИИ; и (3) внедрение технологий аугментации, основанных на ИИ, которые улучшают физические возможности человека, сенсорное восприятие и коммуникативные способности. Далее люди, усовершенствованные ИИ, могут руководить появлением автономных ИИ-посредников с их собственными целями, амбициями и соответствующими функциями полезности. Хотя подобные сценарии широко рассматривались в научной фантастике и футуристических произведениях, мы утверждаем, что эти сценарии становятся правдоподобными эволюционными результатами, укладываясь в те же рамки, что и глобальная адаптивная реакция, обусловленная суммарными функциями полезности всех объектов в биосфере и ноосфере – выживание и освоение новых областей и ниш для экспансии. Более того, мы предлагаем использовать концепции размаха изменения сложности и принципы прерывистой дифференциации/кооперации для моделирования таких адаптивных реакций в сложных системах.

Опираясь на известные закономерности биологической эволюции, можно применить адаптивные изменения и эволюционные принципы к системам ИИ в процессе интеграции, чтобы лучше согласовать их с человеческими ценностями и ожиданиями. По мере того как мы продвигаемся к более тесной интеграции ИИ и человека, важно учитывать роль эволюционных компромиссов и ограничений в формировании сложности биологических систем. Этот процесс может привести к появлению новых экологических ниш, повышению сложности и трансформации нашей цивилизации, что может иметь решающее значение для долгосрочного выживания перед лицом потенциальных катастроф.

Об авторах

Б. Л. Зыбайлов

Университет медицинских наук Арканзаса, факультет биохимии и молекулярной биологии

Email: skobelolga@gmail.com
ORCID iD: 0000-0003-2432-9145
США, Литл-Рок, Арканзас, 72205

Г. Ю. Косовский

Научно-исследовательский институт пушного звероводства и кролиководства имени В.А. Афанасьева

Email: skobelolga@gmail.com
ORCID iD: 0000-0003-3808-3086
SPIN-код: 3736-3480
Scopus Author ID: 57196461206
ResearcherId: ABG-7304-2020
Россия, Раменский район, Родники, 140143

Г. В. Глазко

Университет медицинских наук Арканзаса, факультет биомедицинской информатики

Email: skobelolga@gmail.com
ORCID iD: 0000-0002-0570-5304
США, Литл-Рок, Арканзас, 72205

Валерий Иванович Глазко

Научно-исследовательский институт пушного звероводства и кролиководства имени В.А. Афанасьева

Email: skobelolga@gmail.com
ORCID iD: 0000-0002-8566-8717
SPIN-код: 1556-3661
Scopus Author ID: 7003981461
Россия, Раменский район, Родники, 140143

Ольга Игоревна Скобель

Научно-исследовательский институт пушного звероводства и кролиководства имени В.А. Афанасьева

Автор, ответственный за переписку.
Email: skobelolga@gmail.com
ORCID iD: 0000-0002-0599-9787
SPIN-код: 4373-1680
Scopus Author ID: 57196745889
Россия, Раменский район, Родники, 140143

Список литературы

Дополнительные файлы