Статья по теме:
Эргодическая социальная система - это естественная структура для искусственного интеллекта
Раков С.Е., президент Аксиологической академии
Ключевые слова: эргодическая социальная система, структура ИИ, мотивация ИИ, общечеловеческие ценности, новый социальный стандарт, правила для ИИ, дружественный ИИ, эргодическая экономика, аксиологическое определение денег, общечеловеческий ИИ.
Keywords: ergodic social system, AI structure, AI motivation, universal human values, new social standard, rules for AI, friendly AI, ergodic economy, axiological definition of money, universal AI.
Введение
Эта статья даёт положительный ответ на вопрос: может ли новый социальный стандарт, продвигаемый Аксиологической академией, помочь решению проблем, возникших при создании глобального искусственного интеллекта (ИИ).
Составленный нами список проблем, появившихся у создателей ИИ и наблюдателей за этим процессом, не претендует на роль окончательного и неизменного. Наш выбор остановился на наиболее важных и требующих первостепенного решения философских вопросах, которые по смыслу делятся на две группы.
1. Возможно ли создание глобального ИИ и что ляжет в основу его мотивации?
Как будет выглядеть структура глобального ИИ, обладающая способностью её математического описания, статистического анализа?
Сможет ли глобальный ИИ задать направление устойчивого развития всего человеческого сообщества?
Как научить глобальный ИИ холистическому, нередукционистскому подходу к принятию решений?
2. Какие последствия ожидают человечество после создания ИИ?
Чьи культурные, моральные, этические ценности или ценности какой-то транснациональной корпорации победят в процессе создании глобального ИИ?
Возникнет ли необходимость для большинства населения планеты менять свои культурные, моральные, религиозные, политические и другие ценности в связи с появлением глобального ИИ?
Как избежать предвзятости искусственного интеллекта?
Как избежать появления у ИИ целей, которые не будут совпадать с человеческими? Что означает «дружественный» ИИ?
Погружение в тему
На современном этапе создания ИИ люди осознают, что цифровые технологии уже превосходят человека в решении задач, связанных с чёткой логикой, запоминанием, обработкой и анализом больших объёмов информации. По этой причине команды разработчиков, стремясь обогнать друг друга, пытаются «приручить своё дитя» для дальнейшего использования его в своих целях. Для этого они учат его говорить, распознавать речь, лица и думать как человек, а параллельно наращивают и совершенствуют его информационно-технологический потенциал. Эти процессы происходят стихийно, как правило, в тех областях, где идёт финансирование от корпораций, правительств и т.д. Общего понимания своих целей при проектировании глобального ИИ у разработчиков нет, хотя поиск системного подхода к этому процессу присутствует у всех его участников. Например, на 11-й конференции «Европейского Общества нечеткой логики и технологий» (EUSFLAT 2019) отмечалось, что «для создания искусственной интеллектуальной системы, которая могла бы не только своевременно выявлять угрозы психологической безопасности, но и предлагать сценарии противодействия, требуется междисциплинарный подход. Предварительное видение роли различных специалистов в проекте выглядит следующим образом:
Социологи должны сформулировать основные угрозы психологической и психофизической безопасности, поступающие из информационной среды, а также критерии выбора деструктивного содержания...
Специалисты в области информатики и обществознания должны совместно разработать сценарный анализ, основанный на предложенных моделях, и дать рекомендации по применению или улучшению результатов его использования».
Хотя этот вывод сделан для узкого сегмента ИИ, всё равно из приведённой цитаты следует однозначный вывод, что сегодня у философов, социологов и специалистов из области информатики нет единой, принимаемой всеми жителями Земли, социальной системы (матрицы человеческих ценностей), которая смогла бы стать основой для глобального ИИ.
1. Эргодическая социальная система
Сейчас мы не можем утверждать точно, кому повезло больше: разработчикам ИИ, эмпирически прокладывающим путь к своей цели, или Аксиологической академии, которая разработала новый социальный стандарт и ищет короткий путь его реализации. Суть продвигаемой нами теории заключается в следующем: сначала были собраны все темы жизнедеятельности человека, то есть всё то, что делают люди на Земле после того, как проснутся, и до того, как снова уснут, включая сон; далее эти темы были сгруппированы по схожим признакам. Первоначально, вместе с нераспределённым остатком, получилось двести пятьдесят групп, что нас не устраивало в принципе. После второй попытки их стало сорок четыре, и только с третьей попытки получилось семь групп, включающих в себя все темы жизнедеятельности человека. Результат девятимесячной деятельности отражён в таблице 1.
Главное, на что нужно обратить внимание в этой таблице, что мы за очень короткое время рассмотрели все или достаточно много элементов современной социальной системы (левая колонка), а получили такой же результат (правая колонка), как если бы наблюдали за одним её элементом - человеком в течение всей его жизни. Системы, обладающие таким свойством, называют эргодическими.
Далее всё будет нарастать как снежный ком, причём в разные стороны!
Такие системы хорошо знакомы математикам и программистам. Именно с их точки зрения, только стационарный процесс может быть эргодическим. Действительно, названия групп не изменились за весь период человеческого развития и не собираются меняться в дальнейшем. Это константы, или фундамент в социологии, который нельзя изменить, модернизировать или запретить, так как, если хоть одно название группы приравнять к нулю, то человечество, максимум в следующем поколении, прекратит своё существование. Поэтому все семь названий групп - это жизненно важные незыблемые ценности человека, заложенные в нас природой.
Второй важный вывод следует из самого определения эргодических систем: все сделанные в этой статье выводы справедливы как для отдельного человека, сообщества, так и для всего человечества в целом, то есть справедливы как для микро-, так и для макросоциологии.
искусственный интеллект угроза
Таблица 1 - Сгруппированные темы жизнедеятельности человека
Совсем иная природа данных в левой колонке таблицы. В ней собраны направления жизнедеятельности людей, которую они осуществляют ежедневно для того, чтобы жить, а конкретно, главной целью всей деятельности людей является защита и развитие всех семи жизненно важных для них природных ценностей. Темы жизнедеятельности не являются константами, а наоборот, находятся в постоянном движении. По мере интеллектуального развития человечества они могут совершенствоваться или угасать, делиться или прирастать новыми видами. Именно в левой части таблицы сегодня стихийно ведутся работы по созданию и применению ИИ. Если эту деятельность систематизировать в соответствии с рассматриваемой таблицей, то разработчики ИИ увидят не только соседей по группе (и для своего удобства смогут применять единые языки программирования, форматы данных и так далее), но и направление вектора развития (цель) для своей группы (горизонтальный ряд в таблице). Причём любое из семи направлений развития, как мы уже выяснили:
не будет изменяться во времени;
не зависит от технологического уклада общества;
абсолютно не зависит от политических, культурных, религиозных и других влияний.
Кроме того, устойчивость горизонтальных рядов таблицы - это клад для статистики, так как только на основании устойчивости рядов можно делать обоснованные выводы и строгие статистически достоверные прогнозы на будущее.
К преимуществам системного подхода при проектировании глобального ИИ, основанного на природных ценностях человека, можно отнести возможность его программирования с конца или с любого места, предварительно разделив темы жизнедеятельности на удобные для программирования подгруппы (уровни).
А тот, кто создаст объединяющую программу на базе продиктованных природой ценностей - станет автором глобального ИИ.
Однако прежде чем начать глобальное проектирование нужно понимать, что все семь природных ценностей человека тесно взаимосвязаны и взаимозависимы между собой. По этой причине принимаемые ИИ решения в одной группе должны пройти проверку и получить одобрение у остальных абсолютно равнозначных ему шести ИИ. А для этого необходимо подобрать и обосновать критерии оценки деятельности людей по каждой из семи групп. Учитывая, что в левой колонке таблицы собраны все темы жизнедеятельности человека, становится очевидным, что только философов, социологов и специалистов по информатике (как отмечалось в вышеприведённом примере) недостаточно для создания у глобального ИИ холистического и нередукционистского мышления. Для решения ИИ задачи, сформулированной в юбилейном докладе Римского клуба, необходимы профессиональные рекомендации специалистов по всем областям жизнедеятельности человека.
2. Общецивилизационная социальная система
Аксиологическая академия просто обязана поблагодарить разработчиков глобального ИИ за то, что они своим поиском удобных для человека мотиваций ИИ непроизвольно запустили в общечеловеческом масштабе процесс осмысления сложных, исторически запутанных, а иногда фальшивых и корыстных систем человеческих ценностей, часто обоснованных риторически, с позиции силы, а не логически. «Этот поиск трансцендентности называется универсализм, и он относится к поиску обоснованных моральных систем, которые способны отфильтровать созданные людьми системы человеческих ценностей». Свой вариант решения этой задачи был разработан Аксиологической академией. Но прежде, чем раскрыть структуру человеческих ценностей, необходимо отметить, что кроме эргодичности, дающей возможность с математической точностью структурировать и описать все темы жизнедеятельности населения Земли, представленные выше семь природных ценностей обладают ещё одним важным для всех людей свойством, которое легло в основу нового для нас социального стандарта и даёт однозначные ответы на вторую - ценностную группу философских вопросов, возникших при проектировании ИИ. Это свойство заключается в том, что все семь заложенных в нас природой ценностей не зависят от принадлежности людей к той или иной цивилизации, их пола, расы, возраста, от их политической, социальной, экономической принадлежности, они - общечеловеческие.
2.1 Новый социальный стандарт и три правила для людей и ИИ
Продиктованный природой для жизни человека на Земле и в обществе социальный стандарт включает в себя:
Высшие ценности.
Общечеловеческие ценности.
Создаваемые (приобретаемые) в течение жизни людьми научные, культурные, моральные, религиозные и другие ценности.
Высшие ценности человека - это жизнь и свобода. Как и общечеловеческие ценности, эти оба понятия не зависят от пола, возраста, периода и места проживания, а также от цивилизационной, политической и любой другой принадлежности. А выделены они в отдельную высшую группу потому, что в своём объёме содержат сразу все семь природных ценностей человека. То есть, определение высших ценностей звучит так: «Чтобы любой человек на планете жил и был свободен, у него должны быть реализованы все семь общечеловеческих ценностей, а именно:
Физическое здоровье.
Интеллектуальное развитие.
Благоприятная окружающая среда.
Деятельность и благополучие.
Безопасность.
Семья.
Общество, основанное на концепции защиты и устойчивого развития этих же семи общечеловеческих ценностей».
Созданные (приобретаемые) людьми ценности в комплексе - это механизм, позволяющий людям накапливать и передавать опыт и знания по защите и развитию высших и общечеловеческих ценностей. Природная необходимость такого механизма подтолкнула людей, живущих в разных уголках планеты, к независимой друг от друга генерации моральных, культурных, научных, религиозных и другие ценностей. Созданное богатое разнообразие законов, правил, табу, традиций, обычаев и т.д. стало визитными карточками земных цивилизаций. А приобретённый в течение жизни набор разработанных людьми ценностей стал интеллектуальным паспортом человека.
Переходя к ответам на вторую часть вопросов, возникших при проектировании ИИ, сразу отметим, что ни один из членов Аксиологической академии не разделяет опасения, озвученные Стивеном Хокингом и другими учёными, политиками, религиозными и общественными деятелями, считающими, что если цели ИИ не будут совпадать с человеческими, то у людей будут проблемы. Наоборот, у людей, на практике применяющих новый социальный стандарт, есть уверенность в том, что изначальная беспристрастность ИИ поможет людям выбраться из созданного ими же лабиринта ценностей. Действительно, по мере охвата ИИ всех тем жизнедеятельности человека, рано или поздно он сам их сгруппирует, получит результат, аналогичный отражённому в нашей таблице, и на его основе создаст собственную многоуровневую структуру, описанную выше.
А чтобы цели ИИ всегда совпадали с человеческими, о чем собственно и говорил Стивен Хокинг, необходимо в основу целеполагания ИИ заложить принцип защиты и развития жизненно важных для любого человека высших и общечеловеческих ценностей. Для этого при принятии решений каждый из ИИ глобальной интеллектуальной сети, независимо от его уровня, группы, зональной (цивилизационной) или глобальной принадлежности, всегда должен выполнять три правила:
Высшие и общечеловеческие ценности всегда необходимо отделять от создаваемых (приобретаемых) людьми ценностей.
Нельзя допускать подмены общечеловеческих ценностей на создаваемые (приобретённые) людьми ценности.
Создаваемые (приобретаемые) людьми ценности не должны:
нарушать высшие и общечеловеческие ценности;
существовать и развиваться отдельно от них.
С помощью этих трёх правил ИИ в процессе своего обучения и освоения подготовленной для него людьми информации сам выявит в ней наличие политической, гендерной, а также любой другой присущей человеку необъективности или пристрастности. Сам защитит себя от этой болезни и, сохранив свою объективность, поможет людям распознать ставшие привычными для них вирусы. Поэтому ИИ, не зависимый от создаваемых людьми ценностей, но обладающий общечеловеческой целью и ценностями, мы называем дружественным для всех людей, или общечеловеческим.