Правовые основы и возможные риски использования искусственного интеллекта и космических технологий
Сорока Л.В.,
кандидат юридических наук, доцент, докторант
(Научно-исследовательский институт публичного права)
Статья посвящена исследованию специфики правового регулирования использования и разработки искусственного интеллекта для космической сферы и связанных с этим вопросов соблюдения фундаментальных прав человека. Рассмотрены некоторые особенности законодательного обеспечения соответствующей сферы. В связи с активизацией коммерческой и добывающей деятельности в Арктике, в открытом море и вскоре в космосе нормы международного права об ответственности государств за деятельность, осуществляемую в этих областях, заслуживают дальнейшего внимания и исследований, а также установления таких общих правил по использованию искусственного интеллекта, которые ни сейчас, ни в будущем не смогли бы нарушить фундаментальные права человека. На сегодня существует два способа урегулирования использования искусственного интеллекта. Первый способ предполагает, что решать проблемы нужно по мере их поступления. Нет проблемы - не нужно ее регулировать. Второй - упреждающий, то есть принимаются универсальные упреждающие нормы, обязательные для всех. Сделан вывод, что для урегулирования использования искусственного интеллекта и космических технологий необходимо принять под эгидой ООН международный договор, где предусмотреть создание правоохранительного международного органа, который и будет осуществлять надзор за соблюдением основных прав человека в указанной сфере. Разработка искусственного интеллекта нуждается в урегулировании на основе «жестких» законов наряду с техническими стандартами для того, чтобы права человека не нарушались. Гражданское общество и разработчики искус-ственного интеллекта должны работать вместе, чтобы помочь оценить области риска и предвидеть потребности уязвимых групп. Только когда заинтересованные стороны работают вместе в области защиты прав человека, можно избежать или минимизировать нарушения в сфере использования искусственного интеллекта и космических технологий.
Ключевые слова: искусственный интеллект, космические технологии, права человека, Организация Объединенных Наций, международные правила.
Стаття присвячена дослідженню специфіки правового регулювання, використання та розробки штучного інтелекту для космічної сфери і пов'язаних з цим питань дотримання фундаментальних прав людини. Розглянуто деякі особливості законодавчого забезпечення відповідної сфери. У зв'язку з активізацією комерційної та видобувної діяльності в Арктиці, у відкритому морі і незабаром в космосі норми міжнародного права про відповідальність держав за діяльність, яка здійснюється в цих областях, заслуговують подальшої уваги і досліджень, а також встановлення таких загальних правил щодо використання штучного інтелекту, які ні зараз, ні в майбутньому не змогли б порушити фундаментальні права людини. На цей час є два способи врегулювання використання штучного інтелекту. Перший спосіб передбачає, що вирішувати проблеми потрібно по мірі їх надходження. Немає проблеми - не потрібно її регулювати. Другий - попереджуючий, тобто приймаються універсальні попереджувальні норми, обов'язкові для всіх, не вичікуючи, коли з'являться проблеми, які потрібно вирішувати. Зроблено висновок, що для врегулювання використання штучного інтелекту і космічних технологій необхідно прийняти під егідою ООН міжнародний договір, де передбачити створення правоохоронного міжнародного органу, який і буде здійснювати нагляд за дотриманням основних прав людини в зазначеній сфері. Розробка штучного інтелекту потребує врегулювання на основі «жор-стких» законів поряд з технічними стандартами для того, щоб права людини не порушувалися. Громадянське суспільство і розробники штучного інтелекту повинні працювати разом, щоб допомогти оцінити області ризику і передбачити потреби вразливих груп. Тільки коли зацікавлені сторони працюють разом в області захисту прав людини, можна уникнути або мінімізувати порушення в сфері використання штучного інтелекту і космічних технологій.
Ключові слова: штучний інтелект, космічні технології, права людини, Організація Об'єднаних Націй, міжнародні правила.
The article is devoted to the study of the specifics of legal regulation of the use and development of artificial intelligence for the space sector and related issues of observing fundamental human rights. Some features of legislative support of the corresponding sphere are considered. In connection with the intensification of commercial and mining activities in the Arctic, on the high seas and soon in space, the norms of international law on the responsibility of states for activities carried out in these areas deserve further attention and research. As well as the establishment of such general rules for the use of artificial intelligence, which now and in the future could not violate fundamental human rights. Today, there are two ways to regulate the use of artificial intelligence. The first method involves solving problems as they arise. No problem - no need to regulate it. The second is proactive, i.e. universal proactive norms are adopted, binding on everyone, without waiting for problems to be addressed. It is concluded that in order to regulate the use of artificial intelligence and space technologies, it is necessary to adopt an international treaty under the auspices of the United Nations, where it is necessary to establish an international law enforcement body that will oversee the observance of fundamental human rights in this area. The development of artificial intelligence needs to be resolved on the basis of “hard” laws along with technical standards so that human rights are not violated. Civil society and artificial intelligence developers must work together to help assess risk areas and anticipate the needs of vulnerable groups. Only when stakeholders work together to protect human rights can violations of the use of artificial intelligence and space technology be avoided or minimized.
Key words: artificial intelligence, space technology, human rights, United Nations, international rules.
Введение
правовой искусственный интеллект космический
Амбициозные краткосрочные и долгосрочные цели, поставленные различными национальными космическими агентствами, требуют радикального продвижения в космическую сферу новых технологий, одной из которых, безусловно, является разработка интеллектуальных космических агентов. В последние годы это привело к росту интереса к искусственному интеллекту всего аэрокосмического сообщества. Действительно, все шире используются технологии и машины, которые могут автономно выполнять различные функции в таких областях, как космос, где условия являются враждебными и опасными для жизни человека. Поэтому одной из сложных правовых проблем нашего времени является все более широкое использование технологий и процессов, связанных с искусственным интеллектом и космическими технологиями, и зависимость от них.
Постановка задания
Цель статьи - проанализировать международно-правовые акты и инициативы в области соблюдения права человека при внедрении искусственного интеллекта в повседневную жизнь.
Результаты исследования
Как уже отмечалось, мы живем в самый технологически прогрессивный период нашего существования. Из-за этого у людей теперь есть лучшее представление о человеческой цивилизации, которая включает исследование космоса, более безопасный транспорт и в целом лучшее качество жизни.
Что является более захватывающим, так это огромный океан возможностей с искусственным интеллектом и космическими технологиями. Однако нам еще предстоит понять, какими будут конечные результаты их использования. Не говоря уже о том, что даже ученые не могут договориться о прецеденте, который возникнет из-за использования искусственного интеллекта. Стивен Хокинг сказал в 2017 году, что искусственный интеллект может привести к концу цивилизации, какой мы ее знаем. Другие исследователи и ученые, хотя имеют менее мрачные предсказания, все-таки взволнованы существующей ситуацией с использованием искусственного интеллекта и его последствиями, но это только показывает, насколько сложно устанавливать правила и регулировать указанную сферу [1].
П. Черка, Й. Григене и Г. Сирбиките отмечали, что технологии искусственного интеллекта отличаются спонтанностью, постоянным развитием и трансформациями. По этой причине нормативноправовая база, регулирующая эту сферу, должна быть: во-первых, универсальной, чтобы быть эффективной, независимо от изменений в информационных технологиях, или, во-вторых, постоянно корригируемой для обеспечения ее эффективности в условиях интенсивных изменений информационных технологий. При этом постоянное внесение изменений в законодательство, как реакция на изменения в сфере информационных технологий, может оказаться труднореализуемым из-за относительно статического и выраженного последовательного характера деятельности государственных институтов власти [2].
Еще в 1980-х годах ученые-правоведы начали исследовать, требует ли разработка искусственно интеллектуальных машин, таких как роботы, адаптации или расширения существующих правовых рамок, например, в отношении ответственности или правового статуса [3; 4]. Большая часть этих работ была связана с агентскими технологиями в программных системах. Поскольку робототехника была все еще научной фантастикой, а не фактом, многие из этих исследований носили фрагментарный характер. Они затрагивали важные правовые темы, которые должны быть охвачены (будущим) законом о робототехнике, но не содержали конкретных мер или правил и не применялись к действующим правовым системам.
В связи с активизацией коммерческой и добывающей деятельности в Арктике, в открытом море и вскоре в космосе нормы международного права об ответственности государств за деятельность, осуществляемую в этих областях, заслуживают дальнейшего внимания и исследований, а также установления таких общих правил по использованию искусственного интеллекта, которые ни сейчас, ни в будущем не смогли бы нарушить фундаментальные права человека.
Проблема регулирования новых технологий в Европе решалась почти каждой национальной правовой системой, поэтому наработки в этой сфере, включают в себя большое количество исследований о взаимосвязи между законом и наукой, а также между правом и технологиями.
В марте 2012 года стартовал европейский проект RoboLaw, который был сфокусирован на вопросах, стоящих перед определением юридического «статуса» робототехники, нанотехнологий, нейропротезов, компьютерно-мозговых интерфейсов, то есть в тех сферах, в которых до сих пор мало что сделано [5].
Радикальная новизна этих технологических приложений и инструментов требует оригинального и более сложного исследования, характеризующегося междисциплинарным методом и сравнительным анализом различных подходов, принятых в различных правовых системах. Несколько исследовательских институтов по всему миру исследовали аспекты нормативно-правовых последствий разработок в области робототехники. Тем не менее, до сих пор урегулирование указанной сферы (как в Европе, так и за ее пределами) все еще носит фрагментарный характер.
К аналогичному выводу пришел и М. Шерер, считая, что до недавнего времени развитие искусственного интеллекта происходило в своего рода нормативном вакууме (хотя и не абсолютном); за исключением действующих в некоторых государствах норм, касающихся беспилотных транспортных средств и летательных аппаратов, на настоящий момент принято весьма небольшое количество положений, которые касаются непосредственно уникальных специфических проблем, поднимаемых искусственным интеллектом. Практически отсутствует и судебная практика по данной тематике [6, с. 356].
Мы считаем, что самая большая проблема, стоящая перед законом и искусственным интеллектом, может быть в широком смысле обозначена как «регулирование». Точнее, будут ли правительства регулировать искусственный интеллект, и если да, то как? Этот всеобъемлющий вопрос пронизывает всю сферу и затрагивает множество различных конкретных вопросов.
На сегодня существует два способа урегулирования использования искусственного интеллекта. Первый способ предполагает, что решать проблемы нужно по мере их поступления. Нет проблемы - не нужно ее регулировать. Правительства государств должны проявлять «нормативное смирение» при работе с искусственным интеллектом. Другими словами, использовать невмешательный подход. Причина заключается в том, что раннее (нормативное) вмешательство может предотвратить или даже перекрыть определенные пути к инновациям [7].
Второй - упреждающий, то есть принимаются универсальные упреждающие нормы, обязательные для всех, не выжидая, когда появятся проблемы, которые нужно решать. Мы согласны с приверженцами такого способа и поддерживаем принятие Международного договора о регулировании исследований и разработок в области искусственного интеллекта [8]. Также в указанном договоре необходимо предусмотреть международный надзор за выполнением правил и создать правоохранительное международное агентство, которое и будет осуществлять такой надзор.
На сегодня функции международного «надзирателя» в области использования ИИ может взять только одна организация - ООН. Понимая важность регулирования использования ИИ, Организация Объединенных Наций открыла в 2015 году Центр по искусственному интеллекту и робототехнике в Нидерландах. Центр помог сосредоточить экспертные знания в области ИИ в одном учреждении, который был организован в рамках Межрегионального научно-исследовательского института ООН по вопросам преступности и правосудия (ЮНИКРИ) [9].
Также специализированным глобальным учреждением Организации Объединенных Наций по информационным и коммуникационным технологиям является Международный союз электросвязи (МСЭ), который и стал одной из ключевых платформ ООН для изучения воздействия искусственного интеллекта. МСЭ заявил, что он «предоставит нейтральную платформу для правительства, промышленности и научных кругов для выработки общего понимания возможностей новых технологий искусственного интеллекта и вытекающих из этого потребностей в технической стандартизации и политическом руководстве» [10].
Долгое время 1Т-индустрия работала в уникальной среде - без каких-либо норм и стандартов. Например, в автомобильной индустрии изготовители автомобилей должны следовать различным правилам дизайна и безопасности. Они должны иметь фары и поворотники, тормоза и так далее Автомобиль, спроектированный небезопасным способом, будет снят с рынка, но программное обеспечение может делать практически все, что захочет. Каждое лицензионное соглашение, которое мы подписываем при покупке или использовании программного обеспечения, говорит нам, что не имеет значения, что делает их программное обеспечение. Производитель не несет ответственности ни за что.
Для гражданского общества вопросы регулирования искусственного интеллекта также являются актуальными. В течение многих лет распространялись «бесплатные» сервисы, такие как поисковые системы, электронная почта и социальные сети. Но то, что эти сервисы «свободны» - это неправильно. Потребители используют такие услуги без денежной оплаты, но они платят другими способами - как правило, они подвергаются воздействию рекламы и позволяют собирать свои данные. Собранные данные, в свою очередь, представляют огромную ценность для поставщиков услуг. Они могут продавать его, использовать для целевой рекламы или обучать алгоритму машинного обучения. Например, в этой последней категории Facebook использовал 3,5 миллиарда общедоступных изображений с соответствующими общедоступными хэштегами в качестве меток для обучения сетей глубокого обучения распознаванию изображений.