Искусственный интеллект и «предсказанное правосудие»: зарубежный опыт
П.Н. Бирюков
Аннотация
предсказанный правосудие искусственный интеллекта
В статье рассматриваются проблемы применения искусственного интеллекта (ИИ) в области правосудия. В настоящее время обстоятельства способствуют использованию ИИ в юриспруденции. Технологии вышли на рынок. В результате стало возможным «предсказанное правосудие». После того как получен обзор возможного будущего процесса, профессионалу легче завершить задачу -- интерпретацию и принятие окончательного решения (переговоры, судебные разбирательства). Потребуется много работы, чтобы привести ИИ в соответствие с этим стандартом. Юридическая информация должна быть структурирована, чтобы сделать ее не только читабельной, но и эффективной для принятия решений. «Предсказанное правосудие» может помочь как сторонам по делу и судьям в структурировании информации, так и студентам и преподавателям, ищущим соответствующие сведения. Развитие информационных технологий привело к расширению возможностей программ «предсказанного правосудия». Они используют преимущества новых цифровых инструментов. Основное внимание уделяется двум преимуществам программ:
а) повышению качества предоставляемых услуг;
б) одновременному контролю за эксплуатационными расходами системы правосудия. «Предсказанное правосудие» предоставляет алгоритмы для анализа в короткие сроки огромного количества ситуаций, позволяющих предвидеть исход спора или, по крайней мере, оценить шансы на успех. Оно помогает: выбрать правильный способ защиты, наиболее подходящие аргументы, оценить предполагаемую сумму компенсации и т.д. Таким образом, речь идет не о самом правосудии, а лишь об аналитических инструментах, которые позволили бы прогнозировать будущие решения в спорах, аналогичных тем, которые были проанализированы.
Ключевые слова: искусственный интеллект, «предсказанное правосудие», «умные контракты», Совет Европы, ЕС, США, Франция.
Artificial intelligence and "predicted justice": foreign experience
Pavel N. Biryukov, Dr. of Sci. (Law), Professor, Head of the Department of International and Eurasian
Law of Voronezh State University, Voronezh
Abstract
The paper deals with the problems of application of artificial intelligence (AI) in the field of justice. Present day environment facilitates the use of AI in law. Technology has entered the market. As a result, "predicted justice" has become possible. Once an overview of the possible future process is obtained, it is easier for the professional to complete the task-interpretation and final decision-making (negotiations, litigation). It will take a lot of work to bring AI up to this standard. Legal information should be structured to make it not only readable, but also effective for decision-making. "Predicted justice" can help both the parties to the case and the judges in structuring information, and students and teachers seeking relevant information. The development of information technology has led to increased opportunities for "predicted justice" programs. They take advantage of new digital tools. The focus is on two advantages of the programs: a) improving the quality of services provided; b) simultaneously monitoring the operational costs of the justice system. "Predicted justice" provides algorithms for analyzing a huge number of situations in a short time, allowing you to predict the outcome of a dispute or at least assess the chances of success. It helps: choose the right way of defense, the most suitable arguments, estimate the expected amount of compensation, etc. Thus, it is not about justice itself, but only about analytical tools that would make it possible to predict future decisions in disputes similar to those that have been analyzed.
Keywords: artificial intelligence, "predicted justice”, "smart contracts”, Council of Europe, EU, USA, France.
Введение
Под «искусственным интеллектом» (ИИ) понимается набор теорий и техник, используемых для создания машин, способных имитировать интеллект1. А. Каплан и М. Хэнлайн определяют его как «способность системы правильно интерпретировать внешние данные, извлекать уроки из таких данных и использовать эти знания для достижения конкретных целей и задач посредством гибкой адаптации» См.: Barr A., Feigenbaum E.A. The Handbook of artificial intelligence. Vol. 1. 1981; Jackson P. Introduction to Artificial Intelligence. Dover, 1985; Hutter M. Universal Artificial Intelligence. Berlin : Springer, 2005; Luger G.; Stubblefield W. Artificial Intelligence: Structures and Strategies for Complex Problem Solving. Benjamin/ Cummings, 2004; Neapolitan R.; Jiang X. Artificial Intelligence: With an Introduction to Machine Learning. Chapman & Hall/CRC, 2018. См.: Kaplan A., Haenlein M. Siri, Siri, in my hand: Who's the fairest in the land? On the interpretations, illustrations, and implications of artificial intelligence // URL: https://www.sciencedirect.com/science/article/pii/S0007681318301393 (дата обращения: 24.04.2019).. Этот термин используется для описания программ, имитирующих «когнитивные» функции, которые люди связывают с другими человеческими умами -- «обучение» и «решение проблем» (С. Рассэл, П. Норвиг См.: Russell S.J.; Norvig P. Artificial Intelligence: A Modern Approach. Upper Saddle River, New Jersey, 2009.). В компьютерных науках ИИ рассматривается как совокупность «интеллектуальных агентов» (intelligent agents), включающих в себя любое устройство, которое воспринимает окружающую среду и предпринимает действия, которые максимизируют его шансы на успешное достижение своих целей (К. Ниссон) См.: Nilsson N. Artificial Intelligence: A New Synthesis. Morgan Kaufmann, 1998..
Думается, что ИИ соответствует набору концепций и технологий, а не сфере жизни, в которой представлен и функционирует. Так что определений ИИ можно дать множество и каждое будет по-своему правильным, в зависимости от области применения.
контракты. Они представляют собой компьютерные протоколы, которые отображают или проверяют договоры или предоставляют техническую поддержку для переговоров или исполнения контракта. При этом письменная фиксация текста договора (на бумаге или в файле) может быть излишней. «Умные контракты» обычно также имеют пользовательский интерфейс и технически изображают логику договорных соглашений См.: Kaulartz M. Von der Blockchain zum Smart Contract // Frankfurter Allgemeine Zeitung. 16. Mдrz. 2016. S. 16.. Сторонники (например, Ю. Хэк-манн, М. Кауларц) утверждают, что «многие типы условий контрактов становятся частично или полностью самореализуемыми или самодействующими, или и тем и другим» Kaulartz M., Heckmann J. Smart Contracts -- Anwendungen der Blockchain-Technologie // Computer und Recht. 2016. Vol. 32, Iss. 9. DOI: 10.9785/cr-2016-0923.. «Умные контракты» повышают безопасность правоотношений по сравнению с традиционным договорным правом, снижая операционные издержки.
В 2018 г. в отчете Комитету по экономике Сената США подчеркивалось: «Хотя умные контракты могут звучать по-новому, эта концепция коренится в базовом договорном праве. Обычно суд выносит решения по договорным спорам и обеспечивает соблюдение условий, но также часто встречается другой метод, особенно для международных транзакций. С помощью умных контрактов компьютерная программа обеспечивает выполнение контракта, встроенного в код» Chapter 9: Building a Secure Future, One blockchain at a time, US Senate Joint Economic Committee, March 2018 // URL: https://www.jec.senate.gov/public/_cache/files/aaac3a69-e9fb-45b6-be9f-b1fd96dd738b/ chapter-9-building-a-secure-future-one-blockchain-at-a-time.pdf (дата обращения: 24.04.2019)..
«Умные контракты»
Как бы то ни было, обстоятельства способствуют использованию ИИ в юриспруденции Legal Tech Market Map: 50 Startups Disrupting // URL: https://www.cbinsights.com/research/legal-tech- market-map-company-list (дата обращения: 24.04.2019).. В частности, математические методы и алгоритмы позволили сформировать так называемые умные
Программы «предсказанного правосудия»
Кроме того, в настоящее время появились программы, которые предвидят исход судебных процессов, включая потенциальную компенсацию. LegalTech (так обычно обозначаются соответствующие программы в зарубежной литературе См.: Goodman B., Harder J. Four areas of legal ripe for disruption by smart startups // ABA Journal. 2014. № 12. URL: https://www.lawtechnologytoday.org/2014/12/smart-startups (дата обращения: 24.04.2019); Keppenne R. Legal Tech and other smart contracts: what future for legal automation? // ParisTech Review. 2016. 23 May ; Reisenwitz C. 5 legal tech entrepreneurs to watch // Capterra. 2016. 3 Feb.; Henry P and Hofstrossler P. L'avenir de la profession d'avocats. Report, 25 feb. 2018.) предлагает много преимуществ: автоматизация повторяющихся задач для юристов, отвлечение внимания, снижение судебного риска и т.д. Вместе с тем «идея состоит не в том, чтобы уничтожить правовые исследования, -- пишет Н. Бустаманте, президент одного из французских порталов. -- Наша цель -- продвигать право на искусственный интеллект для автоматизации повторяющихся задач, чтобы юристы могли сосредоточиться на своей первой функции -- консультировании клиентов и изобретательности» URL: https://www.doctrine.fr (дата обращения: 24.04.2019). Predicting justice -- англ., Vorhergesagte Gerechtigkeit -- нем., justicia predictiva -- исп., la justice prйdictive -- фр..
Так, в обиход стран Европы прочно вошло новое понятие -- «предсказанное правосудие»11 (ПП). ПП опирается на ИИ, предоставляя юристам инструменты, позволяющие им сосредоточиться на более сложных задачах См., например: Predicting justice: what if algorithms entered the courthouse? // URL: http://theconversation. com/predicting-justice-what-if-algorithms-entered-the-courthouse-91692 (дата обращения: 24.04.2019)..
В то время как традиционное правосудие пытается выполнить свою миссию -- в разумные сроки вынести решение по делу, ПП идет дальше. Оно предоставляет алгоритмы для анализа в короткие сроки огромного количества ситуаций, которые позволяют предвидеть исход спора или по крайней мере оценить шансы на успех. ПП позволяет: избрать наиболее правильный способ защиты, выбрать наиболее подходящие аргументы; оценить предполагаемую сумму компенсации и т.д.
Таким образом, речь идет не о самом правосудии, а лишь об аналитических инструментах, которые позволили бы прогнозировать будущие решения в спорах, аналогичных тем, которые были проанализированы. Профессор Сорбонны Б. Дондеро в этой связи подчеркивает, что ПП -- «это попытка с минимальной неопределенностью предсказать, каким будет ответ юрисдикции X при рассмотрении дела Y».
Сам термин «ПП» (как и многие наши проблемы) исходит от англосаксов. В США на уровне штатов давно используется, в частности, программное обеспечение в области уголовного права, а также базы данных для исполнения нормативных актов, классификации документов и пр. К примеру, полицейское управление Лос-Анджелеса приняло систему предиктивно-полицейской деятельности под названием PredPol URL: https://www.washingtonpost.com/local/public-safety/police-are-using-software-to-predict-crime-is-it-a-holy-grail-or-biased-against-minorities/2016/11/17/525a6649-0472-440a-aae1-b283aa8e5de8_story.html?noredirect=on&utm_term=.85b2861fa4ff (дата обращения: 24.04.2019).. Она использует данные о поведении отдельных лиц и эффективнее направляет усилия полиции по борьбе с преступностью.
Американские судьи часто используют программы для оценки вероятности повторного совершения подозреваемым преступления. Правда, тут не обходится без риска. Так, гражданин США Э. Лумис в штате Висконсин был приговорен к шести годам тюремного заключения за угон автомобиля Loomis v. Wisconsin // URL: https://www.scotusblog.com/case-files/cases/loomis-v-wisconsin (дата обращения: 24.04.2019).. Прямых улик не хватало, поэтому полиция использовала программу КОМПАС (Correctional Offender Management Profiling for Alternative Sanctions -- COMPAS). Программа (а вслед за ней и суд) обосновывала свое решение о виновности Э. Лумиса высоким риском рецидива такого рода лиц. Однако сам Э. Лумис с этим не согласился и посчитал, что «справедливого разбирательства» не было, поскольку ему не был предоставлен доступ к алгоритму программы. В свою очередь, прокурор обосновывал использование КОМПАСа «научной обоснованностью теста». Верховный суд США отказал Э. Лумису в выдаче судебного приказа на обжалование приговора суда штата URL: https://www.supremecourt.gov/docketfiles/16-6387.htm (дата обращения: 24.04.2019).. Таким образом, осуждение было признано правомерным.
Правда, недавнее исследование, проведенное Университетским колледжем Лондона, показало, что компьютеры способны предсказывать исход разбирательства с точностью около 80 %. Бывшая судья из Нидерландов др. Д. Рейлинг задается вопросом: насколько устраивает эта цифра? «Как только люди начнут использовать искусственный интеллект, и они будут ожидать, что результаты фактически предскажут машины, что будут делать судьи? Если судьи не будут выполнять свои функции в соответствии с ожиданиями, связанными с искусственным интеллектом, это станет проблемой для суда,» -- считает Д. Рейлинг URL: http://doryreiling.blogspot.com (дата обращения: 24.04.2019)..
Международные нормы о «предсказанном правосудии»
Надо сказать, что международные нормы об ИИ в правосудии уже «пекутся как пирожки» (правда, пока на региональном уровне).
Так, 4 декабря 2018 г. Европейская комиссия по вопросам эффективности правосудия (CEPEJ) Совета Европы приняла первый документ -- «Этические принципы, касающиеся использования искусственного интеллекта в судебных системах» URL: https://www.coe.int/en/web/cepej/justice-of-the-future-predictive-justice-and-artificial-inteNigence (дата обращения: 24.04.2019).. «Принципы» служат руководством для законодателей и специалистов по вопросам правосудия. Применение ИИ в области правосудия должно осуществляться на ответственной основе, которая соответствует основным правам, гарантированным в Европейской конвенции о защите прав человека и Конвенции Совета Европы о защите личных данных. CEPEJ определила следующие принципы, которые должны соблюдаться в сфере правосудия:
а) уважение основных прав: обеспечение соответствия и реализации инструментов и услуг ИИ с основными правами;
б) недискриминация;
в) качество и безопасность в отношении обработки судебных решений и данных в безопасной технологической среде;
г) прозрачность, беспристрастность и справедливость;
д) обеспечение доступности и понятности методов обработки данных;
е) «под контролем пользователя» и др.
В ЕС на этот счет есть несколько документов разного уровня и разной силы. В их числе: Мнение Европейского экономического и социального комитета от 31.08.2017 «Последствия искусственного интеллекта на (цифровом) едином рынке, в производстве, потреблении, занятости и обществе» Opinion of the European Economic and Social Committee. 08/31/2017 // URL: https://www.eesc.europa.eu/en/our-work/opinions-information-reports/opinions/artificial-intelligence (дата обращения: 24.04.2019)..
9 апреля 2018 г. 25 европейских стран подписали Декларацию о сотрудничестве в области ИИ. Ряд государств уже объявили о национальных инициативах в этой области и заявили о намерении принять общеевропейский подход к решению проблемы.
25 апреля 2018 г. Комиссия направила сообщение Европейскому парламенту, Европейскому совету, Совету, Европейскому экономическому и социальному комитету и Комитету регионов по искусственному интеллекту для Европы Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions on Artificial Intelligence for Europe // URL: https://ec.europa.eu/digital-single-market/en/artificial-intelligence (дата обращения: 24.04.2019)..
Конечно, все эти положения пока не являются правовыми нормами ЕС. Однако дело идет к выработке обязательного документа в этой области. Скоро будут приняты и правовые нормы на этот счет. Их назначение -- не создать робота-судью, способного принимать решения без человека. Их цель -- усилить аналитический потенциал «лучших юристов, как рентген помогает врачу установить диагноз и принять решение о лечении» Queudot M., Meurs M.-J. Artificial Intelligence and Predictive Justice: Limitations and Perspectives // Recent Trends and Future Technology in Applied Intelligence, 2018. Р. 889..