Должны ли роботы иметь права
Обновлено: 30.06.2024
Разбираем планы европейских парламентариев по регулированию робототехники и наделению искусственного интеллекта особыми правами электронной личности.
Роботы и искусственный интеллект все шире проникают в нашу жизнь. Мы уже свыклись с мыслью о том, что скоро они будут окружать людей повсюду и станут, видимо, умнее нас. Смогут не только управлять полетом или выигрывать в шахматы, но и принимать решения, как настоящая электронная личность. Какими правами будет обладать такой интеллект? Нужен ли ему паспорт? Резолюция, принятая Европарламентом несколько месяцев назад, предусматривает и такое: специализированное агентство по робототехнике и искусственному интеллекту будет заносить умные машины в особый реестр. А что еще?
Конкуренция законов
Еще в 2006 году Германия одной из первых в мире приступила к широкой программе роботизации и информатизации промышленности. Сегодня о четвертой промышленной революции не говорит только ленивый. Постепенно этот вопрос стал одним из основных в стратегической повестке всего Евросоюза. В 2013 году власти ЕС создали частно-государственное партнерство SPARC – проект, целиком посвященный финансированию и развитию робототехники.
Первый робоевропейский
По замыслу парламентариев, отдельным категориям роботов следует присвоить индивидуальный регистрационный номер, который будет заноситься в специальный реестр. Здесь желающие смогут найти детальную информацию о роботе, включая данные о производителе, владельце и условиях выплаты компенсации в случае причинения вреда. Поддержанием системы и контролем должно заниматься специализированное агентство по робототехнике и искусственному интеллекту, которое могло бы взяться и за другие аспекты регулирования в этой области.
Кроме того, Европарламент совершенно справедливо заметил, что одной из самых быстрорастущих областей остается роботизация человеческого организма, которая ведет к возрастанию нашей зависимости от гаджетов. Но что делать человеку, если производитель имплантата по каким-то причинам перестанет его поддерживать – например, обанкротится.
Проблему предлагается решить созданием независимых доверенных организаций, которые займутся сохранением работоспособности жизненно важных носимых медицинских устройств – от технического обслуживания до ремонта и апгрейда. Для таких фирм производители обязаны будут сохранять и предоставлять всю техническую информацию о своих устройствах, включая копию исходного кода программ.
Страховка для робота
Парламентарии выступают и за введение страхования ответственности за причиненный роботом вред – по аналогии с ОСАГО. В самом деле, чем выше уровень автоматизации машины, тем сложнее установить лицо, несущее ответственность за нанесенный ею ущерб. Поэтому обязательное страхование рисков, связанных с действиями роботов, позволит пострадавшему гарантированно получить компенсацию, а на случаи, которые не покрываются страховкой, может быть использован резервный компенсационный фонд.
Впрочем, Европарламент заглянул и дальше – в эру полностью самостоятельных машин, которые смогут сами находить себе контрагентов-работодателей, обсуждать условия договоров и решать, как их исполнять. Пока что чиновники не смогли договориться, по каким именно правилам будет наступать ответственность за вред, причиненный такой полностью автономной машиной. Этот вопрос оставлен на ближайшее будущее.
Хартия робовольностей
"Журнал Суда по интеллектуальным правам", № 2 (28), июнь 2020 г., с. 57-59
Может ли робот быть субъектом правоотношения? Сегодня такой вопрос становится все более актуальным, что обусловлено растущими темпами научно-технического прогресса, развитием технологий искусственного интеллекта, всеобщим трендом информатизации и цифровизации. Для ответа на вопрос следует рассмотреть соотношение таких понятий, как субъект права и человек.
Отождествление субъекта правоотношения исключительно с человеком связано с узко реалистическим пониманием права, в связи с чем не возникает сомнений в ошибочности данного тезиса. Современной юриспруденции известны такие юридические конструкции, как физическое и юридическое лицо, так почему мы не можем создать новую, наделив робота правосубъектностью? Однако не все так просто, и ответ на данный вопрос требует глубокого анализа нескольких аспектов.
Большинство авторитетных ученых, таких как Г.А. Гаджиев [2], Е.А. Войниканис [2], В.В. Архипов [1], В.Б. Наумов [1, 3], придерживаются мнения, что роботов можно рассматривать как субъектов права для определенной цели и только в определенных правоотношениях, говоря о так называемой частичной правосубъектности. Следует согласиться с данным утверждением и обобщить, что ни одно правовое, в том числе законодательное изменение не может быть бесцельно. Рассмотрим общие и частные цели наделения робота правосубъектностью.
К общим целям относится регулирование поведения робота как субъекта права, а также поведения иных субъектов по отношению к нему. Для этого робот должен обладать особыми характеристиками, которые позволили бы ему стать субъектом не только права, но в первую очередь общественных отношений в целом. В большинстве своем роботы представляют собой машины, работающие автоматически, что предполагает непосредственное участие и контроль со стороны человека. Так, работа робота невозможна без предварительного программирования, которое осуществляется человеком. Однако в рамках развития технологий искусственного интеллекта становится возможным создание автономных роботов – машин, способных самостоятельно обучаться, поддерживать беседу с живыми людьми, осуществлять иную интеллектуальную деятельность.
В мировой юридической практике уже существуют прецеденты, когда роботы наделялись частичной правоспособностью. Так, в октябре 2017 г. в Саудовской Аравии человекоподобный робот София стал первой в мире машиной, получившей гражданство. Позднее Япония предоставила резидентство искусственному интеллекту по имени Shibuya Mirai, представляющему собой чат-бот [5].
Тем не менее случаи создания автономных роботов единичны, и наделение робота правосубъектностью только потому, что человек изобрел и успешно апробировал технологии искусственного интеллекта, будет не целесообразно.
В настоящее время предложения наделить робота правосубъектностью не обоснованы с экономической точки зрения, поскольку, даже установив вину робота, отсутствует реальная возможность получить от него возмещение вреда – он не имеет обособленного имущества, принадлежащего ему на каком-либо вещном праве, из которого впоследствии будут удовлетворены требования управомоченных лиц; не способен самостоятельно отстаивать свои интересы, выступая ответчиком по иску потерпевшего (регрессному иску производителя или владельца). Так или иначе, отвечает владелец и (или) производитель робота.
Противники рассмотренного выше подхода придерживаются мнения, что задача возложения ответственности на роботов не сводится к возмещению убытков [4]. Однако подобное законодательное изменение должно повлечь за собой оптимизацию гражданского оборота и, так или иначе, связано с имущественной составляющей. Безусловно, реальное значение наложения ответственности на роботов может заключаться в повышении социального воздействия и роли права, но такая цель видится излишне идеализированной, оторванной от реальности.
Таким образом, определяя, может ли робот быть субъектом правоотношения, следует ответить на вопрос, что важнее: экономическая целесообразность вводимых изменений (то есть повышение эффективности процесса возмещения убытков, причиненных роботом) или же морально-философские интересы (то есть желание предвосхитить будущее и каким-либо образом урегулировать действия роботов).
Признание правосубъектности должно иметь место тогда, когда подобный механизм будет являться более эффективным, чем иные правовые решения. Целью должно быть удовлетворение потребностей общества, решение существующей проблемы, однако главный вопрос – существует ли эта проблема? Так ли много случаев причинения вреда роботами, в которых вина производителя или владельца вызывает сомнения (ошибка в программировании, настройке и др.)?
Список литературы:
1. Архипов В.В., Наумов В.Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике // Труды СПИИРАН. 2017. Выпуск 55. С. 46–62.
2. Гаджиев Г.А., Войниканис Е.А. Может ли робот быть субъектом права? (Поиск правовых форм для регулирования цифровой экономики) // Право. Журнал Высшей школы экономики. 2018. № 4. С. 24 – 48.
4. Chopra S., White L. A legal theory for autonomous artificial agents // Ann Arbor : University of Michigan Press, 2011. 252 p.
5. Turner J. Robot Rules: Regulating Artificial Intelligence // Springer, 2018. 377 p.
В будущем людям может потребоваться предоставить права и защиту искусственному интеллекту — как способ защитить себя.
Люди исторически использовали расу, религию, пол и сексуальность в качестве оправдания, чтобы лишить других права голоса, жениться, владеть собственностью и жить свободно. Хотя роботы не были даже далекой мыслью в умах основателей нашей страны, когда они составляли Декларацию о независимости и Билль о правах, этики, ученые и юристы теперь борются с вопросом о том, заслуживают ли наши механические коллеги права. Должен ли человек быть защищенным законом по закону?
Не берите в голову, что роботы уже умнее (по крайней мере, при решении определенных задач) и сильнее — и в скором времени станут такими. Хотя эволюция остается постоянной силой для человечества, ее опережает экспоненциальный рост технологий.
Помните hitchBOT, канадский робот, который провел лето 2014 года, путешествуя автостопом по Канаде (а затем по Германии и Голландии)? Когда hitchBOT пустился в аналогичное путешествие в Америке, он проехал 300 миль — расстояние между Бостоном и Филадельфией. В Городе Братской Любви, hitchBOT был обезглавлен.
Вы видели видеоролики людей, разбивающих iPad? Это дорого и разрушительно, но если люди хотят уничтожить свою собственность, это их личное дело. Конечно, незаконно уничтожать чужие iPad, так же, как незаконно красть чью-то машину или разрушать чей-то дом. Эти законы существуют не потому, что дома и автомобили могут чувствовать боль или эмоции, а потому, что они наши. Законы не защищают эти объекты — они защищают нас.
Имеет смысл рассмотреть будущее сейчас. Роботы могут стать сознательными, и в этот момент у нас будет много моральных и юридических корректировок, учитывая, что, возможно, неэтично отрицать защиту или права на разумные, автономные существа.
В некоторых странах это уже сделано, в основном из-за роли роботов в их культурах. В Японии роботы служат опекунами, особенно для массового пожилого населения. Распространенность синтоизма в японской культуре или убеждение, что неодушевленные предметы могут иметь души, делает права роботов очевидными. Около десяти лет назад Южная Корея приступила к созданию Хартии по этике роботов, в которой излагаются руководящие принципы создания роботов, а также то, что является незаконным использованием роботов. В уставе также рассматриваются проблемы, связанные с лечением роботами людей. Учитывая, что правительство Южной Кореи хочет, чтобы к 2020 году в каждом доме каждого гражданина был свой робот, разработка такой устава представляется разумной и необходимой.
Определение наших отношений с роботами может быть ключом к полному пониманию прав робота. Некоторые считают, что мы владеем и контролируем роботов. Другие полагают, что мы будем работать, общаться и влюбляться в роботов. Некоторые, например, профессор философии Эрик Швицгебель, утверждают, что у нас больше моральных обязательств перед роботами, чем у других людей, особенно если они становятся разумными. Наши отношения с роботами столь же динамичны, как и наши отношения с другими людьми — они меняются по мере изменения технологий и общества. Но вопрос о том, являемся ли мы создателями или владельцами роботов, их родителями или их сверстниками, может помочь нам решить, как с ними взаимодействовать, и в какой степени мы морально и / или юридически обязаны их защищать.
Развитие ИТ стимулирует поиск новых решений, необходимых для построения диалога между людьми и компьютерами. Одна из интереснейших областей здесь – робототехника, которой явно предстоит быть частью нашей повседневной жизни. Недавно в России была создана концепция первого в мире закона о роботах. Этот текст – о том, зачем такая концепция нужна и что ее разработчики предлагают учесть в юридическом документе.
Предпосылки
В настоящий момент Россия не является мировым лидером по производству роботов и внедрению в производство новых технологий. По данным Национальной ассоциации участников рынка робототехники, в России крайне низкие продажи промышленных роботов, уровень промышленной роботизации в России пока в 70 раз ниже, чем в среднем по миру – в прошлом году в нашей стране на 10 тысяч работников приходился всего один робот.
Но российский бизнес не теряет надежду. Известно, что стимулировать развитие тех или иных общественных отношений можно и с помощью норм права. Хорошо разработанная концепция законодательного регулирования внушает участникам рынка ощущение стабильности и большую уверенность в окупаемости их инвестиционных вложений. И важно, чтобы регулирование новых общественных отношений на базе информационных технологий не начиналось с запретов. Это не способствует развитию информационных технологий, наоборот, препятствует этому. Введение налоговых льгот для участников рынка, обеспечение им государственной поддержки, а также сбалансированное правовое регулирование, учитывающее интересы как отдельных людей, так и бизнеса и государства, будет способствовать развитию отрасли.
Основные принципы
Основой концепции послужили законы робототехники А. Азимова. Основываясь на них, а также на мировом опыте обсуждения указанного вопроса, юристы Dentons предложили использовать для определения статуса робота признаки юридического лица, определить модель ответственности при использовании роботов и создать реестр, в котором будет осуществляться классификация роботов по сферам использования и уровню развития искусственного интеллекта.
По замыслу создателей концепции, робот может, как и юридическое лицо, иметь на балансе обособленное имущество, которым его наделяет человек. Он одновременно – и объект, и субъект гражданского права: предназначен для участия в гражданском обороте, но может приобретать и осуществлять гражданские права и нести гражданские обязанности, быть представителем, а также выступать в качестве участника гражданского процесса. Эти действия робот реализует самостоятельно, в пределах своих конструктивных особенностей и возможностей информационной системы.
В случае, если ситуация не может быть разрешена исходя из конструктивных особенностей робота, субъект, вступающий с ним в отношения, может воспользоваться функцией экстренного информирования о возникновении правового конфликта и вступить в отношения с последним собственником или владельцем робота.
К создателям и владельцам роботов могут применяться такие же меры, как и к другим создателям и владельцам транспортных средств и механизмов – источников повышенной опасности. В зависимости от типа робота и степени его опасности, ответственность будет лежать или на производителе работа, или на его владельце. Если робот изначально сложен в эксплуатации и может своими действиями нанести вред, и его владелец об этом предупрежден, то отвечать будет владелец. Если вред причинен роботом-агентом, например, в случае взрыва используемого по инструкции робота-пылесоса, действия которого запрограммированы производителем, ответственность будет нести лицо, осуществившее разработку, производство и (или) техническое обслуживание робота-агента вне зависимости от наличия их вины.
Здесь перечислены лишь основные принципы новой концепции. По словам разработчиков, они открыты для дискуссии и просят направлять им свои вопросы и замечания на электронный адрес юридической фирмы Dentons.
Читайте также: