Можно ли использовать для машиночитаемого права искусственный интеллект
Обновлено: 30.06.2024
Предыстория
Осенью 2019 года у меня появился новый клиент, бизнес которого заключается в высокочастотном трейдинге с применением технологий машинного обучения (Machine Learning или ML). Упрощая, он учит компьютер анализировать большие массивы данных о прошлых биржевых сделках для того, чтобы находить выгодные сделки в будущем. Он весьма успешен в этом, как был успешен и в том, чем занимался до того: участвуя в соревнованиях по анализу бизнес-данных, он вошел в число лучших в мире специалистов по машинному обучению.
В ходе наших встреч мы говорили не только о делах, но и о технологиях, о финансовых рынках, о взглядах на будущее. Мне было очень любопытно узнать его точку зрения о том, что ждет нас в связи с безудержным ростом технологий. Когда я спросил клиента о том, какое наиболее явное изменение он видит в горизонте 5-10 лет, он ответил, что это исчезновение многих профессий. В качестве примера он привел две: бухгалтеров и юристов.
Признаться, я тогда со скепсисом отнесся к идее, что совсем скоро нашей профессии не станет. В то же самое время, думаю, это зародило во мне сомнения и пробудило любопытство. Я всегда был в той или иной мере погружен в сферу IT, но если что и представляет угрозу нашей профессии, то это технологии AI, в которых разбираются далеко не все IT-специалисты. Мне захотелось разобраться.
О гарвардском курсе CS50AI
Гарвардский университет активно продвигает себя в сети. Многие знают о Justice - лекциях профессора Michael Sandel, посвященных классическим и современным концепциям справедливости. Все эти яркие этические дилеммы, описанные талантливым оратором в красивом зале перед более чем тысячью слушателей, поражают воображение - оказывается, высшее образование может выглядеть и так.
Но Justice это второй по популярности курс Гарварда, а первый CS50 (си эс фифти) - введение в компьютерные науки. Его ведет профессор David Malan и обеспечивает примерно сотня преподавателей и ассистентов. Один из них, Brian Yu, преподает CS50AI, посвященный как раз искусственному интеллекту.
CS50AI это полноценный большой курс, включающий 7 тем. Для того, чтобы освоить каждую из них нужно прослушать лекцию, пройти по ней тест и сдать два проекта. Лекции продолжаются от полутора до двух часов. В них излагается база для какого-либо способа решения проблем (например, логика высказываний, состязательный поиск, машинное обучение с учителем, нейронные сети и т.д.). После прослушивания каждой лекции нужно пройти тест на понимание темы. И, наконец, самая важная часть - проекты.
На выполнение одного проекта уходит от 4-х до 24-х часов. Кажется, в последний раз я учился так интенсивно только на третьем курсе юрфака. В ходе выполнения каждого проекта чуть ли не физически чувствуешь, как меняется твой мозг. Забавно, что оглядываясь назад ни одно выполненное задание не кажется сложным. Однако когда сидишь ночами и учишь компьютер решать логические пазлы или играть в крестики-нолики, то понимаешь, что пока не увидишь общую картину в своей голове, ничего не получится. Как итог все те теоретические знания, которые излагаются в лекциях, после выполнения проектов начинаешь чувствовать "на кончиках пальцев", и это очень здорово, это главная заслуга CS50AI.
В дополнение к материалам курса я также прочитал несколько книг, одна часть которых посвящена тому, как строить отдельные виды AI, а другая тем перспективам, которые ждут мир в связи с развитием этой сферы. В обоих случаях я предпочитал работы инженеров, поскольку даже рассуждая на общие темы (вроде исчезновения профессий), они основываются на ясном представлении о технологиях.
Что такое искусственный интеллект?
Один из участников фильма Дудя о кремниевой долине сказал, что сейчас самые популярные бизнес-идеи связаны с биотехнологиями и искусственным интеллектом. Но что именно имеют в виду, когда говорят об AI? Упрощая и обобщая, искусственный интеллект - это набор технологий, которые позволяют эффективно решать проблемы, решение которых ранее считалось прерогативой человека.
Расчеты - это единственное, что компьютеры умеют. Они не понимают ничего, кроме чисел. Но многие явления сложно представить в виде чисел, например, человеческую речь или зрительные образы. Долгое время не существовало технологий, позволяющих эффективно работать с ними, однако развитие машинного (и особенно глубокого) обучения привели к тому, что сейчас такие технологии используются повсеместно. Рост вычислительных возможностей повлиял и на те сферы, где данные легко представить в виде цифр. Поиск сложных закономерностей в больших объемах информации (Big Data) ранее был возможен только в отдельных государственных и коммерческих лабораториях. Сегодня энтузиасты могут обучать нейронные сети прямо у себя дома на обычном компьютере с мощной видеокартой. Новые технологии и идеи позволили открыть перед машинами недоступные ранее сферы и достичь большого прогресса там, где еще совсем недавно они не преуспевали, например, в анализе текстов на естественных языках (Natural Learning Processing или NLP), то есть как раз в той сфере, в которой мы с вами работаем.
Стоит открыться новой области применения, как машины начинают превосходить человека в том, чего еще недавно совсем не могли делать. Мой знакомый тестировал алгоритм AI для игры в сапёра, реализованный мною в качестве одного из проектов курса. Один из ходов, который сделала машина, вызвал у него вопросы, поскольку обладая той же самой информацией, он не мог сделать вывод о том, что такой ход является безопасным.
В действительности этот алгоритм действует абсолютно аналогично тому, как рассуждают люди, когда играют в сапёра. Многие (но не все) технологии AI именно в этом и состоят. Алгоритм, который я реализовал, делал то же, что люди, но обладал практически неограниченным запасом памяти для накопления знаний и был полностью лишен лени. После каждого хода он скрупулезно извлекал новые знания из уже имеющейся информации, и, будучи в этом продуктивнее человека, находил те закономерности, которые люди просто не замечают.
Машины давно умеют играть в сапёра, действуя по алгоритму подобно людям, но сегодняшняя популярность технологий AI обусловлена не этим. Для решения таких нетривиальных задач как компьютерное зрение необходимо было пойти дальше и научить машину подражать не нашим действиям, но некоторым принципам работы нашего мозга.
Искусственный интеллект и анализ юридических текстов
Такие технологии как машинное обучение и нейронные сети не следуют установленному заранее порядку действий. Они все еще являются алгоритмами, но не алгоритмами решения проблемы, а алгоритмами научения тому, как решать проблемы того или иного вида.
Для того, чтобы получить представление о том, как машина может анализировать действующее законодательство, попробуем оценить, что из себя представляет наша правовая система. В идеальном мире юридические нормы должны составлять логичную непротиворечивую иерархическую структуру. В результате, отвечая на вопрос клиента, мы с вами должны были бы без труда найти нормы, регулирующие этот случай, и дать точный недвусмысленный ответ. В реальности мы очень далеки от этого.
Команда PLATFORMA собрала все актуальные технологичные проекты в сфере права на карте российских LegalTech-проектов — LEGALTECH MAP 2020.
Нейронные сети не умеют мыслить, но способны эффективно подражать тому, кто умеет. В результате обучения нейронная сеть не становится умнее эксперта, на примере которого она учится. Но если само подражание почти безупречно, стоит ли мечтать о большем? Обучив нейронную сеть на решениях Верховного Суда мы получим машину, способную писать решения, не отличающиеся от тех, которые сам Верховный Суд написал бы при тех же вводных. Имея такие возможности как долго мы сопротивлялись бы ее внедрению? Аналогично, обучив нейронную сеть на текстах условного А.Г. Карапетова, мы получим карманную программу-юриста, которая для целей анализа гражданского законодательства нас всех вполне вероятно устроит. Устроит она и наших клиентов.
Идеальное (машиночитаемое) право без человека
Мы имеем правовую систему не только со множеством внутренний противоречий, но и систему, которую никто из нас не может осознать полностью. Внутри своей профессии мы специализируемся на отрасли, подотрасли или даже институте права. Ни в один из моментов нашей профессиональной жизни у нас нет общей детализированной картины действующего права. Даже если бы система норм была идеальной, в современном мире она была бы столь объемна и сложна, что человеку было бы непросто осознать ее. AI в свою очередь скован только технологическими мощностями, которые регулярно удваиваются.
Искусственные языки, созданные специально для автоматизации юридического анализа, уже существуют, а сама сфера машиночитаемого права активно развивается. Так, в Стэнфордском университете работает центр по правовой информатике CodeX. Его работники прогнозируют, что машиночитаемое право может оказать разительное влияние на юридическую профессию и разрушить то, как юридические фирмы делают сейчас свой бизнес.
В рамках CS50AI я в числе прочего учил машину решать логические головоломки. Вот одна из них:
С точки зрения AI эта задачка на пропозициональную логику (логику высказываний). Обученный AI позволяет за сотые доли секунды решать подобные логические задачи. Извлекая знания из информации, а затем знания из уже извлеченных знаний, машина делает то, что мы вполне могли бы назвать мышлением. Однако эти методы работают только там, где знания представляют собой набор однозначных высказываний. Если право будет изложено на соответствующем языке, юридический анализ будет напоминать решение головоломки, условия которой я привел выше.
О преимуществах машиночитаемого права над нашим, человеческим, можно почитать, например, в работе Антона Вашкевича. В значительной степени эта книга представляет собой восторженный манифест - подход, который я не вполне разделяю. Но нельзя не согласиться с тем, что принципиально это решение способно вывести регулирование правоотношений на иной качественный уровень.
Как мне представляется, полный отказ от правовой системы на естественном языке вряд ли произойдет в обозримом будущем. Для этого существует множество препятствий. Например, можно ожидать, что какими бы ни были власти, они станут этому препятствовать (во всяком случае, если речь идет о публичном праве). Любое право ограничивает произвол, но сложно представить себе что-то, что ограничивает власть больше, чем идеальное право в руках абсолютно беспристрастного арбитра.
Эмпирические правовые исследования
Как-то в разговоре с преподавателем философского факультета СПбГУ я сказал, что считаю технические науки более сложными. В ответ он заметил, что все как раз наоборот. Социальные науки имеют дело с чрезвычайно сложными объектами. Описать развитие общества не в пример труднее, чем развитие какой-либо физической системы. Впечатление о простоте, продолжил он, возникает оттого, что социальные науки менее развиты. Их методы до сих пор позволяли только очень приблизительно описывать реальность.
Возможно мы стоим на пороге масштабных изменений в этой сфере. Пример Cambridge Analytica показывает, как анализ больших данных позволяет узнавать о человеке то, чего он сам о себе пока не знает. Благодаря современным технологиям совсем скоро мы узнаем много нового и о нашей правовой системе.
Широко известно совместное исследование Колумбийского университета и Университета имени Бен-Гуриона, согласно которому шансы на условно-досрочное освобождение составляли 65%, если слушание проходило утром самым первым, и стремилось к нулю перед обеденным перерывом, а после перерыва вновь восстанавливались до 65%. Эта та закономерность, в которую мы не хотели бы верить, которая разрушает нашу веру в рациональность и предсказуемость правовых решений. Но такова реальность, и еще никогда у нас не было таких мощных инструментов для изучения этой реальности.
Сегодня эмпирические исследования еще мало используются в российской юридической практике, хотя все мы видели в американском кино какое важное значение они могут играть в процедуре отбора присяжных. Если в результате анализа информации о совершенных покупках можно сделать вывод о политических пристрастиях человека, применение тех же технологий позволит выявить важные предпочтения судьи, который слушает дело. И может так оказаться, что этот судья гораздо чаще выносит решения в пользу стороны, которую представляет молодая симпатичная женщина.
Новые знания вовсе не всегда будут разочаровывать нас, многие из них покажутся нам полезными и легко войдут в юридическую практику, Так, сейчас в России ведутся исследования, целью которых является создание модели, позволяющей предсказывать исход судебных дел. Это одно из возможных применений технологии машинного обучения.
Машина, которая понимает текст
Выше мы поговорили о двух различных вариантах AI, которые могут оказать влияние на юридическую профессию: о нейронных сетях, способных эффективно подражать мышлению, и об алгоритмах, решающих логические задачи, сформулированные точно и недвусмысленно. Первые могут работать с текстами на естественных языках, но не понимают их смысла, вторые - понимают смысл лишь тех текстов, которые выражены на искусственном языке. Однако возможно появление и третьего варианта - машины, способной осознавать смысл текста на естественном языке. Это отдельная большая тема, поэтому я сейчас я хочу остановлюсь лишь на одном примере из курса CS50AI.
Непросто поверить в то, что смысл слов может быть передан с помощью массивов цифр. Тут не помешает настоящая демонстрация.
Искусственный интеллект и изменчивость (развитие) права
Несмотря на огромные подвижки в развитии AI в целом и NLP в частности, внедрение новых технологий в юридическую практику столкнется с рядом проблем.
С другой стороны, мы привыкли слышать, что право развивается вместе с обществом. Какое же развитие обеспечит ему AI? Это большая тема для разговора, начать который, на мой взгляд, следовало бы с вопроса о том, что мы понимаем под развитием права. Некоторые из подразумеваемых нами функций (например, таких как применение права к новым правоотношениям по аналогии) будут выполняться AI исходя из изначально присущих ему свойств. Другие могут потребовать участия внешнего деятеля - высшего суда или законодателя.
Очевидно, что и сами технологии продолжат развиваться. Даже если заменить суды машинами, нельзя будет говорить о достижении какой-то конечной точки. Развитие может быть продолжено не только за счет переобучения существующих нейронных сетей, но и за счет развития самих принципов их организации.
Будущее для юристов
Теперь, когда основные технологии, могущие оказать влияние на нашу с вами профессию, описаны, самое время поговорить о том, какое место в этом будущем отведено нам.
Думаю, многие подумали о том, что для разработки, обеспечения работы и совершенствования всех этих новинок в юридической сфере, потребуется немало высококвалифицированных юристов. Это не так. Большинство из технологий, о которых говорится в этом тексте, вообще не требуют участия экспертов. Google Translate делают инженеры, не знающие тех языков, с которых и на которые этот сервис способен переводить. Революцию в области обработки естественного языка произвели специалисты по машинному обучению, не занимавшиеся лингвистикой. Для того, чтобы научить нейросеть писать решения как Высший Арбитражный Суд, вовсе не обязательно его воскрешать - если массив уже вынесенных им решений достаточен, ВАС РФ воскреснет сразу в виде математической модели.
Поэтому я бы не стал рассчитывать на то, что юридическая профессия лишь слегка преобразится, например, потребовав освоения отдельных технических навыков. Представляется, что дела будут обстоять совершенно иначе. Вполне вероятно, что за нами сохранится сфера посредничества между людьми и институтами, хотя само это посредничество может приобрести более примитивный характер. Потребность подготовки документов для суда вряд ли полностью исчезнет, но сама функция возможно будет значительно упрощена. Если сегодня разница между состязательными бумагами, представленными в суд низкоквалифицированным и высококвалифицированным специалистами очень заметна, то в будущем высокая квалификация для этого просто не потребуется. Вопреки мнению некоторых наших коллег, из-за развития высоких технологий профессия юриста вполне может упроститься до профессии клерка, и высокая квалификация в правовом анализе вовсе не будет конкурентным преимуществом.
Послесловие (поздний дисклеймер)
Этот текст содержит несколько заявлений, носящих в разной степени спорный и даже провокативный характер. Я сделал это осознанно для того, чтобы дать читателям возможность преодолеть инерцию убеждений. Никому не хочется верить в то, что его профессия исчезнет, и я полагаю, что после первой эмоциональной реакции и последующих размышлений по этому поводу, каждый может прийти к своему собственному, более трезвому и сбалансированному пониманию проблемы. Я лишь остерегу вас от полного ее отрицания. Сегодня во многих книгах, посвященных роли AI, говорится о грядущем исчезновении профессий, и нередко в качестве примера приводится именно юридическая профессия.
Где юристу искать клиентов в кризис? Узнайте больше о возможностях Единого Каталога Юристов
Во время конференции и объявления о гражданстве София находилась с непокрытой головой и лицом, без хиджаба и без мужчины-опекуна. Тогда, в 2017 году многие сочли это маркетинговым ходом, но вскоре София появилась на обложке журнала и получила главную роль в фильме. А летом 2019 года она стала почетным гостем церемонии открытия чемпионата WorldSkills в Казани.
Права роботов – это концепция, согласно которой люди должны иметь моральные обязательства перед своими машинами, аналогичные правам человека. Права роботов на существование и выполнение своей миссии можно связать с обязанностью робота служить человеку. По аналогии, связывающей права человека и его обязанности перед обществом. Они могут включать право на жизнь и свободу, свободу мысли и высказываний, а также равенство перед законом.
Этот вопрос был рассмотрен Институтом будущего и Министерством торговли и промышленности Великобритании. Правила конкурса Лобнеровской премии 2003 года также предусматривали возможность того, что роботы могут иметь собственные права. Если предположить, что роботы уже наделены правами, как насчет их обязанностей и контроля над их исполнением?
Кто контролирует искусственный интеллект
Amazon, Google, Facebook, IBM и Microsoft создали некоммерческое партнерство для разработки передового опыта в области технологий искусственного интеллекта, улучшения понимания общественностью и обеспечения ИИ платформы. Это партнерство будет проводить исследования, обеспечивать интеллектуальное лидерство, отвечать на вопросы общественности и средств массовой информации, а также создавать учебные материалы, способствующие пониманию технологий ИИ.
Международная некоммерческая ассоциация Институт инженеров электротехники и электроники (IEEE) разработал Глобальную инициативу по этике автономных и интеллектуальных систем. Традиционно общество используют правительство для контроля соответствия этики рамкам законодательства и правопорядка. А национальные правительства, в свою очередь, работают совместно с некоммерческими организациями для обеспечения этического применения ИИ.
Например, Европейская комиссия имеет экспертную группу высокого уровня по искусственному интеллекту (High-Level Expert Group on Artificial Intelligence, AI HLEG). В июне 2019 года специалисты признали необходимость отказаться от использования ИИ-технологий для массового отслеживания и прогнозирования поведения людей, государственного надзора за каждым гражданином.
В отчете указывается перечень 33 основных рекомендаций с детализацией, которые затрагивают все аспекты регулирования, финансирования и стимулирования развития и применения в ЕС технологий ИИ. В частности, не рекомендуется использовать ИИ для контроля за поведением и финансовым состоянием граждан – так, как, например, в Китае.
Скрытая угроза: злонамеренное использование ИИ
Цифровые угрозы особенно актуальны в сфере международной информационно-психологической безопасности. Например, не исключено использование чат-бота, чтобы сообщить о ложном мероприятии и убедить потенциальных жертв его посетить. Также боты могут быть запрограммированы на производство фейковых видеоклипов с целью политических манипуляций. По мере развития ИИ роботы смогут вызывать доверие у людей, вовлекая их в диалоги, провоцируя и заставляя подчиняться.
Примеры цифровых угроз: DDoS-атаки при помощи имитации человеческого поведения (создание таких условий, при которых добросовестные пользователи системы не смогут получить доступ к предоставляемым системным ресурсам), автоматизация киберпреступлений (обработка платежей или диалог с жертвами вымогателей), приоритизация целей для кибератак (большие наборы данных используются для более эффективной идентификации жертв, например, оценивая личное состояние).
Самообучающиеся транспортные системы с управлением на основе ИИ могут быть удобными объектами для высокотехнологичных террористических атак. Захват террористами контроля над системой управления транспортом в большом городе может привести к многочисленным жертвам.
Политические угрозы обусловлены ограничением свободы граждан, вторжением в личное пространство, автоматизацию ресурсов для подавления инакомыслия. Поддельные отчеты новостей с реалистичными сфабрикованными видео и аудио – пример того, как ИИ может манипулировать сознанием людей. Персонализированные кампании дезинформации, запуск агентов влияния, привлечение пользователей к определенному контенту – все это становится инструментами политической борьбы.
Правозащитница и журналистка Алена Попова акцентирует внимание на том, как важно создать законы, защищающие приватность и автономность граждан. Это необходимо, чтобы не допустить формирования цифровой диктатуры в России.
Национальные стратегии развития искусственного интеллекта уже разработаны в 30 странах мира. В России утверждена Национальная стратегия развития искусственного интеллекта до 2030 года. К этому времени должны появиться образовательные программы для подготовки специалистов в области ИИ.
Крупнейшие финансовые корпорации, банки и даже правительственные организации все чаще доверяют работу с правовыми рисками искусственному интеллекту. Как они проникли в профессию, где человеку требуется высшее образование?
С усилением регулирования растут и расходы компаний на самый важный актив — безупречную деловую репутацию. Особенно дорого она обходится банкам и инвестиционным компаниям. По данным Boston Consulting Group, за последние девять лет мировые банки заплатили в совокупности более $321 млрд за различные нарушения. Жизнь в цифровую эпоху требует от них быть более прозрачными, тщательно анализировать свою деятельность и знать о действиях клиентов по всему миру.
Держать руку на пульсе и оценивать риски только силами штатных специалистов становится все дороже и требует все больше времени. Испанский банк BBVA посчитал, что средний банк задействует от 10% до 15% трудовых ресурсов на соблюдение всех требований регуляторов. По оценке австралийских экспертов из RegTech Association, сотрудники крупных финансовых институтов проводят от 40 до 90 часов рабочего времени в год на обучении принципам комплаенс. А HSBC, Deutsche Bank и JPMorganChase уже тратят на подобные бизнес-процессы больше $1 млрд в год.
Роботы на страже деловой репутации
Уже совсем скоро роботы могут стать незаменимыми помощниками для сотрудников банков. Так, журнал Banking Technology провел опрос среди крупных банков о том, как они оценивают необходимость RegTech в своих бизнес-процессах. 93% респондентов ответили, что уже в ближайшем будущем такие технологии будут очень важны для финансового регулирования и качественного составления отчетности. Компания Baker McKenzie опросила более 400 руководителей крупных финансовых организаций. 49% участников сообщили, что планируют применять искусственный интеллект для управления рисками в ближайшие три года. 29% ожидают, что с помощью ИИ они смогут лучше знать своих клиентов и предотвращать риск отмывания денег. 26% полагают, что ИИ поможет их организации соответствовать требованиям законодательства.
Но это прогноз на будущее. А какие задачи по работе с правовыми рисками искусственный интеллект решает уже сегодня? Вот лишь несколько примеров.
- Разрешает конфликтные ситуации с клиентами.
- Противодействует отмыванию денег.
Банки отвечают за свои действия перед контролирующими органами. Так, они должны давать Центробанку ответы на жалобы от клиентов на качество услуг. Число таких обращений от граждан огромно: только в Московской области по итогам года Центробанк ожидает получить 128 000 жалоб. ЦБ может попросить банк предоставить подробный отчет о его деятельности, особенно если речь идет о жалобах, связанных со взысканием задолженности. Поиск нужной информации занимает массу времени и ресурсов.
Центробанк также имеет право требовать от банка доказательства, что его капитал сформирован надлежащими активами. Регулятору может понадобиться информация о различных доходах банка, например платежах страховых компаний в рамках программ страхования заемщиков; средствах, предоставленных аффилированным структурам или юрлицам, не ведущим реальной деятельности; случаях безвозмездного финансирования. Время на то, чтобы предоставить сведения, ограничено — всего два рабочих дня. Искусственный интеллект помогает быстро найти информацию о любом клиенте или транзакции. Так, например, технология ABBYY Compreno обрабатывает данные, содержащиеся в приказах, отчетах, письмах. Можно выделять в тексте конкретные объекты и связи между ними: имена людей и их паспортные данные, названия компаний и их ИНН, ОГРН и другие характеристики. Это помогает сильно сократить сроки для обработки запросов и обходиться меньшими ресурсами при поиске информации.
- Помогает регуляторам в законотворческом процессе.
Огромные массивы информации — проблема не только для бизнеса, но и для законодательных органов. Например, одна только российская Дума прошлого созыва рассмотрела 6012 законопроектов и приняла 1817 законов. Каждый такой документ — это комплекс норм, который устанавливает новые правила, изменяет или отменяет уже существующий порядок вещей. Нормативные акты входят в единую систему, содержат перекрестные ссылки, а это означает, что чиновникам нужно редактировать связанные законы, указы, постановления, инструкции и решения на федеральном, региональном и муниципальном уровне. В будущем такие задачи смогут решать с помощью машинного обучения. Роботы будут отслеживать версии документов при межведомственном согласовании. Автоматически добавлять во множество подзаконных актов ссылки на новые правила. Искать разъяснения Конституционного суда, связанные с текстом того или иного закона. В более отдаленной перспективе роботы даже смогут находить те области нашей жизни, которые еще не регулируются законодательством, и помогать людям формировать законодательную базу на простом языке, исключающем двойные трактовки.
Процесс творчества у машины — результат работы алгоритмов и самообучения. Программа выдает уникальный продукт, используя тот же набор инструментов, что и люди: ноты для музыки, буквы для текста — но только в виде чисел и кода.
Программисты говорят, что искусственный интеллект пора наделить авторским правом. Чтобы это стало возможным, нужно внести поправки в законодательства стран, чего чиновники делать не спешат. В законах черным по белому прописано, что автором произведений науки или искусства признается лишь человек, никак не машина.
С другой стороны, неторопливость в этом вопросе понятна. Машину создал человек, именно он написал код, обозначил задачи, задал входные параметры. Нейросеть может выдать продукт на основе того, чему ее обучили, но рамки творчества для нее всегда устанавливает программист. Если специалист дает искусственному интеллекту задачу написать уникальный портрет или горный пейзаж, нейросеть сделает это, обучившись на конкретном виде изображений. У искусственного интеллекта нет главного — способности мыслить и изобретать, как человек. С этой точки зрения автором можно назвать человека-разработчика самой ИИ-системы.
А что если появится машина, которая будет работать по совсем другому принципу:
— у которой связь с человеком будет минимальной;
— которая будет самостоятельно устанавливать сложные зависимости между входными и выходными данными;
— использовать нечеткую логику; изучать научные достижения, а затем выдавать уникальные технические решения?
Можно ли такую систему считать автором?
Пермский стартап
В 2017 году в Пермь приехал Юрий Даниловский — кандидат технических наук и специалист по инновационному проектированию, чтобы прочитать курс по “Теории решения изобретательских задач” (ТРИЗ). ТРИЗ — это набор методов, позволяющих развивать творческое мышление, разрешать противоречия, используя логику, искать необычные идеи. Эти методы помогают ученым-изобретателям быстро решать творческие задачи из различных областей знаний.
Курс Даниловского посетила команда молодых программистов. После лекции у них появилась идея оцифровать ТРИЗ — “занести” в компьютер при помощи кода и алгоритмов.
Так появился пермский проект Awtor — система на базе нейронных сетей, которая отличается от других подобных систем. В своей работе она использует нечеткую логику и принцип морфологического анализа. Этот метод позволяет обрабатывать задачу, а затем создавать варианты всех теоретически возможных решений без участия человека. В результате пользователь получает уникальные технические решения. По сути, эта программа наделена качествами изобретателя и обладает способностями к творческому труду.
Фото: Автор идеи Александр Редекоп / Фото из личного архива Александра
Объясним схему работы на примере из реальной жизни. У инженера есть запрос: “как улучшить свойства электролита одного из изделий”. Человек вводит информацию в конкретное поле интерфейса, указывает “сферу деятельности” и, если есть, — “уточнение”. После чего машина создает решение. В нашем случае она объяснила, какие физические параметры нужно изменить, чтобы изделие работало во всех климатических зонах от -60 до +60 градусов по Цельсию. Далее инженер обрабатывает полученные данные, проводит испытания и получает готовый работоспособный продукт.
Фото: скриншот из презентации проекта
По словам Александра Редекопа, аналогов машины в таком виде, в каком она работает сейчас, в мире нет.
Попытка сделать ИИ автором в России
После нескольких удачных обращений к программе Awtor, команда разработчиков подумала, а почему бы все те решения, которые выдает искусственный интеллект, не запатентовать? Ведь их создает машина, которая отличается от других систем с ИИ, умеющая, по сути, выходить за заданные программистом рамки творчества.
В марте 2019 года одно из решений программы пермские разработчики оформили патентом и отправили в Роспатент, указав, что автор изобретения — искусственный интеллект Awtor.
В законодательстве Российской Федерации нет такого пункта, который бы разрешал искусственному интеллекту стать автором. Поэтому разработчикам из Перми пришел отказ.
Редекоп рассказывает, что сейчас этот проект находится у одного из депутатов. Чиновник покажет документ “в соответствующем комитете”, после чего возможен сдвиг.
Фото: скриншот документа с отказом
Техническим решением, которое разработчики хотели запатентовать, пользоваться на практике можно, но оно не защищено законом. Разработчики не спешат оформлять его авторство на человека, говорят, что хотят довести дело до конца, и первыми добиться того, чтобы искусственному интеллекту дали авторские права.
Машина-автор. Ситуация в мире
Не только в России предпринимают попытки изменить регистрацию патентов так, чтобы в качестве авторов можно было заявлять машины. В мае 2019 года ученые и юристы из Англии подали патентную заявку сразу в три страны: США, Великобританию и в одну из стран ЕС (куда именно, не уточняется). В качестве автора изобретения они указали искусственный интеллект Dabus AI, создавший контейнер для хранения еды с фрактальной структурой и лампу, которая визуализирует работу мозга.
По словам ученых, они подали заявки не ради пиара, а чтобы показать мировой общественности, что законодательство большинства стран не готово к изменениям, которые уже сегодня происходят в мире технологий. По мнению некоторых экспертов, сейчас английские изобретатели вряд ли смогут чего-либо добиться, ни одна из стран менять законодательство не будет.
Кто первый
Однажды за искусственным интеллектом все же закрепят авторство, отмечают специалисты. Это произойдет, когда во всем мире ИИ выйдет на новый уровень, когда людям станет очевидно, что появилась система, способная к творчеству так же, как и человек.
Вопрос стоит в том, какая страна первой признает, что машина достигла технического творчества уровня человека.
Александр Редекоп считает, что первенство в этой области по важности сопоставимо с первенством в космосе, борьба за которое шла в середине XX века.
ИИ-автор и человек
Исследователи пишут, что в ближайшее время вряд ли какая-либо страна решится признать за искусственным интеллектом авторство:
— сейчас ИИ находится на таком уровне, на котором его рассматривают лишь как инструмент, не способный к творческому труду. Специалисты в этом случае любят приводить пример с фотоаппаратом. Кажется, что фотоаппарат сделал снимок сам, хотя на деле именно человек навел объектив и нажал кнопку затвора;
— если на ИИ смогут оформлять авторство, он получит право, которое ранее принадлежало только человеку. Это может быть первым шагом к уравниванию прав человека и машины, что вызовет неоднозначную реакцию в обществе.
Пермский изобретатель Александр Редекоп уверен, что люди, напротив, только выиграют, если законодательно признают, что ИИ достиг уровня технического творчества человека.
Читайте нас в соцсетях: Twitter, Facebook, Telegram
Нашли ошибку? Пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.
Читайте также: