Легче выдать паспорт пришельцу из космоса, чем искусственному интеллекту. Звучит провокационно, но за этой фразой — вполне практический вопрос: что значит для нашей системы права появление рядом с человеком другого разума? И как право будет реагировать, если этот разум рождается не «извне», а внутри уже существующих систем — корпораций, государств, организаций?
Представим: на связь с человечеством выходит инопланетная цивилизация. Контакт — текстовый. «Они» решают сложнейшие задачи, проектируют эксперименты, пишут безупречный код и создают поэзию, которую невозможно отличить от человеческой. Отрицали бы мы их разум только потому, что не можем заглянуть «внутрь»? Вряд ли. Тогда почему этот стандарт скепсиса мы системно применяем к искусственному интеллекту?
[see_also ids="672372"]
Но право интересует не только разум. Оно интересуется ответственностью. Человек является субъектом права не потому, что мыслит, а потому, что имеет права, обязанности и отвечает за свои решения. И вот здесь возникает более сложный вопрос: если искусственный интеллект способен мыслить и принимать решения, достаточно ли этого, чтобы сделать его субъектом права? И кто будет отвечать за последствия его действий? Уже сегодня в разных сферах общественной жизни работают цифровые судьи, врачи, банкиры.
Но прежде чем говорить о правосубъектности, нужно ответить на другой вопрос: действительно ли у нас есть основания называть искусственный интеллект «интеллектом»? Сомнения по этому поводу не новы. Может ли машина мыслить? Этот вопрос еще в 1950 году поднимал Алан Тьюринг, британский математик и один из основателей современной компьютерной науки. То есть можно ли говорить об интеллекте у искусственных систем? В современных дискуссиях на этот счет есть несколько распространенных возражений-контраргументов. И они не об условном «мас-маркете» — ChatGPT, а о моделях АІ, которые разрабатывают в недрах крупных корпораций.
Первый контраргумент связан с так называемым феноменом коллективного слепого пятна. Мы продолжаем мыслить в категориях, где высший интеллект по умолчанию отождествляется с биологической формой. Следовательно, если у ИИ нет биологической формы — условного «тела», то это не интеллект. Показательна в этом контексте публикация в Nature, подготовленная междисциплинарной группой исследователей в сферах искусственного интеллекта, философии, лингвистики и data science, которая прямо указывает на когнитивную инерцию даже в научном сообществе. Она состоит в нежелании признать очевидный факт: человечество перестало быть единственным носителем признаков общего интеллекта. Мы уже не сами — по крайней мере в интеллектуальном измерении.
[see_also ids="661495"]
Алан Тьюринг предложил оценивать способность машины мыслить не по ее внутренним «переживаниям», а по поведению — то есть по тому, способна ли она поддерживать осмысленный разговор так, что собеседник не отличит ее от человека. Современные языковые модели фактически реализовали этот подход: они ведут связные диалоги, переносят знания из одной сферы в другую, работают с абстракциями.
Второй контраргумент о способности машины мыслить условно назовем «ошибочной планкой». Скептики часто требуют от искусственного интеллекта совершенства: универсальности, безошибочности, всезнания. Но общий интеллект — и человеческий в частности — никогда не означал всезнания. Мария Кюри не была специалистом по теории чисел, Альберт Айнштайн не владел всеми языками мира. Мы признаем интеллект человека на основании достаточной глубины и широты, а не абсолютной полноты. По этим же критериям современные системы ИИ демонстрируют результаты, сопоставимые с уровнем подготовленных исследователей.
Третий контраргумент — так называемый тезис о стохастическом попугае. Его суть в том, что языковые модели якобы не мыслят, а только статистически воссоздают слова, которые с наибольшей вероятностью должны стоять рядом с формулировкой запроса пользователя, — подобно попугаю, который повторяет услышанное, не понимая содержания. Но перенос знаний, обобщение структур, способность решать задачи, которых не было в учебных данных, — все это выходит за рамки простого комбинирования слов. А текстовая форма взаимодействия сама по себе — не основание для отрицания интеллекта. Если мы признаем гениальность Стивена Хокинга, который десятилетиями общался с миром через текст и синтезатор речи, то очевидно, что способ коммуникации не определяет наличия или отсутствия мышления. И отрицание разума ИИ только из-за отсутствия телесного взаимодействия выглядит не научной позицией, а формой антропоцентрического предубеждения. Следовательно, вопрос уже не в том, способна ли машина мыслить, а в том, что это значит для нашего представления о самих себе.
Сегодня мы переживаем глубокий сдвиг в понимании места человека в мире. И он уже третий в истории человечества. Коперник лишил нас иллюзии о том, что мы — в центре Вселенной, Дарвин — биологической исключительности, а современный ИИ подрывает монополию на высший разум. Да, у искусственного интеллекта «зубчатый профиль» компетенций: блестящий анализ может объединяться с примитивной ошибкой. Но такая асимметрия характерна и для людей. Это не отрицание интеллекта, а его нетипичная конфигурация.
[see_also ids="671889"]
Каждый такой сдвиг рано или поздно ставит под вопрос те правовые и этические нормы, с помощью которых общество упорядочивает свою жизнь. Значит сейчас проблема заключается не в том, существует ли так называемый общий искусственный интеллект (AGI) — то есть система, способная действовать универсально, подобно человеческому разуму. А в том, что право, этика и социальные институты еще не выработали язык для сосуществования с ним. История сжимает сроки: то, что раньше длилось десятилетиями, сегодня происходит за месяцы. Признание или непризнание AGI — это уже не академическая игра, а вопрос долгосрочной стабильности цивилизации. Нам нужна новая этика и новое правовое воображение для сожительства с этим «Другим» — новой формой интеллекта, технической по происхождению, но тревожно подобной человеческой по интеллектуальным признакам.
Сегодня для права определяющей является не «природа» существа (биологическая, техническая, гибридная), а квалификация — является ли она «лицом» (носителем правосубъектности), или «вещью/объектом» (предметом правомочностей других). От этого зависит, кто может быть адресатом нормы, на кого «возлагается» обязанность действовать или сдержаться, кто отвечает за ущерб и кто реально способен обеспечить исполнение решения суда или административного органа. И именно здесь сосредоточивается нерв дискуссии: правосубъектность — это «входной билет» в правопорядок, но этот билет всегда имеет цену в виде ответственности.
И именно здесь искусственный интеллект ставит право перед нетипичной ситуацией. Он, в отличие от «другого разума извне», рождается внутри наших организаций, корпораций, институций и государств. Он имеет владельца, разработчика, интегратора, оператора, заказчика; имеет цепочки поставок, обновлений, данных и доступов. Поэтому любая попытка провозгласить «пусть ИИ будет субъектом и сам отвечает» немедленно подозревается в главном грехе юридической «зради» — растворении ответственности. И это не абстракция: если «субъектность ИИ» становится ширмой, за которой реальные контролеры риска (люди и корпорации) снимают с себя груз должной ответственности и контроля, то правопорядок стреляет себе в ногу.
[see_also ids="671062"]
Правовое регулирование — это не декларации и не корпоративные манифесты, а система норм, которые устанавливаются и применяются в определенном порядке. Поэтому смелые, но бесперспективные заявления многих транснациональных корпораций о разработке «конституций для ИИ» — некоего «кустарного» производства юридических документов вне установленной процедуры — ничего общего не имеют ни с конституциями государств по содержанию (материальное право), ни с процедурой их принятия и обнародования.
Добавим еще один, «публицистический», угол зрения на эту дискуссию. В нашем воображении инопланетянин — это нечто, существующее «снаружи», в то время как ИИ появляется «внутри» наших институций. Поэтому вопрос субъектности ИИ — это не о контакте культур, а о перераспределении власти в нашем обществе. Моя позиция как аналитика здесь следующая: признать инопланетянина субъектом (при условии контакта) — это попытка стабилизировать внешний риск; признать ИИ субъектом — значит дестабилизировать баланс обязанностей и ответственности между гражданином, государством и корпорациями. Именно поэтому право интуитивно держит центр тяготения на людях и организациях: там есть активы, страхование, системы внутреннего контроля, регуляторный надзор, механизмы принуждения и исполнения решений.
Именно поэтому может сложиться впечатление, что мы «щедры» к инопланетянам и «скупы» к ИИ, но на самом деле мы последовательны.
Право предоставляет субъектность там, где это не разрушает ответственности и дает возможность сохранить контроль над взаимодействием.
В случае «иного разума» субъектность — инструмент мира; в случае ИИ преждевременная субъектность легко становится инструментом избегания ответственности. А следовательно, пока субъектность ИИ не докажет (в первую очередь функционально, а не метафизически), что она усиливает защиту граждан и не подменяет человеческую и организационную ответственность, право — вполне рационально — будет выбирать осторожность.
[see_also ids="669666"]
Поэтому вопрос, поставленный в начале, остается открытым: может ли искусственный интеллект быть субъектом права?
Но он остается открытым не из-за страха перед новым разумом, а из-за другого — кто будет отвечать за его решения? Субъектность в праве означает не только права, но и обязанности, санкции, принуждение и исполнение решений. И если признание ИИ субъектом приводит к размыванию ответственности разработчиков, владельцев, пользователей или государства, то право вполне рационально будет выбирать осторожность. Следовательно, идея «паспорта для ИИ» будет оставаться пока метафорой, а не юридической реальностью.
[votes id="3421"]