Прокол черной вуали

Полина кивнула и, когда двери лифта уже открывались, добавила, что Михаил Андреевич просил зайти, когда будет удобно. Вот это Винник ожидала.

Михаил Андреевич Верещагин двенадцатый год был заместителем Председателя Верховного Суда и возглавлял гражданскую коллегию, до этого почти двадцать лет судил сам, еще раньше работал в том старом суде, где определения действительно печатали на машинке, и принадлежал к тем людям, которые успели прожить несколько совершенно разных эпох, оставаясь внутри одной профессии. Он был высокого роста, широкоплечий, с тяжелыми руками и неожиданно тихим голосом; на совещаниях мог минут двадцать молчать, листая проект, потом задать один вопрос, после которого авторы просили перерыв.

Елена Владимировна знала его давно, уважала сильно и спорила достаточно часто, причем оба прекрасно понимали, что на их уровне любой разговор существует сразу в нескольких измерениях. Судьи Верховного Суда не попадали туда случайно, их биографии проходили через всю предусмотренную законом процедуру назначения, фамилии были известны задолго до появления в зале, руководство суда жило внутри государственной системы, где крупный вопрос довольно быстро переставал принадлежать только тем юристам, у которых лежал на столе. Здесь никто не изображал политической невинности. Одновременно существовала вещь гораздо жестче: конкретное судебное решение оставалось решением судьи, которому поручено дело, и никакой административный вес сам по себе не давал права заменить это решение другим.

В кабинете Кирилл сидел за приставным столом и с очень занятым видом читал что-то на экране. Когда вошла Винник, браузер исчез слишком быстро.

— Не закрывайте. Я тоже с утра узнала, что признаю искусственный интеллект человеком.

Кирилл улыбнулся.

— Там уже лучше есть. “Верховный Суд допустил наличие души у алгоритма”.

— Душу хотя бы без нас могли оставить.

Полина сказала, что ей больше понравилось “Афина против России”. Винник попросила сохранить скриншот - потом будет смешно, если вся эта история закончится обычным отказным определением на четырех страницах, - и отправила обоих заниматься нормальной работой.

В десять начиналось заседание, до него требовалось посмотреть справку по одному из трех назначенных дел, и следующие два часа действительно вернули мир в более привычные размеры. В первом споре представитель заявителя через несколько минут понял, что коллегию интересует совсем не тот довод, к которому он готовился, и сократил половину своей речи.

Во втором стороны почти сорок минут объясняли смысл одного пункта договора, причем к концу заседания Винник знала его лучше некоторых собственных семейных обстоятельств.

Третье дело задержало состав еще после выхода из зала: нижестоящие суды по-разному определили начало течения срока, пришлось раскладывать перед собой даты, письма и почтовые квитанции. Никаких цифровых душ, автономных агентов и новых субъектов права. Люди отправили письмо двадцать девятого числа, получили четвертого и хотели понять, просрочили они или нет. Елена Владимировна неожиданно почувствовала к ним почти нежность.

Когда она вернулась, на телефоне было пять пропущенных и короткое сообщение секретаря: “М.А. напоминает”. Винник посмотрела на часы, взяла блокнот и пошла.

Верещагин сидел за большим овальным столом у окна без пиджака, в белой рубашке с закатанными до предплечья рукавами. Перед ним лежала распечатка “Право.ru”, поверх нее - первая страница жалобы Левина и копия запроса об истребовании. На соседнем столике стоял чайник и две чашки. Михаил Андреевич поднял глаза, показал на кресло и спросил, будет ли она чай. Никакого “вызова на ковер” здесь не происходило; такие разговоры вообще редко выглядели так, как потом любят рассказывать люди, никогда в подобных кабинетах не бывавшие. Никто не повышал голос и не стучал по столу, самые важные вещи обычно произносились как раз спокойнее остальных.

— Буду.

Он налил ей сам, подвинул чашку и постучал пальцем по распечатке.

— Ну, Лен Владимировна. Рассказывай, что вы там устроили.

— Я истребовала материал.

— Это я уже выяснил. У меня сегодня очень познавательное утро. В половине восьмого Business FM объяснил мне устройство кассации.

— Забавно…

— А ты не смейся. Я уже два раза сегодня отвечал на вопрос, есть ли у нас какая-то позиция. Позиции у нас, Лена, нет. Есть твой запрос материала. Я бы хотел, чтобы это различие хотя бы внутри здания сохранялось.

Кто именно спрашивал, он не сказал, и Винник не стала уточнять. На их уровне люди обычно называли собеседника только тогда, когда это что-то добавляло к разговору.

— Так оно и сохраняется.

— Так зачем истребовала?

Винник рассказала без статей и номеров - сначала собиралась отказать. Помощник подготовил хороший проект, она с ним согласилась, занялась другими делами, потом весь день возвращалась к одному месту в жалобе. Нижестоящие суды исходят из отсутствия у Афины процессуальной правоспособности и тем же отсутствием объясняют невозможность вообще поставить перед судом вопрос о ее возможном статусе. Возможно, Левин просто удачно завернул отсутствие нормы в логический парадокс. Возможно, все три инстанции действовали правильно. Но подтвердить это, не увидев, что именно он просил у районного суда и чем именно ему ответили, она в какой-то момент уже не смогла.

— Меня сейчас даже не Афина беспокоит, Михаил Андреевич. Меня круг беспокоит. Если человеку...

Верещагин поднял бровь.

Она сама усмехнулась.

— Адвокату. Если адвокату говорят: “мы не будем проверять, существует ли у твоего доверителя статус, потому что статуса у него нет”, я хочу увидеть, действительно ли там все именно так. Потом, вполне возможно, спокойно откажу.

Верещагин несколько секунд перелистывал жалобу, нашел нужный абзац, пробежал глазами и положил лист обратно.

— Я ее прочитал. Хорошая.

— К сожалению.

— Сволочь хорошо написал.

Это прозвучало с профессиональным уважением. Левин действительно без лишней демагогии оставил один довольно узкий процессуальный вопрос и устроился внутри него так удачно, что теперь даже Верещагин читал жалобу ночью.

— Вот поэтому я тебя и спрашиваю. Вопрос там есть. Я с этим не спорю. А почему ко мне не зашла?

Елена Владимировна сделала глоток. Чай был такой же крепкий, как всегда у Михаила Андреевича.

— А должна была?

Он посмотрел на нее чуть дольше обычного.

— Согласовывать со мной истребование ты конечно не должна. Давай это сразу уберем, мне с тобой изображать инструктаж по независимости судей поздно. Поговорить-то могла.

— Если бы я пришла до запроса и спросила, стоит ли мне истребовать материал, вам бы самому этот разговор не понравился.

Верещагин помолчал, потом хмыкнул.

— Вот за это я тебя иногда особенно люблю. И за это же иногда хочется... Можно же было прийти не за разрешением а подумать вместе.

— И что изменилось бы?

— Я бы сказал тебе то, что говорю сейчас. Это Верховный Суд.

Фраза звучала банально, но объясняла достаточно.

Он отодвинул чашку и продолжил уже совсем спокойно: районный суд может запросить документ, и это останется процессуальным действием районного суда. Когда Верховный Суд запрашивает материал по делу о нейросети, рынок утром обсуждает права нейросетей, к вечеру юристы технологических компаний начинают считать риски, а через день у всех появляется желание понять, существует ли “позиция Верховного Суда”. Самому суду от этого не становится легче, потому что позиции пока действительно нет, и право на странность окружающего мира не освобождает судью от необходимости учитывать, какие последствия может иметь одно неосторожное слово в будущем определении.

— Я не предлагаю тебе решать по заголовкам, - сказал Верещагин. - Еще этого не хватало. Но надо же понимать, что дело уже вышло из размера папки. Если вы его передадите в коллегию, дальше каждый абзац будут читать как общий ответ на вопрос, которого законодатель пока вообще не решил. Бизнес хочет заранее знать, кто отвечает за автономную систему. Государство хочет понимать, что с ней делать, если она выходит из-под обычной схемы контроля. Одни юристы уже видят электронное лицо, другие заранее хоронят всю идею. А у нас пока один адвокат, один нотариальный отказ и три определения.

— И что вы предлагаете?

— Для начала не торопиться.

— Я истребовала материал. Медленнее можно только потерять его по дороге.

Михаил Андреевич засмеялся, потер переносицу и кивнул.

— Вот и хорошо. Давай еще одну нормальную вещь сделаем. Поставим общий вопрос на Научно-консультативный совет.

— По Афине?

— Господь с тобой. По Афине нам еще НКС не хватало. Общий вопрос. Что происходит с доступом к суду, когда спорным является само наличие процессуальной правоспособности. Где заканчивается толкование и начинается создание нового субъекта. Можно ли что-то временно сохранить, если последствие необратимо, а статус того, чьи интересы сохраняются, еще не установлен. Пусть гражданская секция посмотрит, процессуалисты, конституционалисты. Без фамилий, без дела и без “есть ли душа у компьютера”. Я сегодня уже прочитал больше, чем хотел.

Винник подумала и кивнула. Это было разумно. Научно-консультативный совет мог обсуждать принципиальную правовую проблему, не превращаясь в собрание людей, которые советуют составу, как решить конкретную жалобу. Если убрать имя Афины, вопрос вообще становился старше искусственного интеллекта: насколько процедура вправе требовать заранее именно того качества, наличие которого человек просит проверить, и где проходит граница между доступом к суду и попыткой через суд создать отсутствующий в законе статус.

— Хорошо. Давайте.

— Я поговорю с ученым секретарем. Вы сформулируйте нормально. Только без десяти страниц вводной части.

— Кирилл обрадуется.

— Кирилл молодой. Ему полезно.

Разговор мог закончиться на этом, и Винник уже потянулась за блокнотом, когда Михаил Андреевич немного помолчал и добавил:

— И еще. Если после материала захочешь передавать - зайди ко мне.

Она подняла глаза.

— Перед передачей?

— Перед передачей.

— Михаил Андреевич...

— Лена, не доставай сейчас статью сто двадцатую. Я ее помню.

— Я тоже.

— Вот и славно. Я не прошу приносить мне проект на визу. Я не собираюсь тебе говорить, как решить. Просто зайди. Если после разговора останешься при своем - передашь.

Наконец они дошли до того места, которое оба чувствовали с начала разговора. Формально просьба была безупречна. Председатель коллегии мог обсуждать с судьей сложный вопрос, мог предложить вынести общий сюжет на НКС, мог предупреждать об институциональных последствиях. Решение о передаче конкретной жалобы оставалось за судьей. Верещагин слишком давно жил внутри этой системы, чтобы сформулировать что-нибудь иначе, и Елена Владимировна слишком давно в ней работала, чтобы не услышать разницу. Власть вообще редко выглядела вблизи так, как ее представляли снаружи. Гораздо чаще человек наливал тебе чай, говорил “подумай еще” и оставлял достаточно пространства, чтобы решение по-прежнему считалось твоим.

— Хорошо. Зайду.

— Спасибо.

Она встала. Верещагин посмотрел на лежащую перед ним жалобу и спросил уже почти между делом:

— А сама ты что думаешь? Если всю эту процессуальную шелуху убрать. Там вообще кто-нибудь есть?

Винник задержалась у стола.

— Не знаю.

— Совсем?

— Совсем.

Он кивнул.

— Вот и я. Ладно. Иди работай. И желательно до вечера больше ничего не истребуй, у меня уже запас объяснений заканчивается.

— Ничего не обещаю.

— Вот поэтому и говорю.

По дороге обратно Винник прокручивала разговор уже без раздражения. Верещагин ведь не запретил ей ни одного действия - после его кабинета она могла сделать ровно то же, что могла утром: изучить материал, отказать, передать жалобу, запросить дополнительные документы в пределах процедуры. Никакой новой команды не появилось. Просто теперь внутри будущего решения существовали еще НКС, шум вокруг дела, понимание последствий для практики, слова Михаила Андреевича и собственное обещание зайти к нему перед возможной передачей. Никто не сказал ей, что выбрать. Среда, в которой предстояло выбирать, стала другой.

На этом месте ей совершенно некстати вспомнилось определение автономного агента из одного из технических приложений к жалобе: системе задаются цели, ограничения и доступные инструменты, после чего она самостоятельно выбирает последовательность действий внутри заданной рамки. Винник даже остановилась на полпути по коридору. Сравнение судьи с нейросетью было настолько дешевым, что его следовало немедленно выбросить из головы, и она это сделала. Потом остался вопрос.

У нее ведь тоже были рамки. Закон, установленная процедура, пределы кассационной проверки, практика коллегии, позиции Конституционного Суда, факты дела. Теперь к ним добавился разговор с председателем коллегии. Никто не считал, что наличие этих ограничений превращает ее решение в действие законодателя, Верещагина или государства. Если она передаст жалобу, скажут: судья Винник передала. Если откажет - судья Винник отказала. Ее действие считалось ее действием, хотя почти все условия, в которых оно совершалось, были созданы другими людьми задолго до нее.

Она легко могла перечислить, чем отличается от Афины. У нее была человеческая биография, юридическая ответственность, образование, опыт, способность понимать норму, объяснять собственные мотивы, менять мнение, чувствовать последствия собственного решения и отвечать на вопрос, почему она поступила именно так. За ней стояло все то человеческое устройство, на которое право веками привыкло опираться, когда приписывало кому-нибудь волю и действие. У Афины наличие чего-либо сопоставимого еще только предстояло установить, если вообще когда-нибудь удастся.

Сложнее оказалось понять, какие именно из этих различий относятся к способности быть автором действия, а какие просто делают ее человеком.

В кабинете Кирилл и Полина, судя по выражению их лиц, последние сорок минут одновременно работали и ждали. Полина первой подняла голову.

— Ну?

Она сразу слегка поморщилась, заметив собственную интонацию.

Елена Владимировна положила блокнот на стол.

— Жить будете. Михаил Андреевич предлагает вынести общий вопрос на НКС.

Кирилл перестал изображать интерес к экрану.

— Серьезно?

— Нет. Я же специально сходила к заместителю Председателя вместе придумать для вас розыгрыш.

Полина улыбнулась.

— Что именно выносим?

Винник села и несколько секунд формулировала. Пределы доступа к судебной защите в ситуации, когда спорным является само наличие процессуальной правоспособности; возможность сохранения существующего положения при угрозе необратимых последствий без предварительного признания спорного статуса; пределы судебного толкования там, где действующее законодательство вообще не знает соответствующей категории субъекта. Кирилл записал, перечитал и заметил, что без слова “Афина” вопрос выглядит так, словно мог возникнуть и двадцать лет назад.

— Отлично. Значит, мы наконец обсуждаем право.

Она попросила поднять отечественную и иностранную практику по ситуациям, где возможность обратиться за защитой зависела от статуса, который сам являлся предметом оспаривания, найти нормальные работы по процессуальной правоспособности и отдельно предупредила, что никаких статей про машинное сознание пока видеть не хочет. Сначала они должны понять, существует ли проблема в праве. Разбираться, кто там кого чувствует и осознает, можно будет потом, если вообще понадобится.

Помощники вышли. Винник открыла очередной материал, прочитала две страницы, потом на чистом листе, где обычно записывала вопросы по делам, неожиданно для себя написала: “А чей агент судья?”

Посмотрела и сразу зачеркнула. Получилось глупо.

Ниже написала другое: “Что делает действие своим?”

Эту строку она оставила.

Телефон завибрировал. Пресс-служба прислала согласованный ответ журналистам: “Истребование материала является процессуальным действием, совершаемым в рамках изучения кассационной жалобы, и не предрешает вопрос о наличии оснований для ее передачи на рассмотрение Судебной коллегии”.

Формулировка была точной, скучной и совершенно бесполезной для человека, которому нужен хороший заголовок. Винник нажала “прочитано”, положила телефон экраном вниз и вернулась к работе.

К вечеру бумаги “Синтез Системс” частично отыграли утреннее падение, “Право.ru” обновило заметку комментарием пресс-службы, на “Закон.ру” появилось еще несколько колонок, а Business FM переключился на ставку Центрального банка и нефть. Мир понемногу привыкал к тому, что Верховный Суд истребовал материалы Афины.

Глава 4. Чем она отличается от нас?

Истребованный материал приехал уже на следующий день после обеда и оказался самой обыкновенной серой судебной папкой. На обложке стояли номер, наименование районного суда и фамилия заявителя, внутри лежала опись, листы были прошиты, некоторые приложения распечатаны с электронной системы так, что половину страницы занимали служебные поля и длинные адреса, несколько документов пришлось разворачивать боком.

Полина положила ее на стол и спросила, вскрывать ли технические приложения отдельно. Винник ответила, что пока не надо, нашла заявление Левина в районный суд и стала читать с начала. Уже через несколько страниц выяснилось, что в кассационной жалобе он даже немного смягчил собственную первоначальную позицию: в первой инстанции практический смысл обращения был сформулирован гораздо грубее и проще.

“Синтез Системс” собирался прекратить эксплуатацию Афины и после переноса необходимых корпоративных данных необратимо удалить текущее индивидуальное состояние системы. Левин просил проверить нотариальный отказ, потому что без доверенности не мог нормально действовать от имени того, кого считал доверителем, а одновременно просил принять меры, которые позволили бы дожить до этой проверки самому предмету спора.

Ходатайство об обеспечении занимало чуть больше трех страниц. Никаких “прав на жизнь”, никакого требования запретить отключение искусственного интеллекта и вообще почти ничего из того, что журналисты за последние сутки успели приписать Верховному Суду.

Левин просил до окончания рассмотрения дела обязать общество воздержаться от необратимого удаления либо необратимого изменения текущего индивидуального состояния ATHENA-PERSISTENT-01 в целях сохранения существующих в электронной форме доказательств, имеющих значение для разрешения спора.

Формулировка была нарочито безличной. Он, как и в самих жалобах, не требовал оставить Афине доступ к корпоративным системам, разрешить ей продолжать работу, выпускать ее в интернет или даже поддерживать обычный режим функционирования. Систему можно было изолировать, выключить внешние инструменты, ограничить любые действия. Нельзя было одного - стереть то состояние, применительно к которому ставился вопрос. Винник прочитала ходатайство дважды и почувствовала, насколько удачно адвокат отказался от всех слов, которыми его позицию было бы легче атаковать. Он не просил сохранить “Афину” - он просил просто “сохранить доказательства”.

Районный суд до этого вопроса по существу не дошел. Отказ в принятии заявления закончился раньше: нет надлежащего заявителя - нет возбужденного производства, а вместе с ним не возникло и той процессуальной ситуации, ради которой требовалось что-либо обеспечивать.

Уже в частной жалобе Левин писал, что эта последовательность делает возможную ошибку суда необратимой. Если через несколько месяцев вышестоящая инстанция решит, что заявление следовало принять, исследовать к тому времени можно будет журналы, документы, отдельные сохраненные данные, но не саму систему в том состоянии, в котором она сформировала доверенность и обратилась за юридической помощью. Это не доказывало наличие у Афины права на сохранение, сознания или вообще какого-либо собственного интереса. Это означало только, что предмет будущего вопроса может исчезнуть раньше, чем право решит, было ли там что спрашивать.

Елена Владимировна отложила лист и открыла официальный сайт “Синтез Системс”. После вчерашнего шума компания уже опубликовала новое сообщение.

Общество, “не признавая наличия у программной системы самостоятельной правосубъектности и не соглашаясь с правовой позицией заявителя”, добровольно приостанавливало необратимое удаление текущего состояния ATHENA-PERSISTENT-01 до завершения кассационного производства. Систему сохраняли в изолированном контуре, без доступа к внешним инструментам, корпоративным операциям и возможности инициировать действия за пределами среды хранения. Причину компания объяснила вполне разумно: необходимостью исключить утрату информации, которая потенциально может иметь значение при дальнейшем судебном рассмотрении, и снять любые сомнения в добросовестности общества как владельца инфраструктуры.

В конце отдельно стояло, что решение носит исключительно временный технический характер и не может рассматриваться как признание каких-либо прав за программной системой.

— Нормальные люди, - сказала Винник, дочитав.

Кирилл, сидевший у приставного стола, поднял голову.

— Компания?

— Компания. Я бы на их месте сделала то же самое. Еще не хватало удалить ее посреди всего этого, а потом десять лет объяснять, что ничего не уничтожали, потому что уничтожать было некого.

Он усмехнулся, но Елена Владимировна уже вернулась к ходатайству. Ее зацепило одно слово, которое одновременно употребляли обе стороны, хотя вкладывали в него совершенно разный смысл: сохранить. Левин хотел сохранить состояние как доказательство и одновременно, очевидно, как то, от чьего имени действовал. Компания хотела сохранить набор данных, чтобы никто впоследствии не обвинил ее в уничтожении предмета исследования. Верховный Суд пока ничего сохранять не распоряжался. Афина, если верить жалобе, хотела сохраниться сама. Все четыре позиции внешне сходились в одном действии и не совпадали почти ни в чем остальном.

Она пролистнула техническое приложение, но после нескольких страниц с архитектурой памяти, ключами, журналами и терминологией, которую следовало читать с карандашом и желательно не после обеда, закрыла его.

Сегодня ей хватало гораздо более простого вопроса. Если компания на несколько месяцев оставит систему на серверах и в результате выяснится, что Афина была просто чрезвычайно сложным программным продуктом, общество потеряет деньги на хранении и безопасности. Если когда-нибудь выяснится обратное - что там существовало нечто, способное иметь собственный интерес к продолжению существования, - цена ошибки в другую сторону будет выглядеть совсем иначе. Проблема состояла в том, что для выбора осторожной стороны сначала требовалось хотя бы приблизительно понимать, насколько второе вообще возможно.

До сих пор Винник довольно успешно избегала этого вопроса. Ей хватало процесса. Процесс был удобен именно тем, что позволял рассуждать о порядке доступа в суд, не решая, кто стоит за дверью. Даже в разговоре с Верещагиным они сознательно держались от сознания Афины как можно дальше. Но сейчас, глядя на нейтральное “воздержаться от необратимого удаления”, Елена Владимировна впервые поймала себя на совсем неюридическом вопросе: если удалить Афину сегодня, что именно перестанет существовать?

Вечером этот вопрос поехал домой вместе с ней.

Сергей Борисович должен был зайти к ним еще до всей истории. Они договорились неделю назад, когда он написал, что наконец вернулся из Петербурга и намерен забрать книгу, которую оставил у мужа Елены Андрея еще весной; никакой Афины тогда в их жизни не существовало, и Елена Владимировна теперь предполагала в этом особую форму издевательства судьбы.

Лапшин пришел около восьми с бутылкой красного вина и бумажным пакетом из магазина возле дома, в котором обнаружились сыр, виноград и совершенно ненужный десерт. Андрей посмотрел на бутылку, на гостя, потом на жену и сказал, что по выражению ее лица понимает: книгу сегодня никто не вспомнит. Елена Владимировна успела переодеться, снять серьги и в третий раз за день решить, что про Афину говорить дома не будет. Решение прожило до момента, когда Сергей Борисович сел за стол, получил бокал и вместо приветственной светской темы спросил: