Не слушаю, под суд! под суд! (Часть 1)
История успеха Джошуа Браудера красива. Красива, очень типична для Кремниевой долины, и одновременно кажется немножко «сказочной», «голливудской», не совсем настоящей.
В 18 лет Браудер получил права. И быстро столкнулся с тем, что вдобавок к привилегии водить машину прилагается не очень приятная вещь: штрафы за стоянку в неположенном месте. Один, второй, третий, ...дцатый. Джошуа не стал сдаваться и обжаловал большинство штрафов, весьма поднаторев в этом деле.
Я же программист, подумал Браудер. Зачем каждый раз делать всё вручную, если можно алгоритмизировать процесс? Друзья (которые тоже страдали от парковочных инспекторов) идею поддержали. А идея была проста: создать приложение, которое бы позволило без лишних усилий, написав в чат-бот немного деталей, обжаловать полученный штраф.
Джошуа принялся за работу, и скоро сервис под названием ”DoNotPay” был готов. Первым городом, на который он был нацелен, стал Лондон - Браудер там вырос, и проблема парковки там стояла очень остро. Стоит ли говорить, что сервис оказался очень востребованным лондонскими водителями? Популярность ”DoNotPay” росла: по статистике, примерно 60% обжалований были успешными, что экономило пользователям неплохие деньги.
И ”DoNotPay” начинает свою экспансию. Джошуа в перерывах между учебой ходит по оживленным улицам американских городов, всматривается в дорожные знаки, ищет возможные противоречия, изучает, что написано в постановлениях о штрафах.
Вскоре сервис открывается и для нью-йоркских водителей. Затем в Сиэттле, Сан-Франциско, Чикаго, Денвере… На начало 2017 года на счету сервиса 200 тысяч успешных обжалований. Через 7 месяцев - уже 375 тысяч. О проекте пишут крупнейшие СМИ, парня обхаживают акулы венчурного бизнеса.
Браудер (на тот момент ему исполнилось 20) понимает, что потенциал его сервиса выходит далеко за рамки обжалования штрафов за неправильную парковку. В нашей жизни мы то и дело сталкиваемся с самыми разными ситуациями, в которых требуется составление юридических документов - но знаний о том, как и что надо делать, у большинства населения попросту нет. И для многих ситуаций написать программу, составляющую требуемый документ, не намного сложнее, чем для написания апелляции на дорожный штраф.
Поэтому следующие шаги Браудера - это создание сервисов для составления документов по спорам арендаторов с арендодателями, оспаривания банковских комиссий и (социальная ответственность!) заявок на получение убежища для беженцев. А дальше дело пошло на широкую ногу. Вскоре ”DoNotPay” расширил функционал до тысячи различных юридических задач. Браудер даже замахнулся на создание своей экосистемы: выложил некоторые инструменты в открытый доступ, чтобы другие разрабатывали новые услуги на основе его технологий.
«Участие в юридических процедурах никогда не должно быть хлопотным делом, - излагал своё видение Джошуа, - и никогда не должен стоять вопрос, может ли кто-то позволить себе оплачивать такое. Вопрос, который должен стоять - каков правильный исход, как добиться справедливости».
Браудер хочет «выровнять условия игры, чтобы у каждого был одинаковый доступ к правовым услугам, предусмотренным законом. […] Если когда-нибудь кто-то будет иметь юридическое представительство с теми же стандартами, что и самые богатые люди в обществе - тогда, я думаю, это действительно хорошая цель».
Однажды, мечтал Джошуа, у него получится сделать правосудие бесплатным.
У капитализма были другие планы.
В 2019 году деньги от предыдущего раунда финансирования ”DoNotPay” подходили к концу. А ведь всё еще только начиналось… Браудеру хотелось сделать версии своего приложения для ОС Андроид и для веб-доступа, в голове вертелась еще пара классных идей по новым сервисам. Однако инвесторы дали парню понять: на приложение без монетизации давать несколько миллионов долларов они не готовы.
Скрепя сердце, Браудер вводит месячную плату за пользование ”DoNotPay”, 3 доллара. И договаривается с инвесторами о финансировании. Но только с одним условием, господа инвесторы: больше никаких повышений платы не требовать. Акулы венчурного бизнеса, ухмыляясь, закивали головами. Они знали, что аппетит приходит во время еды…
Еще через полтора года к Браудеру о новом раунде инвестиций приезжают договариваться бизнес-фигуры самого крупного калибра: гендиректор ”UiPath” Дэниэл Дайнс и мультимиллиардер, филантроп и гуру эффективного альтруизма Сэм Банкман-Фрид. На кону стоит оценка бизнеса ”DoNotPay” в 210 млн. долларов. Но от Браудера требуется один шаг…
И Браудер на него готов: плата за пользование сервисом растёт до $36/квартал.
Но дело ведь не в деньгах - в этом всё еще уверен Джошуа Браудер. В конце концов, условия игры для всех должны быть едины - и любой сервис в этой капиталистической игре обязан как-то покрывать свои затраты, да и зарабатывать рыночную норму прибыли тоже должен. Пока суммы за пользование остаются доступными для простого народа, беспокоится не о чем.
Беспокоиться надо о другом: все пять лет развития сервиса он представлял собой очень нехитрую модель. Создавался шаблон некоего юридического документа. Создавался простенький скрипт, который подставлял информацию от пользователя в нужные поля. Иногда - для более «ответственных» документов - штатный юрист проверял получившееся, чтобы клиент не получил бумагу с совсем уж неподобающими ошибками.
Полезная вещь, конечно. Но слишком уж ограниченная. Самые большие хлопоты и самое большое финансовое бремя несут юридические процессы, с которыми никак не справиться одними только шаблонными документами. Большое видение Браудера натыкалось на слишком скудный инструментарий, имеющийся в его распоряжении. Надежды на то, что эти ограничения можно перерасти, было мало.
«Есть много хороших адвокатов, я не думаю, что ИИ в обозримом будущем появится в Верховном суде», - пессимистично отмечал Джошуа Браудер в середине 2019.
«Машины не могут заниматься юридической практикой, - вторил ему коллега, основатель стартапа «LawDroid» Том Мартин. - Юридическая практика, по мне, требует человеческих суждений».
«Юриспруденция будет одной из последних отраслей, которую затронут подрывные технологии», - заявляла еще одна коллега, Эрин Левин, фаундер «Hello Divorce».
Действительно, за два с лишком столетия существования американская судебная система изменилась очень мало. Если остальные гражданские институты медленно, но верно менялись, реформировали управление и бюрократические практики, брали на вооружение новые технологии, материальные и организационные - то судопроизводство оставалось всё более архаичным «мамонтом», застывшим в конце 18 века.
Хуже того, система замкнулась в себе, начала коснеть и бронзоветь. Решительно сопротивляясь всем попыткам реформ, инициированным как «сверху», так и «снизу». Околосудебная бюрократия наделила себя исключительными привилегиями и тщательно зарегулировала доступ «простых смертных» в свои ряды. Там, где остальные институты старались демократизировать свою работу и обеспечить ее прозрачность, судопроизводство стало полагаться на эксклюзивность и недоступность.
Этому способствовал рост корпуса нормативных актов, неизбежный для всех развивающихся обществ. Право становилось сложнее, барьеры между кастой его толкователей и остальными гражданами - еще выше. Довольно быстро юридическая бюрократия начала использовать эти барьеры, чтобы извлекать ренту из своего привилегированного положения.
И это получалось у них всё лучше и лучше. При этом архаичность и закрытость околосудебного бизнеса отражается в том, что даже сейчас, к сожалению, статистика по финансовым издержкам на юридические услуги продолжает оставаться довольно отрывочной. Тем не менее, мы можем указать на то, что рост стоимости юридических услуг с 1959 по 2022 в 3,7 раза обогнал инфляцию. Или посмотрим на график ниже, где указаны юридические издержки корпораций в % от выручки, и где США с большим отрывом занимает 1-ое место:
Всем этим фундаментальным проблемам и бросал вызов грандиозный замысел Джошуа Браудера. Более того, о еще одной, самой важной проблеме, мы поговорим несколько ниже.
Но тогда казалось, что грандиозность замысла хоронит все шансы на его осуществление...
А зря. Пока венчурные капиталисты прогибали Браудера под изменчивый мир, а в молодой техно-юридической индустрии царило уныние, специалисты из исследовательского центра ”OpenAI” ковали новый прорыв в области искусственного интеллекта. В июне 2020 этот прорыв был представлен публике: большая языковая модель под названием GPT-3.
Впервые в истории, GPT-3 оказалась способна выносить суждения на уровне, не сильно уступающем человеческому. Возможно, это была самая подрывная технология, появившаяся за последние несколько лет.
Браудер, как и положено классическому тех-бро, начал экспериментировать с новой моделью в первые же недели после ее появления, когда доступ к ней давали только избранным. Трудно сказать, насколько ему понравились результаты - следующие пару лет мы ничего не слышали об ИИ-амбициях ”DoNotPay”. Однако в декабре прошлого года произошло одно важное событие. ”OpenAI”, потратив много времени на доведение GPT-3 “до ума“ - сделав модель более «послушной» и политкорректной - решилась дать широкой публике бесплатный доступ к одной из ее версий, ChatGPT.
Медиа-эффект был просто взрывным. Слава о ChatGPT вирально распространилась по всему интернету и стала одной из самых горячих тем в СМИ. Все говорили о «революции» и «новой эре».
Именно в момент этого ажиотажа Джошуа Браудер решает, что время для революции действительно пришло. Для революции в юридической практике, где машина заменит человека-адвоката.
Поскольку к этому времени Браудер расстался со многими идеалистическими представлениями, заменив их более полезными пиар-навыками, он спешит объявить о красивом и весьма смелом эксперименте.
Итак, рядовое заседание суда по поводу превышения скоростного режима. Но ответчик будет вооружен всей мощью современных технологий. Его смартфон слушает всё, что говорят участники заседания, и переводит речь в текст. Текст отправляется на сервера ”OpenAI” специально обученной версии GPT-3. Модель определяет, что нужно говорить ответчику. И - самое главное - ответчик должен слово в слово произносить то, что надиктовывает ему языковая модель.
Таким образом, всю защиту ответчика де факто берет на себя искусственный интеллект. Круто? Очень! Но Браудер считает, что пиара в этой истории маловато: всего-то разбирательство о превышении скорости. Поэтому он повышает ставки. Причём и в денежном смысле тоже.
Помните его скепсис в 2019 об ИИ в Верховном суде? Кажется, настало время для того, чтобы скепсис уступил место дерзости. Через 5 дней после первой инициативы он объявляет: я дам 1 миллион долларов адвокату, который согласился бы использовать такую же схему на слушаниях в высшем судебном органе Соединенных Штатов.
Пиар-задумка более чем удалась. А вот сами эксперименты… Именно с этого момента в нашу «голливудскую» историю начинает врываться суровая реальность и расставлять всё по своим местам.
Всё дело в том, что, если долго тыкать палкой в мамонта - неважно, каким бы архаичным и забронзовевшим он ни был - рано или поздно тот рассвирепеет. Пока ”DoNotPay” занимался штрафами за ДТП и шаблонными документами - на него не обращали особого внимания. Он не угрожал ничьим интересам. Адвокатура такой мелочевкой не занимается. В США меньше, чем за $1000, адвокат вообще за дело браться не будет.
Но когда Браудер заикнулся об участии системы в Верховном суде, ситуация резко изменилась. Тут угроза стала более чем очевидной. Не помогли ритуальные оговорки Джошуа о том, что «технология не заменит юристов, а станет помощью для них» и что «хорошие адвокаты по-прежнему будут востребованы». Ибо юристы - в основной массе люди неглупые, не слишком доверчивые и по роду профессии обязаны смотреть на несколько шагов вперед.
В адвокатских коллегиях по всей стране пошли разговоры. «Да как он смеет?.. Этот выскочка?.. Этот 25-летний тех-бро?.. Да у меня 25 лет практики!.. Что он понимает в законе?.. Закон - это я! Сейчас мы ему покажем, что такое закон!..» И, поскрипывая гусиными перьями, архаичная, но крепко укоренившаяся институция принялась писать Браудеру «письма счастья».
«Уважаемый г-н Браудер, - гласили «письма счастья». - Если Вы хотите проблем - Вы их получите. С лихвой. Мало не покажется. Доводим до Вашего сведения, что заниматься юридической практикой имеют право только те, кого мы, юридическая индустрия, для этого аккредитовали. А этот Ваш «ИИ» мы не аккредитовывали и не собираемся. Так что у нас уже лежит жалоба в прокуратуру. И с этой жалобой прокурор легко впаяет Вам 6 месяцев тюрьмы».
Проблемы с законом возникли и с другой стороны. Дело в том, что законодательство штатов запрещает аудио- и видеосъемку в судах (правильно, незачем государственным институтам прозрачность). Более того, что касается Верховного суда - то там даже наличие любых электронных устройств во время заседаний не допускается. Я не преувеличивал насчет архаичности.
Браудер наивно надеялся обхитрить эту норму, ссылаясь на исключение, позволяющее слабослышащим людям использовать слуховые аппараты. «Технически это в пределах правил, но я не думаю, что это соответствует духу правил», - признавался он. Нет, Джошуа: тягаться с законниками на этом поле тебе бесперспективно. Они тебе быстро натянут дух правил на букву, глазом моргнуть не успеешь…
Но одним давлением по официально-бюрократическим каналам юридическая отрасль не ограничилась. Тыкаешь в нас палкой? Мы тоже можем взять палку и потыкать в твой стартап. Вдруг там вылезет что-то интересное?
И вот 24 января Кэтрин Тьюсон публикует в своём твиттере длинный тред, посвященный сервису ”DoNotPay”. Вообще Тьюсон - юрист, паралегал - ранее никогда не публиковала разоблачений, срывающих покровы с технологических компаний. Но тут приходится поверить, что попытка Браудера подорвать священную индустрию права настолько прогневала Тьюсон, что та решила не оставить от его бизнеса и камня на камне.
Кэтрин Тьюсон
В треде Кэтрин Тьюсон усердно мешает с грязью несколько опробованных ею сервисов по генерации «шаблонных» юридических документов. Часть придирок можно списать на предвзятость автора. Например, она усиленно ищет «ИИ» там, где его и в помине быть не должно. Все три сервиса, которые она испытывает, скорее всего, были запущены еще в июле 2017. Когда ни о каком искусственном интеллекте Браудер еще не помышлял.
Но у Тьюсон были и более весомые поводы для критики. Из трёх документов, которые она попыталась создать с помощью сервиса, сразу ей удалось получить только один. Остальные два, несмотря на объявленные дедлайны «через час» и «через 8 часов» для первого и второго соответственно, так и не были готовы даже через двое суток. Никаких возможностей связаться с сервисом Тьюсон не обнаружила.
Документ, который сервис всё-таки сгенерировал для Тьюсон, оказался кривым, плохо слепленным шаблоном. Хуже того, он содержал явные юридические ошибки, делающие его бессмысленным (заметим, что Тьюсон специально дала машине самые каверзные условия).
Итого: результат тестирования сервиса ”DoNotPay” признан неудовлетворительным. Зато твиттер-тред с этим результатом получил виральную популярность, на момент написания этих строк набрав более 500 тыс. просмотров.
Итак, как же Джошуа Браудер встретил эти новые вызовы своему грандиозному видению?
Позорно.
Браудер слился.
Достаточно было попугать его 6 месяцами тюрьмы - и весь энтузиазм юного инноватора, эффективного альтруиста и борца за равенство перед законом куда-то потерялся. «Кажется, мы переборщили c пиаром», - оправдывался Браудер. «У меня появляется так много сильных врагов… Они реально нас ненавидят». Нет уж, нет уж, не будем их расстраивать.
И вообще, заявил Браудер, весь этот хайп так отвлекает мою компанию от настоящих целей… «Я жалею, что поступил так неоднозначно». Так что виноград на взгляд хорош - да зелен. Не очень-то и хотелось.
Что же до сервисов с шаблонными документами - то Браудер, забанив смутьянку Кэтрин Тьюсон, решил - да гори они синим пламенем. Используют их всё равно мало. Это тогда, пять лет назад можно было зарашить к дедлайну сразу тысячу разных форм и с важным видом показывать эту круглую цифру венчурным инвесторам, которые в ответ довольно кивали головами. Что там из себя эта тысяча форм в итоге представляет, они проверить не догадались.
А сейчас эти шаблоны тоже, как и ИИ-юрист, «отвлекают компанию» от правильных целей. ”DoNotPay” лучше сосредоточиться на защите потребительских прав с помощью ультрамодной модели GPT-3. В самом деле, повестка у венчурной индустрии изменилась, и против GPT-3 возражать точно никто не будет.
Впрочем, одним только баном Кэтрин Тьюсон было не пронять. Она продолжила высмеивать в Твиттере и на Techdirt.com возникшую у Браудера панику и его неуклюжие ходы по заметанию следов. Так, Браудер лихорадочно отредактировал Условия использования сервиса, запретив всякое его тестирование как таковое!
Но Тьюсон копала дальше. Очередной ее мишенью стал моральный облик строителя ИИ-юриспруденции. Честно говоря, моральный облик - далеко не самая сильная сторона Кремниевой долины; скорее она известна своим тщеславием и хвастовством. Джошуа Браудер - не исключение. В ноябре прошлого года его угораздило твитнуть, что он погасит за других людей их медицинский кредит на сумму $10 за каждый ретвит и подписку на его аккаунт.
Благотворительность - это очень мило. Но обещания надо выполнять. А ну-ка, Джошуа, покажи нам чеки на сделанные пожертвования, затребовала Кэтрин Тьюсон. Браудер, давным-давно забывший про свой твит, в спешном порядке перечисляет $500 и принимается орудовать в Фотошопе, меняя в выписке дату на декабрь 2022. Не тут-то было! Тьюсон обнаруживает, что Браудер довольно криво отфотошопил чек. И для верности связывается с благотворительной организацией, которая подтверждает: Браудер перечислил деньги через 4 минуты после того, как Тьюсон потребовала доказательств.
Кэтрин Тьюсон торжествует. Узрите, что представляет собой этот ваш директор 210-милионного стартапа, ИИ-визионер и борец за справедливость! На самом деле он всего лишь лжец и мошенник, не гнушающийся обманывать даже в самых безобидных ситуациях! Не брезгующий подлогами, даже когда дело касается благотворительности!
Трусость, позор и унижение - финал этой поначалу красивой истории оказался для главного героя совсем некрасивым. Грандиозные амбиции лопнули, как мыльный пузырь. В противостоянии Системы и человека победила Система. Как это обычно и бывает. Прости, Голливуд.
Но закончив с этой историей, мне бы хотелось обратиться к Истории. Она позволит нам оценить эти события гораздо полнее, не ограничиваясь попкорновыми голливудскими штампами. И - забегу вперед - там есть гораздо более важные вещи, чем блеск и нищета отдельно взятого Джошуа Браудера
В Истории было немало примеров борьбы с технологическим прогрессом. Но самый яркий эпизод, ставший нарицательным - борьба движения луддитов с ткацкими машинами в 1810-ых годах в Британии.
Луддиты были, по большей части, ткачами и прядильщиками, чей труд в конце 18 века резко обесценился в связи с распространением машин. Особенно привилегированное положение и высокий заработок имели ткачи - их можно было назвать «аристократией» ремесленничества. Ткачи учились мастерству долго, годами, и передавали свою профессию из поколения в поколение, от отца к сыновьям.
Вязальное ремесло. Гравюра из Энциклопедии
Не будет большой натяжкой сравнить ткачей 18 века с нынешней американской адвокатурой. Последняя тоже может похвастаться медианным заработком в 2,8 раза выше остальных. Профессия тоже требует основательного обучения и наработки практики. Разве что с семейной преемственностью сейчас таких строгих требований нет.
Итак, бывшая «белая кость», поколениями гордившаяся своей профессией, опустилась до уровня чернорабочих, которые занимались незатейливым, физически тяжелым трудом. Мириться с такой потерей статуса она не пожелала. Что именно было причиной ее бед, ей было очевидно: машины. И, поскольку с демократическими институтами выражения своих требований тогда всё было очень печально (я уже не говорю про политическую грамотность), люди решили, что самым действенным шагом будут погромы.
Луддиты собирались толпой в несколько десятков человек. И шли ломать станки, паровые машины, водяные колёса и прочее оборудование. Не обходилось без поджогов цехов. Но человеческих жертв практически не было: хозяева и работники предусмотрительно разбегались куда подальше, а отдельных репрессий в их адрес луддиты не планировали.
Не совсем исторически точная иллюстрация: чтобы их не узнали, погромщики мазали лица сажей или заматывали их шарфами, и надвигали шляпы поглубже. Естественно, "на дело" шли в темное время суток
А что Система? Система, в отличие от бунтарей, не испытывала никаких сантиментов в отношении репрессий. Надо отметить, что и до луддитского движения британское правосудие было крайне жестоким по отношению к простолюдинам. Когда же стало понятно, что возникло радикальное массовое движение, гаечки затянули еще туже…
Одной из самых черных страниц в истории британского права стал закон, который уравнивал станок и жизнь человека. За поломанные машины почти три десятка человек отправились на виселицу. Некоторым повезло немного больше: их приговорили к ссылке в Австралию. (Это сейчас отъезд в Австралию является голубой мечтой среднестатистического московского хипстера призывного возраста. Тогда же ссылка на австралийский континент мало чем отличалась от ссылки «во глубину сибирских руд», на каторжные работы, практиковавшейся российским государством в ту эпоху. Разве что климат в Австралии был более тёплый, а аборигены - более враждебные.)
Массовые публичные казни произвели должный эффект: луддитские погромы сразу же сошли на нет. Технологический прогресс мог записать себе победу. И террор стал одним из средств, с помощью которых эта победа была добыта.
Но террор - лишь инструмент. Решающим фактором здесь было то, что деструктивные действия луддитов наносили ущерб привилегированному классу Великобритании. Капитал тогда, на заре Промышленной революции, еще не оформился в самостоятельную политическую силу. Но при этом практически все мануфактуры принадлежали представителям верхних слоев британского общества, вокруг интересов которых и строился весь аппарат государственной власти Великобритании.
Гибсон-Милл, одна из первых текстильных фабрик в Британии, была построена в 1805 местными землевладельцами, семьей Гибсон
Если выше я употребил фразу «закон - это я!» в ироничном смысле, то для Британии 1810-ых она имела буквальное прочтение: судьями по хозяйственным спорам и мелким преступлениям были местные магнаты и аристократия.
И закон вместе с магнатами оказался на стороне технологий. Магнатам не было дела до прогресса - но машины давали прибыль. Деньги. А деньги уже тогда, на заре Промышленной революции, вполне легко конвертировались в высокий статус. Следовательно, погромы луддитов бросали вызов не только общественному порядку - который Система номинально обязана поддерживать. Но они также угрожали разрушить статус людей, эту Систему составляющих - точно так же, как ранее машины разрушили статус ткачей и прядильщиков. Этого Система потерпеть не могла.
Таким образом, технологии - вернее, владение их плодами - стали тем водоразделом, который возвысил статус одних и разрушил статус других. Технологии стали средством роста неравенства в британском обществе. И Систему в 1810-ых такой исход более чем устраивал.
Но времена менялись. А с ними менялась и сама Система. Нынешняя Система - Система, которой попытался бросить вызов Джошуа Браудер - ушла от террора как инструмента внутренней политики, стала ценить человеческую жизнь выше, чем машину, и создала демократические институты мирного поиска консенсуса.
Система, безусловно, изменилась в лучшую сторону. И конкретно американская Система стала тем локомотивом, который потянул в этом направлении и Системы других государств. Когда палач в британском Йорке дергал за рычаг эшафота, на котором стояли приговоренные погромщики, в Америке уже работало право, созданное людьми, которые искренне верили в идеалы Свободы, Равенства и Братства.
Разумеется, одной только веры в идеалы мало - но американскую попытку отвязать судебную систему от интересов сильных мира сего можно было признать вполне успешной.
Тем не менее, у автономии есть и свои побочные эффекты. Именно эта изолированность во многом и привела к той архаичности и закрытости американской правовой отрасли, которую мы обсуждали выше. Чтобы контрастнее увидеть особенности новой, изменившейся Системы, нам опять понадобится обратиться к исторической аналогии. Но сделаем мы это уже во второй части нашего повествования...
Продолжение: >> Часть 2 >>
___________________________________________________________
Друзья, я начал вести канал в Телеграм: Экономика знаний. Подписывайтесь!