Как пережить пришествие искусственного интеллекта и остаться человеком
Тема огромная, сложная и чрезвычайно серьёзная, но сейчас попытаемся пробежаться по ней вкратце, тезисно, с шутками-прибаутками.
1. Без паники. Любая уважающая себя инструкция по выживанию в сложных и непонятных условиях обязана начинаться этими словами. Как бы причудливо ни разворачивались события, паникой делу не поможешь.
2. Сразу обозначим список технологий, пришествие которых в первую очередь вызывает наше беспокойство: технологии слежки, «большие данные», искусственный интеллект.
3. В словосочетании «искусственный интеллект» первое слово является правдой, а второе нет. Что бы мы ни считали интеллектом, так называемый искусственный интеллект им не является. Это очередной усилитель интеллекта. Как блокнотик с карандашом, усиливающий способность запоминания. Как калькулятор, усиливающий способность счёта. Собственного интеллекта нет ни у блокнотика, ни у калькулятора, ни у этого самого нашего ИИ.
4. Следовательно, если у нас случается конфликт с ИИ, то правильно его рассматривать не как конфликт с самим ИИ, а как конфликт с его белковыми двуногими владельцами.
5. Все проблемы - от глупости и жадности. Перестав быть глупым и жадным, ты можешь избавиться от половины проблем, но от вызванной глупостью и жадностью других людей второй половины проблем ты в любом случае не избавишься.
6. Каждая технологическая революция приводит к тому, что некоторые виды деятельности становятся больше не актуальны. Нынешняя в этом случае ничем не лучше и не хуже тех, которые человечество уже пережило. Не будем себе льстить. Плач по поводу «люди больше не будут нужны» - отставить. Люди всегда нужны. Хотя бы им самим.
7. Технологической сингулярности не будет. Потому что таких штук, возможно, вообще не бывает. В принципе, перспектива нарваться на рукотворный апокалипсис вполне реальна, но точно не в этот раз.
8. Та технология, которую по недоразумению назвали искусственным интеллектом (аппроксимация функций большого количества переменных методом градиентного спуска по пространству решений), сама по себе является чрезвычайно полезной штукой. Возможность делать такие программы, для написания которых традиционным способом нет и не может быть живых программистов.
9. … и для понимания функционирования которых нет и не может быть живых аналитиков. Мы от такого немножко отвыкли, но нельзя сказать, что ситуация из ряда вон выходящая. Мы уже десятки тысяч лет с удовольствием пользуемся биотехнологиями земледелия и животноводства без полного понимания того, как функционирует жизнь. Алармизм по поводу того, что «мы не сможем обеспечить полную предсказуемость и надёжность» - на помойку. Сможем. Традиционными методами - проб/ошибок, системами эмпирических правил и т.п. Об этом не надо беспокоиться.
10. «Что если завтра или послезавтра придумают не этот поддельный искусственный интеллект, а настоящий, который ещё называют сильным?» Да ничего. Потому что не придумают. В первую очередь не придумают потому, что сама постановка задачи создания «сильного ИИ» концептуально некорректна. У меня не получится без залезания в глубокие дебри объяснить, в чём косяк. Как-нибудь в следующий раз, ОК? Предлагается по данному вопросу не напрягаться, запастись попкорном и насладиться величественным зрелищем того, как высокие профессионалы бьются над задачей, которую они не только решить, но и сформулировать не могут.
11. Тем не менее, «чудесами техники» нас удивлять и восхищать будут ещё многократно. Бестолковый процесс поиска сильного ИИ даёт много интересных и полезных побочных продуктов.
12. Настоящий цивилизационный переворот случился не с пришествием ИИ, а немножко раньше, когда наш Шарик стал маленьким. Сначала в плане транспортной доступности, а потом по информационной связности.
13. На планете 8 миллиардов человек. По крайней мере миллиард из них глобально мобилен. А информационно активны почти все (в африканской хижине может не быть канализации и еды, но мобильный телефон есть). 8 млрд - чудовищное невообразимое умом количество. Если каждый из 8 млрд сделает смешную 10-секундную гифку, то для того, чтобы отсмотреть их все, тебе понадобится 2500 лет без сна и отдыха.
14. Каждый человек (а их, как помним, 8 млрд), если он не наглухо порабощён, являет собой самое хитрое, своенравное и коварное существо в разведанной части Вселенной. Машинку по преобразованию реальности под себя, обладающую чудовищной созидательной и одновременно с тем разрушительной силой.
15. Если ты считаешь это проблемой и думаешь над тем, как эту неприятность устранить, ты мой враг. Убей себя об стену.
16. Лучшие в мире умы, поддержанные самыми мощными в мире технологиями, думают над тем, как укротить эту стихию. То есть превратить нас, самых хитрых, своенравных и коварных существ в разведанной части Вселенной, в послушный скот, который можно загнать в стойло и там кормить, поить и доить.
17. Технологии слежки и «большие данные», оплодотворяемые мощью т.н. искусственного интеллекта - как раз про это.
18. Нет никакого единого центра, решающего задачу порабощения масс. Теневое правительство, рептилоиды, ZOG - это всё сказки для телезрителей. Технологии порабощения пошли в массы. Любой болван может сделать приложуху, которая будет следить за пользователями. И копить «большие данные». Анализировать их нейросетью. И иметь свою выгоду с отбирания маленького кусочка человеческой свободы.
19. Проблема ни в коем случае не в том, что кто-то получает выгоду. Проблема в тех кусочках свободы, которые мы вынуждены отдавать за получаемые удобства.
20. Болваны, делающие свой маленький гешефт на порабощении пользователей, опасности, в сущности, не представляют. Хуже (для нас) то, что в эти игры активно играют сотни правительств и многие тысячи корпораций. В том числе и те, от которых, к сожалению, нам иногда бывает что-то нужно.
21. Свобода - штука многогранная, и она, конечно, не является каким-то измеримым вещественным ресурсом. Она всегда сугубо индивидуальна. Можно быть образцово свободным, сидя в тюрьме, а можно быть наглухо закрепощённым самодержцем на троне.
22. Если существо претендует на звание хитрого и своенравного, то первое, что ему следует сделать - это определиться со своими приоритетами. Не бывает так, что человеку важны абсолютно все аспекты его свободы. По-любому приходится искать баланс между собственной автономностью и теми удобствами (и возможностями!!!), которые даёт пребывание в стаде. Альтернативы грамотной и вдумчивой работе по выстраиванию приоритетов - уйти в леса или бомжевать, или сдаться и растворить своё «я» в коллективном бессознательном.
23. То, что тебе действительно важно, обнести толстыми крепостными стенами, окружить рвом, в ров запустить крокодилов, и поставить автоматические турели, без разговоров уничтожающие всё, что пытается пролезть. Тем, что вокруг цитадели, можно и нужно выгодно торговать.
24. А ещё лучше, если цитаделей несколько, а какая из них настоящая, никто кроме тебя не знает. Настоящую вообще лучше спрятать с глаз долой. Разве кто-то говорил, что партизанская война против многотысячекратно превосходящих сил противника - это просто? Строжайшая конспирация и параноидальная осторожность - лучшие друзья партизана.
25. Несмотря на партизанскую войну не на жизнь, а на смерть, научись быть во всём остальном максимально открытым, позитивным и благодушным. Жизнь слишком коротка, чтобы хмуриться. Если сокровенное надёжно спрятано, можно позволить себе пошалить.
26. В мире, где все у всех на виду, и особенно на виду у тех, у кого на виду лучше не быть, уязвимость и тонкую душевную организацию мы себе позволить не можем. Нежные существа обречены на вымирание. Также под бульдозер социал-дарвинизма попадают обладатели строгих всеохватывающих моральных систем. Если тебя легко прижучить какой-нибудь смешной ерундой, тебя ею обязательно прижучат.
27. В мире, где все у всех на виду и всех пытаются прижучить за всякую ерунду, научиться списывать другим людям грешки - критически важный талант. И на этом пункте обладатели строгих всеохватывающих моральных систем второй раз попадают под социал-дарвинистский бульдозер.
28. Если проинвентаризировать все анекдоты, которые я рассказал за свою жизнь, это будет чудовищная смесь расизма, сексизма любых мастей, антисемитизма, сионизма, эйджизма, эйблизма, классизма, не говоря уже обо всём многообразии национализмов. Все заботливо насаждаемые ценности многократно попраны с особым цинизмом. И бумажку мимо урны бросал. Из окна на головы прохожим, кажется, не блевал, но это не точно. Вандализмом баловался. Врал. И…? Горе тому высокоморальному прокурору, который попытается мне что-то предъявить. В дивном новом мире всё помнящего Интернета и больших данных правильная реакция на шантаж любого рода - точно не паника, слёзы и отчаянье.
29. Соответственно, мне самому тоже глубоко фиолетово на смешные грешки других людей. И это не есть какой-то высокий моральный выбор, а чисто прагматический подход, очень актуальный в эпоху всё помнящего Интернета и больших данных. Расцвет пофигизма, работающего в обе стороны - естественная реакция здорового социума на угрозу тотального шантажа со стороны владельцев больших данных. Человечество поделится не по цвету кожи и разрезу глаз, а по водоразделу между теми, кто смогли остаться весёлыми и свободными, и задроченными вусмерть моралфагами.
30. Чисто с технической точки зрения главные трудности, возникающие при создании и последующем использовании больших данных - неполнота, противоречивость и искажённость материала. Приведение даже относительно небольших баз данных в состояние, которое хотя бы с натяжкой можно считать порядком - муторная, нетривиальная и весьма творческая работа. Когда искусственный интеллект (который, как мы помним, никакой не интеллект) будет анализировать твой профиль чтобы узнать, за что тебя можно зацепить, для него критически важно будет отсутствие шумов, мощно уводящих алгоритм по ложному пути. Притом, что характерно, совсем не нужно для этого гуглить «ИГИЛ как вступить» или «подрыв мостов». Будь проще. Банальное «водосчетчики купить» или «пластиковые окна кредит» намного эффективнее вышибает мозг роботу, занимающемуся сегментацией аудитории. Сведи с ума ИИ, и он не сможет придумать, как свести с ума тебя.
31. Гигиена - залог здоровья. Ну, ты знаешь. Мыть руки перед едой, не трахаться с кем попало. Информационная гигиена - тоже важно. Не обедать там, где кормят говном. Выковыривание изюминок из каловой массы может быть увлекательным занятием, но не надо строить иллюзий: кроме вкусного изюма ты в результате обязательно съешь немножко говна.
32. Иммунитет - второй залог здоровья. Запереть себя в стерильную башню из слоновой кости - лучший способ потом сдохнуть от вульгарного насморка. Бодяться по злачным местам - можно и нужно. Время от времени. Аккуратно, соблюдая меры предосторожности, чётко отслеживая полученную дозу.
33. Главное правило грамотной работы с соцсетями - не лайкать. Никогда. Ни в плюс, ни в минус, ни в смайлик, ни в сердечко. Лайкая, ты проигрываешь дважды. Во-первых, выполняя это простое действие, ты сам внутри себя связываешь своё «я» с увиденным. Во-вторых, ты кормишь инфой робота, притом самым удобоваримым для него способом. Робот, составляющий твою ленту - ни разу не твой друг. Его задача (заложена как целевая функция в алгоритм его машинного обучения) - подсадить тебя на допаминовую зависимость и сожрать время твоей жизни. Если совсем невтерпёж, пиши развёрнутый комментарий. Комментарием ты даёшь обратную связь живому человеку, а лайком ты кормишь робота.
34. Если ИИ научился угадывать твои желания и обслуживать тебя наиболее приятным образом, то радоваться тебе абсолютно нечему. Включай сигнал тревоги и думай над тем, как сломать эту прекрасную идиллию. Если сломать не получается, то смело выпиливайся из соцсети.
35. Поставлен в стойло и подключён к кормушке может быть не только рядовой гражданин (потребитель благ), но и создатель этих самых благ. И это намного интереснее. Если ты владелец своего дела, можешь ли ты ответить буквой «я» на вопрос о том, кто и как принимает в этом деле решения? Не только ключевые решения масштаба «быть или не быть», но и по всяким мелочам, так или иначе задевающим ключевые аспекты?
36. С появлением ИИ очень велик соблазн отдать принятие тактических решений роботам. Засовываешь в алгоритм терабайт истории своего бизнеса, задаёшь целевую функцию, и через пару суток получаешь управленца, который работает на заданный результат самым оптимальным в мире способом. После этого ты всегда будешь иметь желаемый результат, но рулить бизнесом будешь уже не ты. Ты будешь уже не хозяин дела, а всего лишь его выгодоприобретатель. Подключённый к кормушке обитатель стойла.
37. «Я могу выключить робота и рулить сам». На самом деле нет. Ты не захочешь это сделать. Даже не захочешь корректировать принимаемые роботом решения. Робот принимает оптимальные решения, и любая возможная корректировка - только в сторону ухудшения. Пару раз попробовав, ты будешь знать это наверняка.
38. Общее место всех микроэкономических теорий в том, что цель бизнеса - получение прибыли. Но это, конечно, полная херня. Правильные специалисты по стратегическому бизнес-планированию в один голос говорят, что миссией компании не может быть получение денег. Деньги - это средства, которые нужны для реализации миссии. Сама миссия - это всегда что-то другое, не выражающееся ни в рубликах, ни в каком ином числовом показателе. Только в лирике - мутной, невнятной и, как правило, весьма неконкретной.
39. Мутную лирику невозможно заложить как целевую функцию в алгоритм градиентного спуска по пространству возможных решений. Заложить можно только формализованный скалярный критерий. Плавно приходим к тому, что робот-управленец не может быть натаскан на реализацию миссии. Только на максимизацию формального критерия. Например, прибыли.
40. Деловая активность окончательно поделится не по национальной принадлежности и не по технологическим укладам, а по водоразделу между человеческой деятельностью и максимизацией формальных критериев. При этом на долю первого достаётся всякая ерунда типа и создания всего нового и преобразования мира, а на долю второго достаётся получение экономической выгоды. В принципе, это разделение уже можно считать свершившимся фактом, но рождение ИИ мощно раздвинет края этой сущностной пропасти.
41. Мы должны быть морально готовы однажды проснувшись обнаружить себя в мире, где буквально всё делается не по-человечески. В мире, где некому задать вопрос «зачем?». В мире, где ответ на вопрос «почему?» может быть сформулирован только в виде огромных неудобоваримых матриц весовых коэффициентов. В мире, где все реальные решения принимаются неизвестно где, неизвестно кем и неизвестно исходя из чего. «Computer says “no”» перестанет быть сюжетной основой для смешных скетчей и станет чрезвычайно выбешивающей суровой реальностью. Притом такой, которая везде, куда ни ткни.
42. Отсутствие доступных пониманию смыслов и доступных к полаганию целей - ситуация, в которой человеческое существо выживать не может. Глобальный экзистенциальный кризис, выйдя далеко за рамки золотого миллиарда, накроет человечество так, что мало не покажется никому.
43. Мы с этим тоже справимся. Тоже это переживём. В конце концов, мы самые хитрые и изворотливые существа в разведанной части Вселенной. Задача преодоления экзистенциального кризиса имеет одно чрезвычайно кривое и гадкое решение. Это религиозная радикализация. Поиском альтернативных решений мировое сообщество пока серьёзно не озабочивалось. Придётся.
44. Пока ничего радикально нового и интересного по этой теме не придумано, можно с некоторой степенью уверенности спрогнозировать, что весьма востребованным и прибыльным видом деятельности станет производство целей. Уже сейчас профессиональные маркетологи трудятся над формированием потребностей, но это немножко другое: они формируют потребность для того, чтобы потом получить прибыль с продажи удовлетворяющих её товаров и услуг. Есть смутное подозрение, что цели сами по себе самоценны, и цепочку можно сократить. Как это всё может выглядеть, не имею ни малейшего представления. Просто мысли вслух.
45. Мы всё больше и больше попадаем в зависимость от технологий. Представь себе, что ты оказался в тайге с планшетом, на котором у тебя GPS и карта. Если у тебя в дополнение к этому нет компаса и старой доброй бумажной карты, ты рискуешь. Планшет может разрядиться, сломаться, заглючить. Или выдать что-то вроде «Закончился пробный период, обновите подписку». Рад бы, но в тайге нет Интернета, чтобы это сделать. Или вдруг «неожиданно» окажется, что карта без подключения к Интернету вообще не работает.
46. Не только мы зависим от технологий, но и сами технологии между собой сейчас завязаны в чудовищную сеть взаимозависимости. Уже был случай, когда на первый взгляд невинная правка исходного кода в одной маленькой свободно распространяемой библиотеке через цепочку зависимостей чуть не обвалила половину сайтов в Интернете. Прослеживание взаимозависимостей чаще всего похоже на блуждание в бескрайнем лабиринте, из которого нужно не просто найти выход, а обязательно найти все выходы, количество которых заранее неизвестно.
47. Искусственный интеллект никак не поможет нам справиться с проблемой лавинообразного роста сложности и хрупкости. Но, надо отдать должное, он эту беду и не усугубляет, потому что натренированная нейросеть с концептуальной точки зрения представляет собой очень простой предмет. По сути, это эмпирическая формула, которая или даёт правильный ответ, или нет, а вся её сложность скрыта внутри «чёрного ящика».
48. Создавая новые технологии (а также принимая решение об использовании технологий, созданных другими), следует приучить себя кроме прочих параметров оценивать их аддиктивность. Очень простой вопрос: «Что произойдёт, если эта штука сломается?» Есть ли у нас на этот случай план «Б»? Из того, что планшет ещё ни разу не ломался, GPS ещё ни разу не подводил, и производитель на своём очень красивом сайте мамой клянётся, что счастье будет продолжаться вечно, вовсе не следует, что мы можем позволить забыть дома компас и бумажную карту.
В сухом остатке:
a) Без паники. Прорвёмся.
b) Расставить приоритеты и чётко определить для себя границу между теми свободами, за которые насмерть сражаться, и теми свободами, которые продавать.
c) Без здорового пофигизма (в обе стороны - и по отношению к своим проколам, и по отношению к проколам других), в дивном новом мире жизнь полна горя и разочарований.
d) Сведи с ума робота. Постоянно придумывай, как понизить качество посвящённых тебе «больших данных».
e) Два залога информационного здоровья: гигиена и иммунитет. Первое строжайше соблюдать, второе аккуратно тренировать.
f) Не лайкать.
g) Не делегировать роботам принятие решений. У тебя голова не только для того, чтобы в неё кушать.
h) Каждый технологический наркотик обязательно оценивать на предмет аддиктивности. Плотно на иглу не садиться и всегда иметь план «Б».
1. Без паники. Любая уважающая себя инструкция по выживанию в сложных и непонятных условиях обязана начинаться этими словами. Как бы причудливо ни разворачивались события, паникой делу не поможешь.
2. Сразу обозначим список технологий, пришествие которых в первую очередь вызывает наше беспокойство: технологии слежки, «большие данные», искусственный интеллект.
3. В словосочетании «искусственный интеллект» первое слово является правдой, а второе нет. Что бы мы ни считали интеллектом, так называемый искусственный интеллект им не является. Это очередной усилитель интеллекта. Как блокнотик с карандашом, усиливающий способность запоминания. Как калькулятор, усиливающий способность счёта. Собственного интеллекта нет ни у блокнотика, ни у калькулятора, ни у этого самого нашего ИИ.
4. Следовательно, если у нас случается конфликт с ИИ, то правильно его рассматривать не как конфликт с самим ИИ, а как конфликт с его белковыми двуногими владельцами.
5. Все проблемы - от глупости и жадности. Перестав быть глупым и жадным, ты можешь избавиться от половины проблем, но от вызванной глупостью и жадностью других людей второй половины проблем ты в любом случае не избавишься.
6. Каждая технологическая революция приводит к тому, что некоторые виды деятельности становятся больше не актуальны. Нынешняя в этом случае ничем не лучше и не хуже тех, которые человечество уже пережило. Не будем себе льстить. Плач по поводу «люди больше не будут нужны» - отставить. Люди всегда нужны. Хотя бы им самим.
7. Технологической сингулярности не будет. Потому что таких штук, возможно, вообще не бывает. В принципе, перспектива нарваться на рукотворный апокалипсис вполне реальна, но точно не в этот раз.
8. Та технология, которую по недоразумению назвали искусственным интеллектом (аппроксимация функций большого количества переменных методом градиентного спуска по пространству решений), сама по себе является чрезвычайно полезной штукой. Возможность делать такие программы, для написания которых традиционным способом нет и не может быть живых программистов.
9. … и для понимания функционирования которых нет и не может быть живых аналитиков. Мы от такого немножко отвыкли, но нельзя сказать, что ситуация из ряда вон выходящая. Мы уже десятки тысяч лет с удовольствием пользуемся биотехнологиями земледелия и животноводства без полного понимания того, как функционирует жизнь. Алармизм по поводу того, что «мы не сможем обеспечить полную предсказуемость и надёжность» - на помойку. Сможем. Традиционными методами - проб/ошибок, системами эмпирических правил и т.п. Об этом не надо беспокоиться.
10. «Что если завтра или послезавтра придумают не этот поддельный искусственный интеллект, а настоящий, который ещё называют сильным?» Да ничего. Потому что не придумают. В первую очередь не придумают потому, что сама постановка задачи создания «сильного ИИ» концептуально некорректна. У меня не получится без залезания в глубокие дебри объяснить, в чём косяк. Как-нибудь в следующий раз, ОК? Предлагается по данному вопросу не напрягаться, запастись попкорном и насладиться величественным зрелищем того, как высокие профессионалы бьются над задачей, которую они не только решить, но и сформулировать не могут.
11. Тем не менее, «чудесами техники» нас удивлять и восхищать будут ещё многократно. Бестолковый процесс поиска сильного ИИ даёт много интересных и полезных побочных продуктов.
12. Настоящий цивилизационный переворот случился не с пришествием ИИ, а немножко раньше, когда наш Шарик стал маленьким. Сначала в плане транспортной доступности, а потом по информационной связности.
13. На планете 8 миллиардов человек. По крайней мере миллиард из них глобально мобилен. А информационно активны почти все (в африканской хижине может не быть канализации и еды, но мобильный телефон есть). 8 млрд - чудовищное невообразимое умом количество. Если каждый из 8 млрд сделает смешную 10-секундную гифку, то для того, чтобы отсмотреть их все, тебе понадобится 2500 лет без сна и отдыха.
14. Каждый человек (а их, как помним, 8 млрд), если он не наглухо порабощён, являет собой самое хитрое, своенравное и коварное существо в разведанной части Вселенной. Машинку по преобразованию реальности под себя, обладающую чудовищной созидательной и одновременно с тем разрушительной силой.
15. Если ты считаешь это проблемой и думаешь над тем, как эту неприятность устранить, ты мой враг. Убей себя об стену.
16. Лучшие в мире умы, поддержанные самыми мощными в мире технологиями, думают над тем, как укротить эту стихию. То есть превратить нас, самых хитрых, своенравных и коварных существ в разведанной части Вселенной, в послушный скот, который можно загнать в стойло и там кормить, поить и доить.
17. Технологии слежки и «большие данные», оплодотворяемые мощью т.н. искусственного интеллекта - как раз про это.
18. Нет никакого единого центра, решающего задачу порабощения масс. Теневое правительство, рептилоиды, ZOG - это всё сказки для телезрителей. Технологии порабощения пошли в массы. Любой болван может сделать приложуху, которая будет следить за пользователями. И копить «большие данные». Анализировать их нейросетью. И иметь свою выгоду с отбирания маленького кусочка человеческой свободы.
19. Проблема ни в коем случае не в том, что кто-то получает выгоду. Проблема в тех кусочках свободы, которые мы вынуждены отдавать за получаемые удобства.
20. Болваны, делающие свой маленький гешефт на порабощении пользователей, опасности, в сущности, не представляют. Хуже (для нас) то, что в эти игры активно играют сотни правительств и многие тысячи корпораций. В том числе и те, от которых, к сожалению, нам иногда бывает что-то нужно.
21. Свобода - штука многогранная, и она, конечно, не является каким-то измеримым вещественным ресурсом. Она всегда сугубо индивидуальна. Можно быть образцово свободным, сидя в тюрьме, а можно быть наглухо закрепощённым самодержцем на троне.
22. Если существо претендует на звание хитрого и своенравного, то первое, что ему следует сделать - это определиться со своими приоритетами. Не бывает так, что человеку важны абсолютно все аспекты его свободы. По-любому приходится искать баланс между собственной автономностью и теми удобствами (и возможностями!!!), которые даёт пребывание в стаде. Альтернативы грамотной и вдумчивой работе по выстраиванию приоритетов - уйти в леса или бомжевать, или сдаться и растворить своё «я» в коллективном бессознательном.
23. То, что тебе действительно важно, обнести толстыми крепостными стенами, окружить рвом, в ров запустить крокодилов, и поставить автоматические турели, без разговоров уничтожающие всё, что пытается пролезть. Тем, что вокруг цитадели, можно и нужно выгодно торговать.
24. А ещё лучше, если цитаделей несколько, а какая из них настоящая, никто кроме тебя не знает. Настоящую вообще лучше спрятать с глаз долой. Разве кто-то говорил, что партизанская война против многотысячекратно превосходящих сил противника - это просто? Строжайшая конспирация и параноидальная осторожность - лучшие друзья партизана.
25. Несмотря на партизанскую войну не на жизнь, а на смерть, научись быть во всём остальном максимально открытым, позитивным и благодушным. Жизнь слишком коротка, чтобы хмуриться. Если сокровенное надёжно спрятано, можно позволить себе пошалить.
26. В мире, где все у всех на виду, и особенно на виду у тех, у кого на виду лучше не быть, уязвимость и тонкую душевную организацию мы себе позволить не можем. Нежные существа обречены на вымирание. Также под бульдозер социал-дарвинизма попадают обладатели строгих всеохватывающих моральных систем. Если тебя легко прижучить какой-нибудь смешной ерундой, тебя ею обязательно прижучат.
27. В мире, где все у всех на виду и всех пытаются прижучить за всякую ерунду, научиться списывать другим людям грешки - критически важный талант. И на этом пункте обладатели строгих всеохватывающих моральных систем второй раз попадают под социал-дарвинистский бульдозер.
28. Если проинвентаризировать все анекдоты, которые я рассказал за свою жизнь, это будет чудовищная смесь расизма, сексизма любых мастей, антисемитизма, сионизма, эйджизма, эйблизма, классизма, не говоря уже обо всём многообразии национализмов. Все заботливо насаждаемые ценности многократно попраны с особым цинизмом. И бумажку мимо урны бросал. Из окна на головы прохожим, кажется, не блевал, но это не точно. Вандализмом баловался. Врал. И…? Горе тому высокоморальному прокурору, который попытается мне что-то предъявить. В дивном новом мире всё помнящего Интернета и больших данных правильная реакция на шантаж любого рода - точно не паника, слёзы и отчаянье.
29. Соответственно, мне самому тоже глубоко фиолетово на смешные грешки других людей. И это не есть какой-то высокий моральный выбор, а чисто прагматический подход, очень актуальный в эпоху всё помнящего Интернета и больших данных. Расцвет пофигизма, работающего в обе стороны - естественная реакция здорового социума на угрозу тотального шантажа со стороны владельцев больших данных. Человечество поделится не по цвету кожи и разрезу глаз, а по водоразделу между теми, кто смогли остаться весёлыми и свободными, и задроченными вусмерть моралфагами.
30. Чисто с технической точки зрения главные трудности, возникающие при создании и последующем использовании больших данных - неполнота, противоречивость и искажённость материала. Приведение даже относительно небольших баз данных в состояние, которое хотя бы с натяжкой можно считать порядком - муторная, нетривиальная и весьма творческая работа. Когда искусственный интеллект (который, как мы помним, никакой не интеллект) будет анализировать твой профиль чтобы узнать, за что тебя можно зацепить, для него критически важно будет отсутствие шумов, мощно уводящих алгоритм по ложному пути. Притом, что характерно, совсем не нужно для этого гуглить «ИГИЛ как вступить» или «подрыв мостов». Будь проще. Банальное «водосчетчики купить» или «пластиковые окна кредит» намного эффективнее вышибает мозг роботу, занимающемуся сегментацией аудитории. Сведи с ума ИИ, и он не сможет придумать, как свести с ума тебя.
31. Гигиена - залог здоровья. Ну, ты знаешь. Мыть руки перед едой, не трахаться с кем попало. Информационная гигиена - тоже важно. Не обедать там, где кормят говном. Выковыривание изюминок из каловой массы может быть увлекательным занятием, но не надо строить иллюзий: кроме вкусного изюма ты в результате обязательно съешь немножко говна.
32. Иммунитет - второй залог здоровья. Запереть себя в стерильную башню из слоновой кости - лучший способ потом сдохнуть от вульгарного насморка. Бодяться по злачным местам - можно и нужно. Время от времени. Аккуратно, соблюдая меры предосторожности, чётко отслеживая полученную дозу.
33. Главное правило грамотной работы с соцсетями - не лайкать. Никогда. Ни в плюс, ни в минус, ни в смайлик, ни в сердечко. Лайкая, ты проигрываешь дважды. Во-первых, выполняя это простое действие, ты сам внутри себя связываешь своё «я» с увиденным. Во-вторых, ты кормишь инфой робота, притом самым удобоваримым для него способом. Робот, составляющий твою ленту - ни разу не твой друг. Его задача (заложена как целевая функция в алгоритм его машинного обучения) - подсадить тебя на допаминовую зависимость и сожрать время твоей жизни. Если совсем невтерпёж, пиши развёрнутый комментарий. Комментарием ты даёшь обратную связь живому человеку, а лайком ты кормишь робота.
34. Если ИИ научился угадывать твои желания и обслуживать тебя наиболее приятным образом, то радоваться тебе абсолютно нечему. Включай сигнал тревоги и думай над тем, как сломать эту прекрасную идиллию. Если сломать не получается, то смело выпиливайся из соцсети.
35. Поставлен в стойло и подключён к кормушке может быть не только рядовой гражданин (потребитель благ), но и создатель этих самых благ. И это намного интереснее. Если ты владелец своего дела, можешь ли ты ответить буквой «я» на вопрос о том, кто и как принимает в этом деле решения? Не только ключевые решения масштаба «быть или не быть», но и по всяким мелочам, так или иначе задевающим ключевые аспекты?
36. С появлением ИИ очень велик соблазн отдать принятие тактических решений роботам. Засовываешь в алгоритм терабайт истории своего бизнеса, задаёшь целевую функцию, и через пару суток получаешь управленца, который работает на заданный результат самым оптимальным в мире способом. После этого ты всегда будешь иметь желаемый результат, но рулить бизнесом будешь уже не ты. Ты будешь уже не хозяин дела, а всего лишь его выгодоприобретатель. Подключённый к кормушке обитатель стойла.
37. «Я могу выключить робота и рулить сам». На самом деле нет. Ты не захочешь это сделать. Даже не захочешь корректировать принимаемые роботом решения. Робот принимает оптимальные решения, и любая возможная корректировка - только в сторону ухудшения. Пару раз попробовав, ты будешь знать это наверняка.
38. Общее место всех микроэкономических теорий в том, что цель бизнеса - получение прибыли. Но это, конечно, полная херня. Правильные специалисты по стратегическому бизнес-планированию в один голос говорят, что миссией компании не может быть получение денег. Деньги - это средства, которые нужны для реализации миссии. Сама миссия - это всегда что-то другое, не выражающееся ни в рубликах, ни в каком ином числовом показателе. Только в лирике - мутной, невнятной и, как правило, весьма неконкретной.
39. Мутную лирику невозможно заложить как целевую функцию в алгоритм градиентного спуска по пространству возможных решений. Заложить можно только формализованный скалярный критерий. Плавно приходим к тому, что робот-управленец не может быть натаскан на реализацию миссии. Только на максимизацию формального критерия. Например, прибыли.
40. Деловая активность окончательно поделится не по национальной принадлежности и не по технологическим укладам, а по водоразделу между человеческой деятельностью и максимизацией формальных критериев. При этом на долю первого достаётся всякая ерунда типа и создания всего нового и преобразования мира, а на долю второго достаётся получение экономической выгоды. В принципе, это разделение уже можно считать свершившимся фактом, но рождение ИИ мощно раздвинет края этой сущностной пропасти.
41. Мы должны быть морально готовы однажды проснувшись обнаружить себя в мире, где буквально всё делается не по-человечески. В мире, где некому задать вопрос «зачем?». В мире, где ответ на вопрос «почему?» может быть сформулирован только в виде огромных неудобоваримых матриц весовых коэффициентов. В мире, где все реальные решения принимаются неизвестно где, неизвестно кем и неизвестно исходя из чего. «Computer says “no”» перестанет быть сюжетной основой для смешных скетчей и станет чрезвычайно выбешивающей суровой реальностью. Притом такой, которая везде, куда ни ткни.
42. Отсутствие доступных пониманию смыслов и доступных к полаганию целей - ситуация, в которой человеческое существо выживать не может. Глобальный экзистенциальный кризис, выйдя далеко за рамки золотого миллиарда, накроет человечество так, что мало не покажется никому.
43. Мы с этим тоже справимся. Тоже это переживём. В конце концов, мы самые хитрые и изворотливые существа в разведанной части Вселенной. Задача преодоления экзистенциального кризиса имеет одно чрезвычайно кривое и гадкое решение. Это религиозная радикализация. Поиском альтернативных решений мировое сообщество пока серьёзно не озабочивалось. Придётся.
44. Пока ничего радикально нового и интересного по этой теме не придумано, можно с некоторой степенью уверенности спрогнозировать, что весьма востребованным и прибыльным видом деятельности станет производство целей. Уже сейчас профессиональные маркетологи трудятся над формированием потребностей, но это немножко другое: они формируют потребность для того, чтобы потом получить прибыль с продажи удовлетворяющих её товаров и услуг. Есть смутное подозрение, что цели сами по себе самоценны, и цепочку можно сократить. Как это всё может выглядеть, не имею ни малейшего представления. Просто мысли вслух.
45. Мы всё больше и больше попадаем в зависимость от технологий. Представь себе, что ты оказался в тайге с планшетом, на котором у тебя GPS и карта. Если у тебя в дополнение к этому нет компаса и старой доброй бумажной карты, ты рискуешь. Планшет может разрядиться, сломаться, заглючить. Или выдать что-то вроде «Закончился пробный период, обновите подписку». Рад бы, но в тайге нет Интернета, чтобы это сделать. Или вдруг «неожиданно» окажется, что карта без подключения к Интернету вообще не работает.
46. Не только мы зависим от технологий, но и сами технологии между собой сейчас завязаны в чудовищную сеть взаимозависимости. Уже был случай, когда на первый взгляд невинная правка исходного кода в одной маленькой свободно распространяемой библиотеке через цепочку зависимостей чуть не обвалила половину сайтов в Интернете. Прослеживание взаимозависимостей чаще всего похоже на блуждание в бескрайнем лабиринте, из которого нужно не просто найти выход, а обязательно найти все выходы, количество которых заранее неизвестно.
47. Искусственный интеллект никак не поможет нам справиться с проблемой лавинообразного роста сложности и хрупкости. Но, надо отдать должное, он эту беду и не усугубляет, потому что натренированная нейросеть с концептуальной точки зрения представляет собой очень простой предмет. По сути, это эмпирическая формула, которая или даёт правильный ответ, или нет, а вся её сложность скрыта внутри «чёрного ящика».
48. Создавая новые технологии (а также принимая решение об использовании технологий, созданных другими), следует приучить себя кроме прочих параметров оценивать их аддиктивность. Очень простой вопрос: «Что произойдёт, если эта штука сломается?» Есть ли у нас на этот случай план «Б»? Из того, что планшет ещё ни разу не ломался, GPS ещё ни разу не подводил, и производитель на своём очень красивом сайте мамой клянётся, что счастье будет продолжаться вечно, вовсе не следует, что мы можем позволить забыть дома компас и бумажную карту.
В сухом остатке:
a) Без паники. Прорвёмся.
b) Расставить приоритеты и чётко определить для себя границу между теми свободами, за которые насмерть сражаться, и теми свободами, которые продавать.
c) Без здорового пофигизма (в обе стороны - и по отношению к своим проколам, и по отношению к проколам других), в дивном новом мире жизнь полна горя и разочарований.
d) Сведи с ума робота. Постоянно придумывай, как понизить качество посвящённых тебе «больших данных».
e) Два залога информационного здоровья: гигиена и иммунитет. Первое строжайше соблюдать, второе аккуратно тренировать.
f) Не лайкать.
g) Не делегировать роботам принятие решений. У тебя голова не только для того, чтобы в неё кушать.
h) Каждый технологический наркотик обязательно оценивать на предмет аддиктивности. Плотно на иглу не садиться и всегда иметь план «Б».