после вавилона
Пара-тройка мыслей, которые озвучил на Симпозиуме:
(1) Виктор Пелевин конечно же останется в новой истории России - но не как автор юморесок в стиле советского журнала «Крокодил». Юморески эти уйдут в забвение вместе с поколением депрессивных перестроечных интелей. А вот сам Пелевин останется в истории как модель отсутствия человека в информационном поле - в эпоху тотального шпионажа, когда вокруг пропагандируют полную открытость персональных данных. Когда всех приучают ходить голыми, то есть сливать в Интернет все свои вкусы, интересы и уязвимости - а тут простой писатель без особых хакерских криптовозможностей демонстрирует, как легко можно быть в этом мире невидимкой. Где он живёт, во что одевается, что он подумал в ответ на мнение известного блогера о высказывании известного стримера о выступлениии Трампа - ничего такого о Пелевине вам не известно. Да, так жить можно.
(2) Искусственный интеллект, используемый для управления людьми, рискует впасть в петлю положительной обратной связи, которая называется «тупой и ещё тупее». То есть: искин подбрасывает людям банальные развлечения, люди деградируют, машинка обучается на фидбэке и деградирует вместе с людьми, производя ещё более примитивную жвачку. Так уже работает "Нетфликс", так работают сервисы знакомств. Кстати, забавная дискуссия вышла в нашем подкасте - один ИБ-эсперт утверждал, что дейтинговый интеллект умеет создавать идеальные пары, а другой ИБ-эксперт говорил: нифига, эта система составляет такие пары, которые с большой вероятностью разбегутся и вернутся в сервис знакомств за новой дозой (а сервису того и надо). Так или иначе, невидимое ИИ-управление, подверженное каскадной деградации, уже вовсю работает.
Как избежать такой деградации управляющего искина и обслуживающих его человечков? Очевидно, в искин должна быть зашита поддержка разнообразия как целевая функция. Проще говоря, ИИ должен быть диалектиком и дарвинистом: если он видит, что все подсели на "Нетфликс", он тихонько подламывает "Нетфликс" и ненавязчиво рекомендует людям другие занятия. Понятно, что обеспечить такую эволюцию может только государственный ИИ, который будет иметь возможность ломать жадных корпоративных искинов, думающих только о наживе и поощряющих только тупые однообразные развлечения.
(3) Падение Вавилонской башни, то есть распад всеобщего Интернета на национальные и прочие Интернеты - это очень полезно. Ефремов считал главной опасностью будущего "техногенную монокультуру", и мы действительно оказались в таком мире, где на всех людей - три операционки, два мессенджера и один IP-протокол. Такая пирамидка является очень хрупкой. А вот разнообразие помогает спастить от всеобщего косяка: глобальный глюк системы безопасности CrowdStrike не очень коснулся России, потому что у нас стоят другие системы безопасности.
Но вот интересная задача для жизни после распада Вавилона: нужны интерфейсы перевода репутаций из одних сетевых миров в другие. А то приезжает наш человек в Китай - а там у него нет ни социального рейтинга, ни даже самого ВиЧата, на котором сидят все китайцы. Получается неудобно, даже купить ничего не можешь. Нужны "обменники социальной валюты".
С другой стороны, если вспомнить пункт (2), искусственный интеллект мог бы использовать именно такие точки перехода для продвижения жизненного разнообразия. Типа, отправляется известный русский блогер в Китай - а там его сразу записывают в сантехники. Пусть прокачивает новые скилы. Ну или доказывает старые.
Хороший пример на эту тему рассказал писатель Фёдор Березин. Во время поездки в один российский регион его не узнали, ну и стали предъявлять некие претензии на пути. А когда он сказал, что является писателем-фанастом - нагло спросили, что он написал. Но Фёдор не растерялся и ответил: "Гиперболоид инженера Гарина". И все претензии охранителей сразу отпали.
Остаётся лишь добавить, что высказывать такие странные футурологические идеи на серьёзных Симпозиумах можно только при наличии усов и бороды, как универсальных (международных) знаков высокой репутации -
Видеозапись секции «Кибербезопасность будущего» (мое выступление - с 55 минуты):
https://future.russia.ru/program/kiberrazvedka-kiberspiony-i-belye-xakery-istocniki-opasnosti-i-zashhity
(1) Виктор Пелевин конечно же останется в новой истории России - но не как автор юморесок в стиле советского журнала «Крокодил». Юморески эти уйдут в забвение вместе с поколением депрессивных перестроечных интелей. А вот сам Пелевин останется в истории как модель отсутствия человека в информационном поле - в эпоху тотального шпионажа, когда вокруг пропагандируют полную открытость персональных данных. Когда всех приучают ходить голыми, то есть сливать в Интернет все свои вкусы, интересы и уязвимости - а тут простой писатель без особых хакерских криптовозможностей демонстрирует, как легко можно быть в этом мире невидимкой. Где он живёт, во что одевается, что он подумал в ответ на мнение известного блогера о высказывании известного стримера о выступлениии Трампа - ничего такого о Пелевине вам не известно. Да, так жить можно.
(2) Искусственный интеллект, используемый для управления людьми, рискует впасть в петлю положительной обратной связи, которая называется «тупой и ещё тупее». То есть: искин подбрасывает людям банальные развлечения, люди деградируют, машинка обучается на фидбэке и деградирует вместе с людьми, производя ещё более примитивную жвачку. Так уже работает "Нетфликс", так работают сервисы знакомств. Кстати, забавная дискуссия вышла в нашем подкасте - один ИБ-эсперт утверждал, что дейтинговый интеллект умеет создавать идеальные пары, а другой ИБ-эксперт говорил: нифига, эта система составляет такие пары, которые с большой вероятностью разбегутся и вернутся в сервис знакомств за новой дозой (а сервису того и надо). Так или иначе, невидимое ИИ-управление, подверженное каскадной деградации, уже вовсю работает.
Как избежать такой деградации управляющего искина и обслуживающих его человечков? Очевидно, в искин должна быть зашита поддержка разнообразия как целевая функция. Проще говоря, ИИ должен быть диалектиком и дарвинистом: если он видит, что все подсели на "Нетфликс", он тихонько подламывает "Нетфликс" и ненавязчиво рекомендует людям другие занятия. Понятно, что обеспечить такую эволюцию может только государственный ИИ, который будет иметь возможность ломать жадных корпоративных искинов, думающих только о наживе и поощряющих только тупые однообразные развлечения.
(3) Падение Вавилонской башни, то есть распад всеобщего Интернета на национальные и прочие Интернеты - это очень полезно. Ефремов считал главной опасностью будущего "техногенную монокультуру", и мы действительно оказались в таком мире, где на всех людей - три операционки, два мессенджера и один IP-протокол. Такая пирамидка является очень хрупкой. А вот разнообразие помогает спастить от всеобщего косяка: глобальный глюк системы безопасности CrowdStrike не очень коснулся России, потому что у нас стоят другие системы безопасности.
Но вот интересная задача для жизни после распада Вавилона: нужны интерфейсы перевода репутаций из одних сетевых миров в другие. А то приезжает наш человек в Китай - а там у него нет ни социального рейтинга, ни даже самого ВиЧата, на котором сидят все китайцы. Получается неудобно, даже купить ничего не можешь. Нужны "обменники социальной валюты".
С другой стороны, если вспомнить пункт (2), искусственный интеллект мог бы использовать именно такие точки перехода для продвижения жизненного разнообразия. Типа, отправляется известный русский блогер в Китай - а там его сразу записывают в сантехники. Пусть прокачивает новые скилы. Ну или доказывает старые.
Хороший пример на эту тему рассказал писатель Фёдор Березин. Во время поездки в один российский регион его не узнали, ну и стали предъявлять некие претензии на пути. А когда он сказал, что является писателем-фанастом - нагло спросили, что он написал. Но Фёдор не растерялся и ответил: "Гиперболоид инженера Гарина". И все претензии охранителей сразу отпали.
Остаётся лишь добавить, что высказывать такие странные футурологические идеи на серьёзных Симпозиумах можно только при наличии усов и бороды, как универсальных (международных) знаков высокой репутации -
Видеозапись секции «Кибербезопасность будущего» (мое выступление - с 55 минуты):
https://future.russia.ru/program/kiberrazvedka-kiberspiony-i-belye-xakery-istocniki-opasnosti-i-zashhity