Хищные вещи и как с ними поступить
Прочел рассказ "Райская жизнь" А.Шалина - непритязательная, но, в то же время, весьма любопытная вещица; - недавно обсуждалась в сообществе.
Вспомнились сразу "Хищные вещи века" Стругацких и "Клетка для орхидей" Г.Франке, а также - одна недавняя статья из мира технологий:
нейросеть ловит отклик от мозга и автоматически синтезирует максимально привлекательное для него изображение партнера.
https://ieeexplore.ieee.org/document/9353984
По сути это прообраз того самого "допаминового резонанса", описанного В.Пелевиным в романе "S.N.U.F.F."
Технологии все быстрее создают для нас средства удовлетворения потребностей. Но ведь при этом система легко сможет их модифицировать, переоформить, извратить к своей выгоде. А какова выгода системы [1]? Если упростить, то минимум энергии. И это - смерть человечества, ни много ни мало. Ведь в этом случае потребности человека легко/автоматически редуцируются к "чистому удовольствию" - т.е. к абсолютному нулю внешних проявлений. Так системе легче всего выполнить поставленную задачу. Эта мысль, [замеченная в "Хищных вещах",] вызывает мгновенный протест: как же так? Человек - он, что, получается, - какой-то "вкусовой пупырышек" [2]?!
По простоте душевной некогда полагал, что Стругацкие создавали книгу как осуждение наркомании (алкоголизма), а пассаж о Милнере и Олдисе в начале 11-й главы - лишь виньетка ради наукообразия [3].
Как бы не так.
Сейчас модно пугать друг друга астероидами, ИИ, супергриппом. Но, оказывается, есть вещь пострашнее, ибо более реалистичная в своей обусловленности. И незаметная! Как сказал С.Кинг (вроде бы он), - эта тварь столь медлительна, что всегда застает человека врасплох.
Усиление комфорта. Увеличение выхода радости.
В отношении этого тексты НФ сбываются буквально каждый день. И.Маск, вон, уже готов вживлять в мозг пользовательские провода [4] - далеко ли от этого до процедур Милнера.
Похоже, что человечество на пороге гибели.
Что-то срочно нужно предпринять, чтобы все разом не превратились в кайфующие овощи.
По личной оценке, если не выпорхнет какой-нибудь очередной "черный лебедь", человечеству осталось лет двадцать максимум.
Но что делать? Банально запрещать?
А как же право на удовольствие? Не есть ли это вообще самое фундаментальное из прав? Или заинтересовать людей чем-то бОльшим?
А вот чем?
Проблема проста в постановке, но кажется неразрешимой...
Известны ли Вам книги, где этот вопрос во всей полноте сформулирован и решен достаточно реалистично, убедительно, вдохновляюще?
----------------------------------
[1] Не вполне очевидно, впрочем, что понимается под "системой". Быть может, сам прогресс (комплекс развивающихся технологий и его взаимодействие с человеческими ценностями - не хочется говорить "потребностями") звучит не менее гордо, нежели пресловутое "человек"?)
[2] В "Пяти каплях эликсира" (развитие отпочковавшейся линии из "Хромой судьбы" или - наоборот) сей упрек бросили гурману. Но ведь сразу мысль: а чем другие-то лучше? Тоже по сути пупырышки, платформа ведь все в итоге сводит к мозговой химии.
[3] Лишь недавно обнаружил на ютьюбе этот жутковатый ролик. До сего момента ходила городская легенда, что опыты с "счастливой крысой" тайно повторялись после на заключенных. А вот и нет
https://youtu.be/PG22EeFpAM0
[4] https://ru.wikipedia.org/wiki/Neuralink
Вспомнились сразу "Хищные вещи века" Стругацких и "Клетка для орхидей" Г.Франке, а также - одна недавняя статья из мира технологий:
нейросеть ловит отклик от мозга и автоматически синтезирует максимально привлекательное для него изображение партнера.
https://ieeexplore.ieee.org/document/9353984
По сути это прообраз того самого "допаминового резонанса", описанного В.Пелевиным в романе "S.N.U.F.F."
Технологии все быстрее создают для нас средства удовлетворения потребностей. Но ведь при этом система легко сможет их модифицировать, переоформить, извратить к своей выгоде. А какова выгода системы [1]? Если упростить, то минимум энергии. И это - смерть человечества, ни много ни мало. Ведь в этом случае потребности человека легко/автоматически редуцируются к "чистому удовольствию" - т.е. к абсолютному нулю внешних проявлений. Так системе легче всего выполнить поставленную задачу. Эта мысль, [замеченная в "Хищных вещах",] вызывает мгновенный протест: как же так? Человек - он, что, получается, - какой-то "вкусовой пупырышек" [2]?!
По простоте душевной некогда полагал, что Стругацкие создавали книгу как осуждение наркомании (алкоголизма), а пассаж о Милнере и Олдисе в начале 11-й главы - лишь виньетка ради наукообразия [3].
Как бы не так.
Сейчас модно пугать друг друга астероидами, ИИ, супергриппом. Но, оказывается, есть вещь пострашнее, ибо более реалистичная в своей обусловленности. И незаметная! Как сказал С.Кинг (вроде бы он), - эта тварь столь медлительна, что всегда застает человека врасплох.
Усиление комфорта. Увеличение выхода радости.
В отношении этого тексты НФ сбываются буквально каждый день. И.Маск, вон, уже готов вживлять в мозг пользовательские провода [4] - далеко ли от этого до процедур Милнера.
Похоже, что человечество на пороге гибели.
Что-то срочно нужно предпринять, чтобы все разом не превратились в кайфующие овощи.
По личной оценке, если не выпорхнет какой-нибудь очередной "черный лебедь", человечеству осталось лет двадцать максимум.
Но что делать? Банально запрещать?
А как же право на удовольствие? Не есть ли это вообще самое фундаментальное из прав? Или заинтересовать людей чем-то бОльшим?
А вот чем?
Проблема проста в постановке, но кажется неразрешимой...
Известны ли Вам книги, где этот вопрос во всей полноте сформулирован и решен достаточно реалистично, убедительно, вдохновляюще?
----------------------------------
[1] Не вполне очевидно, впрочем, что понимается под "системой". Быть может, сам прогресс (комплекс развивающихся технологий и его взаимодействие с человеческими ценностями - не хочется говорить "потребностями") звучит не менее гордо, нежели пресловутое "человек"?)
[2] В "Пяти каплях эликсира" (развитие отпочковавшейся линии из "Хромой судьбы" или - наоборот) сей упрек бросили гурману. Но ведь сразу мысль: а чем другие-то лучше? Тоже по сути пупырышки, платформа ведь все в итоге сводит к мозговой химии.
[3] Лишь недавно обнаружил на ютьюбе этот жутковатый ролик. До сего момента ходила городская легенда, что опыты с "счастливой крысой" тайно повторялись после на заключенных. А вот и нет
https://youtu.be/PG22EeFpAM0
[4] https://ru.wikipedia.org/wiki/Neuralink