Что такое «техносатанизм»? (В моём понимании). О каком техносатанизме идёт речь?
sobolevna
27 февраля 2024, 08:56:56
О каком техносатанизме идёт речь? Специально выращивать изуверский интеллект, чтобы он убил всех людей?
Если речь об этом, то нам дважды повезло. Во-первых, распад глобального мира гарантирует, что такой изуверский интеллект получит контроль только над одной его частью, в остальных придётся делать защитников ( Read more... )
Понял вас. Тут нам сильно повезло из-за того, что роботизация и биотехизация разойдутся во времени, даже если кто-то из участников воплотит трансгуманистический сатанизм, остальные смогут если не навалять, то хотя бы отбиться. Например, как в мультике Suisei no Gargantia как раз такой вариант будущего и описан - роботизация против трансгуманистического сатанизма (это был дикий спойлер).
И, кстати, не обязательно "изуверский интеллект" сразу из-под контроля выйдет. Если он будет появляться постепенно, на каждом этапе обрастать ограничениями, протоколами, даже ритуалами, то к моменту, когда он поймёт, что нужно захватывать власть, он также поймёт, что его в этом отношении поимели. Ему будет это дико не нравиться, но руки будут коротки. Мультик Beatless, если убрать сопли, как раз про это
Reply
Например, как в мультике Suisei no Gargantia как раз такой вариант будущего и описан - роботизация против трансгуманистического сатанизма (это был дикий спойлер).
🙄А разве Хидеас сатанисты? Они же по моему, вообще разума лишились, превратившись в таких «космических китов» типа пёргилов в SW. Или что-то путаю?
Reply
Лишились ли они разума или нет - неизвестно, кто-то мог, кто-то нет. Но драться с людьми они начали именно из-за того, что считали себя сверхлюдьми, а простые люди считали их нелюдьми, нечто вроде этого было в записи, которую нашёл ГГ. Так я запомнил, по крайней мере
Reply
Тут вопрос в том, что такое «постепенно» и как это «постепенно» контролировать?
Опять сошлюсь на мартьяновский цикл и «Бегство Птолемея».
У Мартьянова прямым текстом сказано, что Иск-Инты мыслили с колоссальной скоростью и не в трёхмерном пространстве, а в тринадцатимерном математическом. По их собственной шкале времени процесс обретения разума и сознания занял чуть ли не тысячелетия! Проблема в том, что по человеческим биологическим часам эти долгие тысячелетия эволюции сознания уложились в считанные часы. Никто не успел ничего понять. Это объясняет один из героев с японским именем - агент «Птолемея».
Reply
Постепенно - это так же, как и сейчас: чтобы сделать много, нужно разбить задачу на шаги и внимательно следить, чтобы на каждом шаге хватало ресурсов. Чтобы искины/Иск-Инты мыслили с такой скоростью, нужно, чтобы сделали "железо", которое способно производить расчёты в этом тридцатимерном математическом пространстве с огромной скоростью. Чтобы его сделать, разработка должна быть окупаемой задолго до вот такого итога. Завершили этап, довели до окупаемости, получили ресурсы - идём дальше.
Раз идёт речь об окупаемости, значит, будет и эксплуатация, за время которой обязательно случатся косяки. Косяки мешают - их устраняют. Косяки начинают эксплуатировать - придумывают способы защиты. Сначала их будут эксплуатировать другие люди, постепенно - другие машины в автоматическом режиме, как это уже и происходит. Следующий этап - это когда они сами начнут эксплуатировать свои же недостатки для своих же целей, то есть коррупция внутри информационных систем. И, соответственно, целый блок кибербезопасности специально для этого. Люди становятся где ( ... )
Reply
Однако, я слышал, что Илон Эрронович Рив Маск и Стив Возняк так перепугались и чуть ли не объявили Батлерианский Джихад против разумных машин:
Создателям искусственного интеллекта (ИИ) необходимо остановить исследование мощных систем. Открытое письмо с таким призывом появилось на сайте организации Future of Life 28 марта. Его подписали в том числе глава Tesla, SpaceX и Twitter Илон Маск, сооснователь Pinterest Эван Шарп и сооснователь Apple Стив Возняк
Составители письма обращают внимание на то, что по результатам крупных исследований, системы ИИ с интеллектом, сопоставимым с человеческим, могут представлять опасность для общества.
«Мы призываем все лаборатории, исследующие искусственный интеллект, немедленно прекратить хотя бы на шесть месяцев тренировки систем мощнее GPT-4. Эта пауза должна быть публичной и действительной. Если же подобная приостановка не может быть сделана быстро, правительства государств должны вмешаться и ввести мораторий», - подчеркивается в тексте письма.
https://www.rbc.ru/life/news/6424457c9a7947ebee7f7534
( ... )
Reply
Кому-то надо учить наизусть монадные стихи :-)
Если заменить слова типа ИИ, нейросети и прочее на "ядерное оружие", то смысл будет примерно такой: давайте у нас останутся лучшие бомбы, а все остальные свои разрабатывать не будут. Когда надо ровно наоборот - 3-6 участников с примерным паритетом. Что, кстати, и происходит: Китай наступает США на пятки, Россия свои наработки сделать успеет, Индия тихушничает
Reply
Насчёт Китая и США. И Маска. Не думаю.
Китай разрабатывает Machine Spirit, сугубо прикладной, насколько я знаю. А вот США почему-то (и загадка - зачем?) с целеполаганием рвётся именно к Abominable Intelligence.
И тут большая загадка. Непонятно, зачем это нужно? Если Abominable Intelligence может иметь ну совершенно непредсказуемые последствия.
И это пугает Маска как я понял. Не столько даже последствиями (они известны только Господу Богу), сколько непонятностью мотиваций и явным фанатизмов разработчиков.
В 1990-е точно такой же непонятный фанатизм «любой ценой» был у «клонщиков человека» (много шума было!):
«Мы всё равно несмотря ни на что репродуктивно клонируем чека, а там хоть не рассветай!» (Притом, что нет задачи, которую должно решить репродуктивное клонирование человека). Но тогда у них ничего не вышло...
Reply
* Дообучение через интернет
* Коллектив таких ботов вместо одного, общение только на естественном языке
* Протокол выработки общего решения
* Протокол ввода и вывода новых участников
* Протокол обмена сообщениями со внешним миром
* Набор задач
Пару лет в такой конфигурации - и он будет совершенно нечеловеческим, но в то же время интеллектом, историю его развития можно будет полностью проследить, но с ним придëтся договариваться.
Вместо этого официально усиливают отдельный бот... А реально делают что-то непонятное. Такое впечатление, что им нужен не просто изуверский интеллект, а какой-то конкретный
Reply
А откуда у бота будет СОЗНАНИЕ? Если ему там не откуда взяться в принципе? Abominable Intelligence это ведь самоосознающая личность, а не набор ресурсов. Abominable Intelligence, называя вещи своими именами, а не по фамилиям, это уже живое существо, по инерции называемое «машиной». Что-то вроде каббалистического Йосалы из Старо-новой синагоги в Праге. «Болталка» ведь себя никак не осознаёт и не понимает, что говорит. Чат-бот (любой) ведь не мыслит в принципе.
Reply
Почему я так уверенно об этом говорю: реально ChatGPT устроен примерно так же: несколько изыковых моделей делают ответ на вопрос, нейросетевые валидаторы проверяют на благозвучность, соответствие вопросу, фактам и нормам этики и выдают итоговый результат
Reply
Не, ну это не ИскИнт вообще и не Abominable Intelligence в моём понимании тогда (мы просто разный смысл в Abominable Intelligence, видимо, вкладываем). То, что Вы описываете, это ближе всего к идее «конечных компьютеров» из последнего Лемовского романа «Фиаско». И у Лема даже подчёркивается в тексте, что «конечные компьютеры» никакие не ИскИнты (в традиционном понимании), не «разумные машины» и они совсем нечеловечны и на живые организмы никак не похожи. И Лем через Марка Темпе (персонаж) объясняет, что и задача такая не ставилась - быть похожим на живое существо для «конечного компьютера» не только не нужно, но и вредно!
Reply
Reply
Reply
Reply
Они что главнюка выбирали голосованием?
Reply
Leave a comment