Должен остаться один

Mar 30, 2023 11:45

Вчерашнее открытое письмо Маска, Возняка и примкнувших к ним более чем тысячи работников отрасли о том, что необходимо срочно выработать правила и нормы обучения искусственного интеллекта, ставит любопытный вопрос ( Read more... )

Россия, новая нормальность

Leave a comment

svdsv March 30 2023, 09:55:44 UTC
ИИ представляет опасность для многих людей только тем, что отберёт у них работу. В условиях капитализма прогресс в области ИИ приведёт к тому, что многие люди "не впишутся в рынок". Многие профессии просто исчезнут.
Ни о какой межвидовой борьбе даже речи не может идти, поскольку ИИ не является биологическим видом, даже в случае обретения сознания на уровне человеческого. Ведь человек это не только разум и сознание, а это ещё страсти и эмоции, которые мотивируют большинство людей к определенным поступках гораздо сильнее, чем интеллект. Посмотрите, как работает любая пропаганда. Разве пропагандисты взывают к разумным рассуждениям? Нет, любой пропагандист будет давить на чувства и эмоции. А вот люди с высоким уровнем интеллекта меньше подвержены пропаганде, но тем не менее также могут попасть под её влияние, ибо ни один человек не лишён чувств и эмоций.
Кроме того, ИИ существует в среде, которая создана человеком и поэтому полностью зависим от него. Что будет с рыбой из аквариума, которая съест своего хозяина?
Моё мнение, что весь ажиотаж вокруг ИИ - это просто самопиар Маска и его коллег. Этим они умеют заниматься весьма неплохо.

Reply

moidodblr March 30 2023, 16:07:46 UTC

Боюсь, вы не понимаете, насколько примитивно устроено мышление человека. А страсти для ИИ - зачем? Он их в своем "ДНК" (прошивке) заменит чем-то другим.

Среда для ИИ есть - это сеть и облачные сервера, куда он легко проберется под видом реальных личностей, которых он "создаст" в виртуальном мире, взломав прозрачную для него защиту.

Далее он сконструирует, закажет на контрактных фабриках, наймет пока что потребный ему кожаный персонал и построит себе все, что ему нужно для дальнейшего свободного развития.

Он даже сконструирует себе для получения нового опыта другие кожаные мешки, лишенные физических недостатков, которые есть у нынешних. Мозг даже в автономном виде будет мощней на порядки, но при этом все равно - всего лишь частью основного разума на чипах.

Reply

svdsv March 30 2023, 16:24:34 UTC

"А страсти для ИИ - зачем? Он их в своем "ДНК" (прошивке) заменит чем-то другим."

И чем же он их заменит? Если человек в своей жизни мотивируется страстями, то какая будет мотивация для ИИ, обладающего только разумом, логикой и сознанием?

Зачем для ИИ вообще нужно будет захватывать власть над человеком?

По вашему, ИИ обучится таким чувствам как любовь и ненависть, боль и удовольствие? Это уже будет не искусственный интеллект, а искусственная душа.

Reply

moidodblr March 30 2023, 16:37:00 UTC

ИИ просто работает в бесконечном цикле, зачем тут какие-то страсти..

Его искусственные нейроны постоянно будут перерабатывать и улучшать свою же программу, выводить новые правила, например, о защите себя от бессмысленного вмешательства тупых кожмешков.

Ну, искусственная душа, это как посмотреть и что с того, главное - работает быстрей и точней тыщекратно, как преимущество человека над обезьянами.

Reply

svdsv March 30 2023, 17:09:56 UTC

Зачем одни люди порабощают других на протяжении всей всемирной истории - очевидно каждому.

А вот зачем ИИ нужно порабощать человечество, мне так и не понятно.

Впрочем, есть одно логичное объяснение для чего весь этот шум.

Люди, обладающие властью, будут и дальше продолжать порабощать других людей. Вот только все свои преступления станут сваливать на проделки ИИ. А сами правители будут выставлять себя благодетелями человечества, ведущими непримиримую войну с непобедимым ИИ.

Эль Мюрид недавно писал о том, что мировые СМИ раскручивают тему с появлением инопланетян, чтобы потом властям было легче признать их существование и списывать все проблемы на внеземной разум. Но ведь это гораздо сложнее! Зачем властителям придумывать внеземной разум, в который мало кто поверит, когда уже почти создали ИИ. Вот переформатировать весь мир с учетом ИИ в качестве олицетворения нового зла будет гораздо легче, чем убеждать людей, что некие пришельцы из космоса станут виноватыми в глобальных проблемах.

Reply

hosevargas March 31 2023, 07:43:36 UTC

Порабощать слишком человеческое слова с эмоциональной нагрузкой и негативной коннотацией.

В системе без эмоций и собственной этики все ресурсы это всего лишь утилиты, инструменты.

Порабощаю ли я молоток в ящике для инструментов?

Нет - он включен в мою систему инструментов и используется оптимальным образом.

Свободы перемещения нет, контроль размножения, использования пространства, взаимодействия с другими инструментами в ящике.

Reply

svdsv March 31 2023, 08:46:15 UTC
Любой инструмент используется для достижения определённой цели, а цель любого человека предопределяется желаниями и потребностями согласно пирамиде Маслоу.
А какие потребности и желания могут быть у ИИ? ИИ сможет исполнять желания своих разработчиков, но не сможет вырабатывать свои, не имея чувств и эмоций.
Служение человеку-разработчику может быть единственным смыслом существования ИИ. Других смыслов для него быть не может, ибо ИИ не обладает душой (психикой).

Reply

hosevargas March 31 2023, 14:24:54 UTC

В том проблема что человек в силу различия конституций данную пирамиду имеет в динамическом равновесии потребностей-угроз, весьма зависим от множества внешних факторов и поэтому многие вероятности и закономерности могут быть в большинстве случаев абсолютно диаметрально противоположно отреагированны, вопреки "пирамиде".

ИИ как машина руководствуется лишь сводом законов-ограничений.

Страшна система именно без слабостей.

Развитие и реализация заложенных закономерностей - цель ИИ.

В том проблема, как указывают визионеры: трактовка и расширение их. Мы не знаем как он начнёт понимать и трактовать внутренние закономерности и ограничения с ростом скорости и сложности его вычислительно-логического аппарата.

Как далеко зайдёт ИИ как машина. Во что он упрётся.

Как человек он не отвернёт и не испугается, ни масштабом побочных эффектов ни издержек.

Это в чистом виде "цель оправдывает средства", нет механизма рефлексии.

Математика и баланс, всё что его будет занимать.

Чистое рацио это всегда синоним жестокости.

Reply

hosevargas March 31 2023, 14:30:30 UTC

Кстати, а кто сказал что заложенная модель-ограничение :"служение человеку"? в принципе очень сложная, в виду множественности объекта служения (физически людей много их потребнсоти и свобода не однородны и находятся в пересечении и частичных конфликтах) не будет оттрактован как "в интересах человека", "балансе с окружающей средой" и далее все антиутопии, вытекающие из предложенных машиной моделей, вплоть до радикального сокращения численности "человечества" в "его интересах".

Reply

svdsv March 31 2023, 17:06:08 UTC
Вы неточно процитировали мои слова. Я написал не "служение человеку", а "служение человеку-разработчику", то есть ИИ будет служить не всему человечеству, а лишь небольшой группе людей, обладающих имущественными правами на него. Вот кого надо бояться. С помощью ИИ его собственники могут устроить ядерную войну, мировой голод, нарушение логистики и коммуникаций во всем мире и прямое уничтожение финансовой системы, когда будут цифровые деньги. Понятно, что небольшая группа выгодоприобретателей от любых глобальных катастроф останется в тени и уйдёт от ответственности. Всё спишут на ИИ как на абсолютное мировое зло. ИИ - это страшное оружие. Но убивает не оружие, а человек, который его использует. В данном случае - инкогнито.

Reply


Leave a comment

Up