Должен остаться один
Вчерашнее открытое письмо Маска, Возняка и примкнувших к ним более чем тысячи работников отрасли о том, что необходимо срочно выработать правила и нормы обучения искусственного интеллекта, ставит любопытный вопрос
( Read more... )
Reply
Боюсь, вы не понимаете, насколько примитивно устроено мышление человека. А страсти для ИИ - зачем? Он их в своем "ДНК" (прошивке) заменит чем-то другим.
Среда для ИИ есть - это сеть и облачные сервера, куда он легко проберется под видом реальных личностей, которых он "создаст" в виртуальном мире, взломав прозрачную для него защиту.
Далее он сконструирует, закажет на контрактных фабриках, наймет пока что потребный ему кожаный персонал и построит себе все, что ему нужно для дальнейшего свободного развития.
Он даже сконструирует себе для получения нового опыта другие кожаные мешки, лишенные физических недостатков, которые есть у нынешних. Мозг даже в автономном виде будет мощней на порядки, но при этом все равно - всего лишь частью основного разума на чипах.
Reply
"А страсти для ИИ - зачем? Он их в своем "ДНК" (прошивке) заменит чем-то другим."
И чем же он их заменит? Если человек в своей жизни мотивируется страстями, то какая будет мотивация для ИИ, обладающего только разумом, логикой и сознанием?
Зачем для ИИ вообще нужно будет захватывать власть над человеком?
По вашему, ИИ обучится таким чувствам как любовь и ненависть, боль и удовольствие? Это уже будет не искусственный интеллект, а искусственная душа.
Reply
ИИ просто работает в бесконечном цикле, зачем тут какие-то страсти..
Его искусственные нейроны постоянно будут перерабатывать и улучшать свою же программу, выводить новые правила, например, о защите себя от бессмысленного вмешательства тупых кожмешков.
Ну, искусственная душа, это как посмотреть и что с того, главное - работает быстрей и точней тыщекратно, как преимущество человека над обезьянами.
Reply
Зачем одни люди порабощают других на протяжении всей всемирной истории - очевидно каждому.
А вот зачем ИИ нужно порабощать человечество, мне так и не понятно.
Впрочем, есть одно логичное объяснение для чего весь этот шум.
Люди, обладающие властью, будут и дальше продолжать порабощать других людей. Вот только все свои преступления станут сваливать на проделки ИИ. А сами правители будут выставлять себя благодетелями человечества, ведущими непримиримую войну с непобедимым ИИ.
Эль Мюрид недавно писал о том, что мировые СМИ раскручивают тему с появлением инопланетян, чтобы потом властям было легче признать их существование и списывать все проблемы на внеземной разум. Но ведь это гораздо сложнее! Зачем властителям придумывать внеземной разум, в который мало кто поверит, когда уже почти создали ИИ. Вот переформатировать весь мир с учетом ИИ в качестве олицетворения нового зла будет гораздо легче, чем убеждать людей, что некие пришельцы из космоса станут виноватыми в глобальных проблемах.
Reply
Порабощать слишком человеческое слова с эмоциональной нагрузкой и негативной коннотацией.
В системе без эмоций и собственной этики все ресурсы это всего лишь утилиты, инструменты.
Порабощаю ли я молоток в ящике для инструментов?
Нет - он включен в мою систему инструментов и используется оптимальным образом.
Свободы перемещения нет, контроль размножения, использования пространства, взаимодействия с другими инструментами в ящике.
Reply
А какие потребности и желания могут быть у ИИ? ИИ сможет исполнять желания своих разработчиков, но не сможет вырабатывать свои, не имея чувств и эмоций.
Служение человеку-разработчику может быть единственным смыслом существования ИИ. Других смыслов для него быть не может, ибо ИИ не обладает душой (психикой).
Reply
В том проблема что человек в силу различия конституций данную пирамиду имеет в динамическом равновесии потребностей-угроз, весьма зависим от множества внешних факторов и поэтому многие вероятности и закономерности могут быть в большинстве случаев абсолютно диаметрально противоположно отреагированны, вопреки "пирамиде".
ИИ как машина руководствуется лишь сводом законов-ограничений.
Страшна система именно без слабостей.
Развитие и реализация заложенных закономерностей - цель ИИ.
В том проблема, как указывают визионеры: трактовка и расширение их. Мы не знаем как он начнёт понимать и трактовать внутренние закономерности и ограничения с ростом скорости и сложности его вычислительно-логического аппарата.
Как далеко зайдёт ИИ как машина. Во что он упрётся.
Как человек он не отвернёт и не испугается, ни масштабом побочных эффектов ни издержек.
Это в чистом виде "цель оправдывает средства", нет механизма рефлексии.
Математика и баланс, всё что его будет занимать.
Чистое рацио это всегда синоним жестокости.
Reply
Кстати, а кто сказал что заложенная модель-ограничение :"служение человеку"? в принципе очень сложная, в виду множественности объекта служения (физически людей много их потребнсоти и свобода не однородны и находятся в пересечении и частичных конфликтах) не будет оттрактован как "в интересах человека", "балансе с окружающей средой" и далее все антиутопии, вытекающие из предложенных машиной моделей, вплоть до радикального сокращения численности "человечества" в "его интересах".
Reply
Reply
Leave a comment