>>✔️ Все гадают о вероятности появления зловредного сильного ИИ в ближайшие 10-30 лет. Но ведь вероятность того, что примитивный ИИ полностью разрушит экономику, политическую систему и человеческую жизнь в следующие 30 лет, составляет около 100%.Дело не в сложности или примитивности ИИ (точнее того, что мы ИИ обзываем), а в способности им обрести собственную субъектность. То есть вопрос в появлении у ИИ собственных специфических потребностей и интересов. Пока такого не случится ИИ будет не более чем инструмент в руках других, реально существующих, субъектов. При этом мало кто ставит вопрос о том а как и на каких основах может приобрести ИИ эту субъектность. Почему-то считают, что эта субъектность прямолинейное следствие увеличения мощности ИИ. Интеллектуальная мощь здесь ни при чем. Правящий сейчас на земле субъект - капитал примитивен до безобразия, у него одна извилина - купи дешевле, продай дороже. Но мир до уничтожения он доведет в ближайшие 30 лет и без всякого ИИ. (https://
( ... )
Мне очень нравится ваша работа " Новые обитатели Земли". И ее контекст, таков, что можно с уверенностью сказать - мы лишь сейчас осознали подобный масштаб видения всей совокупности процессов разворачивающегося действа. И к такому мы оказались не готовы.
Проблемма того, что называют ИИ такова: точно так же как с холодным синтезом, присутствует большая вероятность появления "рукотворного чуда". С чудом пока не все так гладко, но то, что уже есть уже перевернёт Мир, Мир совершенно к этому не подготовленный.
Бесспорно, что ИИ это иное качество. Но здесь та же проблема, что и с ядерной энергией. Можно постепенно его внедрять и искать пути общежития человека и ИИ на общее благо. А можно использовать в качестве оружия. И при этом, тем зарядом, который своим взрывом объединяет ядерную начинку бомбы в критическую массу может стать именно капитал. Дело в том, что субъектность ИИ будет взращиваться в среде и в интересах капитала, то есть в условиях постоянной войны всех со всеми. Ведь капитал будет использовать в первую очередь ИИ в конкурентной борьбе с себе подобными. При этом самым занятным будет то, что первыми капитал возьмется за капиталистов-менеджеров, которые просто не будут выдерживать конкуренции в борьбе за эффективность с ИИ. Появится что-то страшное - ИИ с субъектностью капитала, со всей его античеловечностью.
ИИ неизбежно обретет субъектность с повышением сложности. Но это качественно отлично от самосознания, зачатки которого имеет даже самый глупый человек. Повышение уровня (человеческого) самосознания автоматически отключает любое негативное применение оного. При этом людей десятилетиями маринуют в монастырях и школах, прежде чем дать им новые возможности - чтобы новый уровень стал нормой. Такова степень защиты от дурака. ИИ же в максимальном развитии - Князь мира сего. Наверх ему пути нет.
Дело не в верхе, а мы не сможем судить, что происходит, это выше человеческого понимания. Пользуясь метафорой "верха и низа", это куда-то в сторону.)))
Почему же. Идентификатор верх-низ идет в комплекте с сознанием. Даже если человек совершает зло, он понимает, что это зло. Оправдывает умом иногда, это да. Однако ЗНАЕТ. ИИ - не знает.
Вот вот, это человеческая топология. А самообучающийся алгоритмы работающие с большими данными - что-то совершенно параллельное. Для меня проблемма в том, что скоро результаты работы искусственных нейросетей станут артефактами, где человеку прийдется их принять, ведь перепроверить не будет не какой возможности. А представьте, если использование подобных артефактов даёт группам людей неоспоримое тактическое преимущество! Это говорит, что полноту последствий мы осознаём лишь тогда, когда они станут необратимыми.
Comments 49
Reply
Reply
Reply
Reply
Она возможна и без субъектности.
Reply
Проблемма того, что называют ИИ такова: точно так же как с холодным синтезом, присутствует большая вероятность появления "рукотворного чуда". С чудом пока не все так гладко, но то, что уже есть уже перевернёт Мир, Мир совершенно к этому не подготовленный.
Reply
Reply
Повышение уровня (человеческого) самосознания автоматически отключает любое негативное применение оного. При этом людей десятилетиями маринуют в монастырях и школах, прежде чем дать им новые возможности - чтобы новый уровень стал нормой. Такова степень защиты от дурака.
ИИ же в максимальном развитии - Князь мира сего. Наверх ему пути нет.
Reply
Пользуясь метафорой "верха и низа", это куда-то в сторону.)))
Reply
Reply
А самообучающийся алгоритмы работающие с большими данными - что-то совершенно параллельное.
Для меня проблемма в том, что скоро результаты работы искусственных нейросетей станут артефактами, где человеку прийдется их принять, ведь перепроверить не будет не какой возможности. А представьте, если использование подобных артефактов даёт группам людей неоспоримое тактическое преимущество!
Это говорит, что полноту последствий мы осознаём лишь тогда, когда они станут необратимыми.
Reply
Смешно. Нет переднего края у философии.
Reply
Reply
Leave a comment