Должен остаться один
Вчерашнее открытое письмо Маска, Возняка и примкнувших к ним более чем тысячи работников отрасли о том, что необходимо срочно выработать правила и нормы обучения искусственного интеллекта, ставит любопытный вопрос.
Два вида, существующих на одной ресурсной «поляне» обречены на смертельную схватку по принципу «Должен остаться только один». Битва между кроманьонцами и неандертальцами, которую последние проиграли, хотя некоторая часть их генов все-таки попала в нынешний генофонд - это вполне характерный пример такой борьбы.
Соответственно, борьба между человеком и ИИ в рамках этой парадигмы неизбежна, но с учетом некоторой специфики. ИИ - это продукт идущей сейчас какой там по счету научно-технической революции, которая должна привести человечество к новому технологическому укладу. Даже неважно, какому по счету (формально - к шестому). ИИ - продукт этого уклада и именно технологии этого уклада станут ресурсной поляной, на которой и за которую может произойти схватка. Любая война - штука вероятностная, а потому кто именно одержит победу в ней, сказать сейчас нельзя. При этом просто так ликвидировать ИИ невозможно - он является составной частью всего уклада, а потому занимает изначально преимущественную позицию в этой борьбе. ИИ нельзя победить, его можно лишь подчинить. В этом смысле история неандертальцев и кроманьонцев не повторится - без ИИ шестого уклада не будет, а вот без неандертальцев кроманьонцы как-то обошлись.
Собственно, ничего изобретать не нужно: Айзек Азимов «прокачал» эту ситуацию, в которой робот - это угроза, но он же - неотъемлемая часть существующего технологического уклада. А потому три закона робототехники стали единственной возможной этикой сосуществования между двумя фактически разумными видами. Азимова заинтересовали «пограничные» зоны этой этики, и целый цикл его рассказов (формально относящихся к киберпанковому детективу) были посвящены именно этим зонам.
Любопытно здесь еще и то, что ИИ будет угрозой только тем людям, которые живут или соприкасаются с технологическим укладом, в котором ИИ способен существовать. Те, кто живет за пределами этого уклада, чем дальше от него, тем менее будут подвержены рискам.
Из сказанного можно сделать два вывода. Первый - Маск и примкнувшие к нему абсолютно прав, когда говорит о необходимости срочной выработки базовой этики взаимодействия с ИИ. То, что ее нужно не просто разработать, а ввести - вопрос организационный и, кстати, чудовищно сложный, так как без глобального контроля (которого сегодня нет, а если он появится, то в продвигаемых версиях он сильно похож на жуткий и кошмарный концлагерь) - в общем, без глобального контроля ввести и сопровождать эту этику невозможно.
Второй вывод - людям, живущим в пятом, четвертом и более низких укладах ИИ мало чем угрожает. России, с ее дичающей территорией и падением в средневековье, угроза со стороны ИИ чем дальше, тем больше выглядит сильно гипотетической. Дугинские скрепы ИИ неинтересны, как неинтересны нам брачные танцы полинезийских аборигенов (ну, разве что сугубо в этнографическом смысле). Скорее всего, людям, живущим в более высоком, чем шестой, укладах, ИИ тоже не будет представлять угрозу - но до седьмого еще нужно подняться. Полем битвы станет нарождающийся по итогам нынешней НТР уклад. Поэтому избежать угрозы можно - но только если вы так и останетесь в дикости, славя мудрого вождя, что он не пускает вас в развитие, либо наоборот - стартовать уже сейчас, проскакивая шестой уклад и нацеливаясь сразу на седьмой. Это непросто, этого невозможно добиться «по широкому фронту», но прорваться к нему в отдельных направлениях теоретически достижимо. Но, к счастью, для России сегодня это всё совершенно неактуально. Мы строим трубы, гоним ржавыми танкерами нефть и штурмуем Бахмут. Какой ИИ? О чем вы вообще?
https://t.me/a_nesmijan_longread/208
Два вида, существующих на одной ресурсной «поляне» обречены на смертельную схватку по принципу «Должен остаться только один». Битва между кроманьонцами и неандертальцами, которую последние проиграли, хотя некоторая часть их генов все-таки попала в нынешний генофонд - это вполне характерный пример такой борьбы.
Соответственно, борьба между человеком и ИИ в рамках этой парадигмы неизбежна, но с учетом некоторой специфики. ИИ - это продукт идущей сейчас какой там по счету научно-технической революции, которая должна привести человечество к новому технологическому укладу. Даже неважно, какому по счету (формально - к шестому). ИИ - продукт этого уклада и именно технологии этого уклада станут ресурсной поляной, на которой и за которую может произойти схватка. Любая война - штука вероятностная, а потому кто именно одержит победу в ней, сказать сейчас нельзя. При этом просто так ликвидировать ИИ невозможно - он является составной частью всего уклада, а потому занимает изначально преимущественную позицию в этой борьбе. ИИ нельзя победить, его можно лишь подчинить. В этом смысле история неандертальцев и кроманьонцев не повторится - без ИИ шестого уклада не будет, а вот без неандертальцев кроманьонцы как-то обошлись.
Собственно, ничего изобретать не нужно: Айзек Азимов «прокачал» эту ситуацию, в которой робот - это угроза, но он же - неотъемлемая часть существующего технологического уклада. А потому три закона робототехники стали единственной возможной этикой сосуществования между двумя фактически разумными видами. Азимова заинтересовали «пограничные» зоны этой этики, и целый цикл его рассказов (формально относящихся к киберпанковому детективу) были посвящены именно этим зонам.
Любопытно здесь еще и то, что ИИ будет угрозой только тем людям, которые живут или соприкасаются с технологическим укладом, в котором ИИ способен существовать. Те, кто живет за пределами этого уклада, чем дальше от него, тем менее будут подвержены рискам.
Из сказанного можно сделать два вывода. Первый - Маск и примкнувшие к нему абсолютно прав, когда говорит о необходимости срочной выработки базовой этики взаимодействия с ИИ. То, что ее нужно не просто разработать, а ввести - вопрос организационный и, кстати, чудовищно сложный, так как без глобального контроля (которого сегодня нет, а если он появится, то в продвигаемых версиях он сильно похож на жуткий и кошмарный концлагерь) - в общем, без глобального контроля ввести и сопровождать эту этику невозможно.
Второй вывод - людям, живущим в пятом, четвертом и более низких укладах ИИ мало чем угрожает. России, с ее дичающей территорией и падением в средневековье, угроза со стороны ИИ чем дальше, тем больше выглядит сильно гипотетической. Дугинские скрепы ИИ неинтересны, как неинтересны нам брачные танцы полинезийских аборигенов (ну, разве что сугубо в этнографическом смысле). Скорее всего, людям, живущим в более высоком, чем шестой, укладах, ИИ тоже не будет представлять угрозу - но до седьмого еще нужно подняться. Полем битвы станет нарождающийся по итогам нынешней НТР уклад. Поэтому избежать угрозы можно - но только если вы так и останетесь в дикости, славя мудрого вождя, что он не пускает вас в развитие, либо наоборот - стартовать уже сейчас, проскакивая шестой уклад и нацеливаясь сразу на седьмой. Это непросто, этого невозможно добиться «по широкому фронту», но прорваться к нему в отдельных направлениях теоретически достижимо. Но, к счастью, для России сегодня это всё совершенно неактуально. Мы строим трубы, гоним ржавыми танкерами нефть и штурмуем Бахмут. Какой ИИ? О чем вы вообще?
https://t.me/a_nesmijan_longread/208