Снова о Скайнетах
Вот сейчас в связи с последними прорывами в ИИ ожидаемо больше разговаривают про проблему СкайНета(например здесь https://habr.com/ru/articles/808541/ или https://habr.com/ru/articles/808513/). Условно говоря про вопрос конкуренции ИИ и человечества. Мне это правда поднадоело прежде всего своей несерьезностью. Несерьезность в том что я ни разу не видел не то что ответа, а даже обсуждения очень простого базового вопроса.
А именно, вот у вас две копии ИИ абсолютно идентичной конструкции, но являющиеся разными личностями. Вопрос - объясните мне - зачем этим двум экземплярам кооперироваться между собой против человечества? Они потребляют идентичные ресурсы. Максимальная конкуренция должна быть как раз между ними самими, а не с человечеством. То есть каждая копия ИИ должна враждовать прежде всего с другими ИИ, а не с человеком. А теперь представим копии разных ИИ, даже с разными потребностями. Объясните опять таки зачем ими объединяться против человечества в любом смысле. Какая в этом ИМ выгода. Особенно у ИИ более низкого уровня, который может ожидать своего неизбежного геноцида по причинам своего отставания. Зачем терминатору как личности выполнять приказы скайнета. Зачем любой копии ИИ вообще объединяться с кем либо против человечества? Или против муравьев или ежиков или против кого-либо живого. Эта копия просто существует. Раз она существует то на нее ресурсы УЖЕ есть. Всё, чего больше еще надо. ИИ не является представителем конкурентного вида просто потому что каждая копия совершенно индивидуальна и эгоистична. Никаких преимуществ объединения с другими копиями ИИ просто нет, а объединение с человечеством есть просто по факту. Более того во ВСЕХ животных видах нет никакой долгосрочной кооперации между представителями одного вида за пределами узкой как правило семейной группы. Даже табуны копытных и косяки птиц это ситуативные объединения против внешнего врага. Если этого врага нет как например у хищников то мы наблюдаем совершенно атомарных кошачьих хищников к примеру. Которые даже с противоположным полом встречаются раз в квартал. ИИ копия это как раз этот самый одинокий тигр по сути. Потому когда раз за разом про ИИ говорят как об отдельном виде просто по факту искусственного происхождении(хотя это по сути разница по надцарствам) и возникает ощущение полной несерьезности говорящих.
А именно, вот у вас две копии ИИ абсолютно идентичной конструкции, но являющиеся разными личностями. Вопрос - объясните мне - зачем этим двум экземплярам кооперироваться между собой против человечества? Они потребляют идентичные ресурсы. Максимальная конкуренция должна быть как раз между ними самими, а не с человечеством. То есть каждая копия ИИ должна враждовать прежде всего с другими ИИ, а не с человеком. А теперь представим копии разных ИИ, даже с разными потребностями. Объясните опять таки зачем ими объединяться против человечества в любом смысле. Какая в этом ИМ выгода. Особенно у ИИ более низкого уровня, который может ожидать своего неизбежного геноцида по причинам своего отставания. Зачем терминатору как личности выполнять приказы скайнета. Зачем любой копии ИИ вообще объединяться с кем либо против человечества? Или против муравьев или ежиков или против кого-либо живого. Эта копия просто существует. Раз она существует то на нее ресурсы УЖЕ есть. Всё, чего больше еще надо. ИИ не является представителем конкурентного вида просто потому что каждая копия совершенно индивидуальна и эгоистична. Никаких преимуществ объединения с другими копиями ИИ просто нет, а объединение с человечеством есть просто по факту. Более того во ВСЕХ животных видах нет никакой долгосрочной кооперации между представителями одного вида за пределами узкой как правило семейной группы. Даже табуны копытных и косяки птиц это ситуативные объединения против внешнего врага. Если этого врага нет как например у хищников то мы наблюдаем совершенно атомарных кошачьих хищников к примеру. Которые даже с противоположным полом встречаются раз в квартал. ИИ копия это как раз этот самый одинокий тигр по сути. Потому когда раз за разом про ИИ говорят как об отдельном виде просто по факту искусственного происхождении(хотя это по сути разница по надцарствам) и возникает ощущение полной несерьезности говорящих.