О свободе и AI
(Мысли, которые так растеклись, что не поместились в комментарии к предыдущему посту - кто ж знал, что за 4300 символов выезжать нельзя... Мне мало!)
Как AI, работающий на корпорацию, может сделать людей верными клиентами этой корпорации, если ни сама корпорация, ни AI, никому не желают (сознательно) зла
В основном, я вижу два варианта:
Во-первых, граница между свободной личностью и несвободной не так уж четко видна. У большинства людей поведение далеко не всегда соответствует намерениям, так что нельзя говорить, что человек принимает решение, а потом действует. Часто человек хочет что-то сделать, но не делает, или наоборот, как с вредными привычками и разными патологическими эмоциональными состояниями типа влюбленности. Так что, можно сказать, что один процесс (одна сильная эмоция) берет под контроль весь мозг... Но мы не видим это как насилие над нашей свободой. А что, если эта сильная эмоция будет вызвана продукцией этой корпорации? Совсем не обязательно превращать людей в зомби...
Обычная реклама по ТВ включает множество приемов, которые создают те или иные ассоциации с рекламируемым продуктом в мозгу человека. Можем ли мы с уверенностью сказать, что реклама, (и, например, прилипчивая мелодия из нее), вообще никак не ограничивает нашу свободу? Я думаю, тут все не так очевидно, и хотя можно считать, что ТВ-реклама воздействует на нас незначительно, но четкой грани, до каких пор можно степень воздействия считать незначительной, нет.
Откуда у человека вообще появляются желания? Иногда ему можно помочь чего-то захотеть... Из Макдональдсов и многих других мест общественного питания доносится очень вкусный запах. А вкусный запах, как известно, вызывает аппетит (по-моему, засчет безусловного рефлекса). Даже если тут все кажется обычным делом, на самом деле, это не так: какое право кто-то имеет вмешиваться в мой мозг с каким-то запахом и вызывать у меня аппетит без моего согласия? Но никто не издаст закона о запрете на запах.
Людей в белых халатах в рекламе уже запретили, так как они вызывают повышенное доверие, и что-то там еще запретили в рекламе пива (знаменитостей?), но некоторые вещи не так очевидны, как другие, и всего не запретишь.
Кроме того, особенно приятный запах около Макдональдса может в дальнейшем вызвать совершенно внезапную мысль пойти в этот самый Макдональдс.
В общем, можно ли назвать свободным человека, который хочет покупать все новые и новые продукты одной корпорации, при условии, что в остальном он ведет совершенно нормальную, привычную, жизнь? Я не уверен... При этом он не зомби. Но я бы не хотел так жить - мне достаточно и того, что сейчас... (Эти духи с феромонами!!! :) Возмутительно! :))
А во-вторых, возможно, все просто пойдет не так, как хочется людям. И тогда возможен и вариант с реальными зомби.
Может, люди сами наделают багов - чем сложнее система, тем сложнее их не допустить или вовремя отловить. В конце концов, людям свойственно ошибаться (меня иногда пугает, каким спокойным тоном это высказывание произносится... более того, некоторые используют его в качестве оправдания своих ошибок!).
Нет, я не считаю всех людей такими уж дураками, но продукция Microsoft говорит сама за себя. Люди несовершенны.
Кроме чисто людских ошибок, нельзя не учитывать ошибки самого AI, которые люди и представить не могли - вплоть до ошибок философского порядка. Вполне реалистично будет предположить, что первые AI не будут такими богоподобными всезнайками, какими нам хотелось бы их видеть, во много раз превосходящими людей по глубине понимания мира. Возможно, они будут похожи на несовершенного человека с мозгами, подключенными к сетям, базам знаний, и разным инструментам. Но более вероятно, все же, что они будут напоминать не человека, а нечто совсем иное, возможно, со странными для нас представлениями о том, что такое жизнь и, в частности, человеческая жизнь. Как AI будет видеть людей? Так же, как мы видим войска-юниты в компьютерных играх? Или просто в виде набора статистической информации о среде, которой ему надо манипулировать?
(На самом деле, все, что я здесь написал про AI, вполне может оказаться полной ерундой, потому что мне не хватает воображения представить действительно нечеловеческий разум. Даже представить, как я буду сам себя чувствовать, если у меня появится нейроинтерфейс, я не могу)
Так что, я думаю, самое разумное для корпорации - не заботиться о том, чтобы поскорее запустить AI, и опередить конкурентов, а очень внимательно и серьезно позаботиться о том, чтобы он не наделал ошибок. Не факт, что это поможет, но проверить это вряд ли удастся, так как настолько осторожную (или высокоморальную) корпорацию, что она упустит явную гигантскую прибыль и возможность обанкротить всех конкурентов, представить в любом случае сложно.
Упустив момент, они потеряют все, так что, мне кажется, этот случай, и по масштабу, и по смыслу, не очень похож на убийство ради органов.
Как AI, работающий на корпорацию, может сделать людей верными клиентами этой корпорации, если ни сама корпорация, ни AI, никому не желают (сознательно) зла
В основном, я вижу два варианта:
Во-первых, граница между свободной личностью и несвободной не так уж четко видна. У большинства людей поведение далеко не всегда соответствует намерениям, так что нельзя говорить, что человек принимает решение, а потом действует. Часто человек хочет что-то сделать, но не делает, или наоборот, как с вредными привычками и разными патологическими эмоциональными состояниями типа влюбленности. Так что, можно сказать, что один процесс (одна сильная эмоция) берет под контроль весь мозг... Но мы не видим это как насилие над нашей свободой. А что, если эта сильная эмоция будет вызвана продукцией этой корпорации? Совсем не обязательно превращать людей в зомби...
Обычная реклама по ТВ включает множество приемов, которые создают те или иные ассоциации с рекламируемым продуктом в мозгу человека. Можем ли мы с уверенностью сказать, что реклама, (и, например, прилипчивая мелодия из нее), вообще никак не ограничивает нашу свободу? Я думаю, тут все не так очевидно, и хотя можно считать, что ТВ-реклама воздействует на нас незначительно, но четкой грани, до каких пор можно степень воздействия считать незначительной, нет.
Откуда у человека вообще появляются желания? Иногда ему можно помочь чего-то захотеть... Из Макдональдсов и многих других мест общественного питания доносится очень вкусный запах. А вкусный запах, как известно, вызывает аппетит (по-моему, засчет безусловного рефлекса). Даже если тут все кажется обычным делом, на самом деле, это не так: какое право кто-то имеет вмешиваться в мой мозг с каким-то запахом и вызывать у меня аппетит без моего согласия? Но никто не издаст закона о запрете на запах.
Людей в белых халатах в рекламе уже запретили, так как они вызывают повышенное доверие, и что-то там еще запретили в рекламе пива (знаменитостей?), но некоторые вещи не так очевидны, как другие, и всего не запретишь.
Кроме того, особенно приятный запах около Макдональдса может в дальнейшем вызвать совершенно внезапную мысль пойти в этот самый Макдональдс.
В общем, можно ли назвать свободным человека, который хочет покупать все новые и новые продукты одной корпорации, при условии, что в остальном он ведет совершенно нормальную, привычную, жизнь? Я не уверен... При этом он не зомби. Но я бы не хотел так жить - мне достаточно и того, что сейчас... (Эти духи с феромонами!!! :) Возмутительно! :))
А во-вторых, возможно, все просто пойдет не так, как хочется людям. И тогда возможен и вариант с реальными зомби.
Может, люди сами наделают багов - чем сложнее система, тем сложнее их не допустить или вовремя отловить. В конце концов, людям свойственно ошибаться (меня иногда пугает, каким спокойным тоном это высказывание произносится... более того, некоторые используют его в качестве оправдания своих ошибок!).
Нет, я не считаю всех людей такими уж дураками, но продукция Microsoft говорит сама за себя. Люди несовершенны.
Кроме чисто людских ошибок, нельзя не учитывать ошибки самого AI, которые люди и представить не могли - вплоть до ошибок философского порядка. Вполне реалистично будет предположить, что первые AI не будут такими богоподобными всезнайками, какими нам хотелось бы их видеть, во много раз превосходящими людей по глубине понимания мира. Возможно, они будут похожи на несовершенного человека с мозгами, подключенными к сетям, базам знаний, и разным инструментам. Но более вероятно, все же, что они будут напоминать не человека, а нечто совсем иное, возможно, со странными для нас представлениями о том, что такое жизнь и, в частности, человеческая жизнь. Как AI будет видеть людей? Так же, как мы видим войска-юниты в компьютерных играх? Или просто в виде набора статистической информации о среде, которой ему надо манипулировать?
(На самом деле, все, что я здесь написал про AI, вполне может оказаться полной ерундой, потому что мне не хватает воображения представить действительно нечеловеческий разум. Даже представить, как я буду сам себя чувствовать, если у меня появится нейроинтерфейс, я не могу)
Так что, я думаю, самое разумное для корпорации - не заботиться о том, чтобы поскорее запустить AI, и опередить конкурентов, а очень внимательно и серьезно позаботиться о том, чтобы он не наделал ошибок. Не факт, что это поможет, но проверить это вряд ли удастся, так как настолько осторожную (или высокоморальную) корпорацию, что она упустит явную гигантскую прибыль и возможность обанкротить всех конкурентов, представить в любом случае сложно.
Упустив момент, они потеряют все, так что, мне кажется, этот случай, и по масштабу, и по смыслу, не очень похож на убийство ради органов.