К рассуждениям об искусственном интеллекте
Тут на АТ пошли очередные расплывчатые рассуждения об искусственном интеллекте (со ссылкой на статью в Journal of Artificial Intelligence Research, пропущенную через гуглоперевод и мозги, если так можно выразиться, журналистки Виктории Ветровой). Обсуждался вопрос: сможем ли мы контролировать высокоуровневый компьютерный супер-интеллект?
Как давеча написали на Баше, "никакой искусственный интеллект не может решить проблемы, вызванные недостатком естественного".
Все философские рассуждения об ИИ страдают одним и тем же недостатком: практически ни один человек, который ими занимается, сам с ИИ не работал. Поэтому рассуждающие имеют представление об ИИ из таких же рассуждений и фантастических романов, где ИИ антропоморфен до отвращения. Фактически же ИИ никакой не интеллект, а некие программные продукты, обладающие свойством обучаться и выдавать пользователям результаты без объяснения того, как они получены.
Антропоморфизм описываемых сейчас всяческими философами и фантастами ИИ заключается в том, что им приписывается наличие эмоций и формирование решений по человеческому типу (включая участие в этом процессе инстинктов и рефлексов). Фактически же ИИ не антропоморфен уже сейчас, механизмы формирования выводов и принятия решений у него принципиально отличаются от человеческих.
Чтобы получить тот самый антропоморфизм, надо всерьез заниматься дополнением механизмов работы ИИ эмоциональной составляющей, учетом инстинктов и выработкой рефлексов (а из всего этого реалистично только последнее: обучение ИИ в известной степени и есть выработка рефлексов.) Это возможно, только если этим будут специально заниматься.
Пока же соцвласть ИИ может быть только на уровне подсчета баллов социального капитала и реализации машины выводов для изучения доказательств в судебном процессе (причем второе с о-очень большой натяжкой). И никто даже не изучает, ЧТО ИМЕННО надо добавлять к ИИ, чтобы его можно было использовать в социальной сфере.
Прежде всего это касается таких понятий как "справедливость", "милосердие", "гуманизм", "общественное благо" (и его соотнесения с благом индивидуальной личности). Все эти понятия в той или иной степени основаны на общем представлении о "благе" (что такое хорошо и что такое плохо), а оно даже у человечества весьма размыто и непостоянно. Подробнее я писал уже здесь несколько лет назад.
Так что ИИ может стать "неконтролируемым и опасным для человечества" исключительно в руках людей, которые не понимают, что это такое на самом деле, как это устроено, как и где это можно применять и где ограничения и условия, в которых это применять либо бессмысленно, либо вредно. Перенесено из Dreamwidth.
Как давеча написали на Баше, "никакой искусственный интеллект не может решить проблемы, вызванные недостатком естественного".
Все философские рассуждения об ИИ страдают одним и тем же недостатком: практически ни один человек, который ими занимается, сам с ИИ не работал. Поэтому рассуждающие имеют представление об ИИ из таких же рассуждений и фантастических романов, где ИИ антропоморфен до отвращения. Фактически же ИИ никакой не интеллект, а некие программные продукты, обладающие свойством обучаться и выдавать пользователям результаты без объяснения того, как они получены.
Антропоморфизм описываемых сейчас всяческими философами и фантастами ИИ заключается в том, что им приписывается наличие эмоций и формирование решений по человеческому типу (включая участие в этом процессе инстинктов и рефлексов). Фактически же ИИ не антропоморфен уже сейчас, механизмы формирования выводов и принятия решений у него принципиально отличаются от человеческих.
Чтобы получить тот самый антропоморфизм, надо всерьез заниматься дополнением механизмов работы ИИ эмоциональной составляющей, учетом инстинктов и выработкой рефлексов (а из всего этого реалистично только последнее: обучение ИИ в известной степени и есть выработка рефлексов.) Это возможно, только если этим будут специально заниматься.
Пока же соцвласть ИИ может быть только на уровне подсчета баллов социального капитала и реализации машины выводов для изучения доказательств в судебном процессе (причем второе с о-очень большой натяжкой). И никто даже не изучает, ЧТО ИМЕННО надо добавлять к ИИ, чтобы его можно было использовать в социальной сфере.
Прежде всего это касается таких понятий как "справедливость", "милосердие", "гуманизм", "общественное благо" (и его соотнесения с благом индивидуальной личности). Все эти понятия в той или иной степени основаны на общем представлении о "благе" (что такое хорошо и что такое плохо), а оно даже у человечества весьма размыто и непостоянно. Подробнее я писал уже здесь несколько лет назад.
Так что ИИ может стать "неконтролируемым и опасным для человечества" исключительно в руках людей, которые не понимают, что это такое на самом деле, как это устроено, как и где это можно применять и где ограничения и условия, в которых это применять либо бессмысленно, либо вредно. Перенесено из Dreamwidth.