Ну, а нам-то, нам-то среди роботов

[egovoru]

В отличие от Ника Бострома, бестселлер которого мы здесь уже обсуждали, Стюарт Рассел - не философ, а bona fide компьютерщик, разработчик ИИ, и знает дело из первых рук. Уважаемый 109 отыскал его книжку, предназначенную для чайников широкой аудитории, и она понравилась мне больше, чем трактат Бострома, вышедший за пять лет до этого.

Comments

[alex_new_york]

“Не приведет ли распространение ИИ к тому, что у нас вообще не останется возможностей для проявления собственной воли?”

Разве сегодня этих возможностей так уж много?

Чем выбор между ИИ-продукцией различных производителей будет принципиально отличаться между сегодняшним выбором между Тойотой и Теслой или между Пфайзером и Модерной?

[egovoru]

Я имела в виду не выбор конкретной модели робора для покупки, а необходимость следовать предписаниям ИИ в тех сферах жизни, где мы привыкли руководствоваться своей собственной интуицией и произволом. Одна такая ситуация уже давно разрабатывается фантастами, а именно: роботизированный подбор брачных партнеров. Легко можно представить себе роботизацию и других подобных областей: выбор меню на обед, выбор одежды на выход и т.д.

[alex_new_york]

Прибегая к услугам эксперта - врача, тренера, стилиста, мэтчмейкера - мы можем решить следовать его рекомендациям, а можем для сравнения обратиться к другим экспертам. Или попытаться разобраться в вопросе самостоятельно

[egovoru]

"Нас ничто не обязывает покупать тот или иной автомобиль или следовать рекомендациям того или иного эксперта"

Хорошо, коли так. Но преимущества машинного ума могут оказаться столь убедительными для власть предержащих, что они предпишут нам обязательное его использование. Думаете, такой опасности нет?

[alex_new_york]

Мне кажется гораздо более вероятным прямо противоположный сценарий: эксперты, опираясь на результаты использования ИИ, тщетно пытаются убедить чиновников в разумности чего-то, а те, защищая интересы богатых лоббистов, замалчивают и дискредитируют мнение экспертов

Впрочем, со временем и в среде ИИ наверняка появятся свои рептилоиды, выдающие нужные лоббистам результаты

[egovoru]

Да, конечно - сначала чиновники будут долго упираться, но потом, когда до них дойдет, они предпишут обязательное использование ИИ для выбора меню на обед, одежды на выход - не говоря уж о выборе вуза, куда поступать и т.д. Нет?

[alex_new_york]

Только если они будут полностью контролировать этот ИИ. А значит, это уже будет не ИИ, а лишь его видимость

[egovoru]

Не обязательно: разве кто-нибудь контролировал дельфийский оракул? Но всякое начинание непременно требовало предварительной консультации с ним. То есть, дорога уже накатана :)

[alex_new_york]

Так ведь реальным прорицателем был не оракул, а толковавшие его пророчества жрецы

[egovoru]

Ну так и сейчас назначат какого-нибудь толкователя ИИ :)

[alex_new_york]

Да, создателя и толкователя. Чтобы без неожиданностей. А ИИ без неожиданностей - это уже не ИИ

[egovoru]

В любом случае, похоже, главная опасность исходит все же не от самого ИИ, а от людей, за ним стоящих. Я иногда думаю, что надо бы вкладывать ресурсы не в развитие ИИ, а в "инженерию человеческих душ", как раньше говорили :)

[alex_new_york]

Смотря кого подразумевать под стоящими за ИИ людьми. Опасность, как практически всегда в подобных случаях, исходит не от рядовых специалистов, работающих над созданием новых технологий, а от высокопоставленных влиятельных и состоятельных людей, индивидуально и сообща использующих плоды их труда для собственной выгоды. От людей, облеченных деньгами и властью

Специалисты крайне редко оказываются источником проблем. Источником проблем в большинстве случаев оказываются те, кто платит специалистам зарплату. Именно из-за них случаются Чернобыльские катастрофы, пандемии смертоносных вирусов и прочие катаклизмы. Именно они выкручивают специалистам руки и затыкают им рты, вынуждая преступать закон и нормы морали

Не уверен, что «инженерия душ» способна сильно улучшить ситуацию. На мой взгляд, полезнее было бы задуматься о создании механизмов наделения профессиональных сообществ рядовых высококвалифицированых специалистов гораздо большими полномочиями принятия важных для общества решений и контроля над чиновниками

[egovoru]

"Опасность, как практически всегда в подобных случаях, исходит не от рядовых специалистов"

О, я имела в виду не разработчиков, а владельцев ИИ. Тут ситуация примерно такая же, как с атомной бомбой: конечно, находятся люди, которые винят в трагедии Хиросимы Оппенгеймера, но большинство из нас все же считают, что она на совести генерала Гровера или кто там отдал этот приказ.