Ну, а нам-то, нам-то среди роботов

[egovoru]

В отличие от Ника Бострома, бестселлер которого мы здесь уже обсуждали, Стюарт Рассел - не философ, а bona fide компьютерщик, разработчик ИИ, и знает дело из первых рук. Уважаемый 109 отыскал его книжку, предназначенную для чайников широкой аудитории, и она понравилась мне больше, чем трактат Бострома, вышедший за пять лет до этого.

Comments

[panoramov]

Хороший пример - автомобиль. Когда-то коробка передач была ручной, теперь всё больше людей покупают машину с автоматом. Она принимает решение за водителя когда переключать передачу? Да. И большинство это устраивает. Для гонщиков же есть возможность пересесть обратно, переключать самому. (В некоторых машинах с автоматом тоже сохранили режим ручного переключения.)

То же самое, по-видимому, будет скоро с беспилотными автомобилями. Они будут сами выбирать скоростной режим (как на картинке в посте), и большинство пассажиров (бывших водителей) это будет устраивать. Своего рода развитый "круиз-контроль". А те, кого не устраивает, будут давить на педали сами.

Будет сначала выделена одна полоса для беспилотников, потом всё больше, в конце-концов оставят одну для машин с водителями.

[egovoru]

Да, если мы оставим себе возможность включать и отключать ИИ по собственному желанию, это было бы неплохо. Вопрос, однако, в том, не захотим ли мы полностью, облигатно перейти на ИИ в каких-то областях? Как, например, уже сегодня мы практически полностью перешли на автоматические светофоры (когда Вы в последний раз видели живого регулировщика?). Тут возникают все те же проблемы, какие возникают при необходимости принимать любые тотальные меры (типа вакцинации).

[strannik1]

Кстати, про светофоры.
ИИ, ИИ, а до сих пор никто не ставит на светофоры нормальный ИИ, который бы хотя бы не давал "зелёный" пустой улице, когда на другой - пробка.
То ли руки не доходят то ли сложно.

[egovoru]

Я в таких случаях думаю, что светофор (а вернее, вся система его регуляции) принимает в расчет состояние других, не видимых мне улиц, но, может, это просто презумпция невиновности :)

[panoramov]

Думаю, можно рассматривать несколько уровней так называемого ИИ:
- простая автоматизация, от конвейерного производства в сторону всё более тонких настроек (умные светофоры и автомобили, рекомендации гугла по истории шоппинга или "профилю" просмотров, адаптивные медицинские протоколы и т.п.)
- имитация креативной деятельности (как Иронов у Лебедева), на неё я весьма скептически смотрю - типа сочинения нейронных сетей "в стиле Баха" (композитор-то пытался чувства выразить, страсти по!). Но в целом будет какой-то компромисс, видимо. Своего зрителя и слушателя такая продукция найдёт.
- принятие решений личного характера (обед, партнёр, татуировка), тут человек никогда не отдаст возможность выбора; сама борьба за это право будет смыслом "оставаться человеком", не превращаться в придаток машины.

[egovoru]

"тут человек никогда не отдаст возможность выбора"

Ох, вот в этом я не уверена. Это сегодня мы пользуемся свободой в выборе сексуального партнера, а ведь еще совсем недавно это было не так, особенно для женщин. Сегодня полностью подчинено обществу, скажем, исполнение правил дорожного движения: сопротивляющиеся индивидуумы штрафуются и даже отправляются в тюрьму. А, скажем, вакцинация - уже серая зона: ковид - тяжелая болезнь, но все же не такая тяжелая, как оспа, а вот если бы вернулась оспа, то вакцинация наверняка перешла бы в категорию правил дорожного движения, то есть, стала бы обязательной.

Гипотетический пример общества, где выбор партнера взят под жесткий обшественный контроль, описан в "Рассказе служанки" Маргарет Этвуд (по нему недавно сняли сериал, а в 90-х был и фильм). Не приходилось ли Вам читать/смотреть его? Выглядит, конечно, жутко, но исключить такой поворот событий мы вряд ли можем.

[panoramov]

Сценарии развития могут быть разными, на то и фантасты чтобы их моделировать. Но, на мой взгляд, есть существенные различия в ПДД и выборе партнёра (или обеда, или какой фильм смотреть и музыку слушать

[egovoru]

"Не могу категорически заявить - абсолютно личное, но степень свободы здесь гораздо выше"

Степень свободы определяется ведь устройством общества. Вот Вы говорите, что меню обеда - мое личное дело. При текущей организации здравоохранения это, может, и так. Но легко можно представить себе ситуацию, когда страховой взнос, который Вы платите за медицинское обслуживание, сделают зависимым от Вашей диеты (и нельзя сказать, что это не будет здравым предложением, ведь наше здоровье действительно сильно зависит от того, чем мы питаемся).

Я бы сказала так: опасность порабощения личности обществом существует всегда, и нам следует всегда быть начеку, чтобы не допустить этого. Разумеется, сама эта проблема не имеет прямого отношение к ИИ - она существовала всегда, но пришествие ИИ может изменить правила игры неузнаваемым образом.

[panoramov]

Так и я о том же - поэтому повторю тот абзац, из которого цитата (только курсив добавил):

...выбор предпочтений в еде, музыке, и т.д. - дело гораздо более личное. [...] Особенно, когда человек ест в одиночку (тут, практически, его свобода ничем не ограничена - разве что выбором в магазине). В компании уже есть "правила приличия". Скажем, в компании вегетерианцев есть стейк - вызов, фронда.

[panoramov]

>опасность порабощения личности обществом существует всегда, и
>нам следует всегда быть начеку, чтобы не допустить этого.

На мой взгляд, кардинальное решение в том, что порабощение бессмысленно. В терминах капитализма - невыгодно. Если рабство отменили и торговля людьми - преступление, то "преступление не окупается".

Нет, я понимаю, что это крайний случай - и есть мягкие формы доминирования (которые тоже называют "порабощением", но гиперболически).

ИИ может "поработить" человека, но не нарочно, а так сказать случайно (по крайней мере сейчас), примерно как алкоголь "порабощает". Начеку надо быть, я согласен.

[ext_683473]

>> А те, кого не устраивает, будут давить на педали сами.

Поначалу. По прошествии некоторого времени, за это удовольствие придется платить конскую страховку. Еще позднее введут, скажем, протокол проезда перекрестков, неисполнимый для человека, и до свидания, ручное управление.

[panoramov]

>протокол проезда перекрестков, неисполнимый для человека, и до свидания, ручное управление.

Запросто. Скажем, на перекрёстах управление забирается принудительно, а после проезда возвращается (по желанию). Или вообще, не полосу оставят, а разрешат ездить только по особым дорогам (как сейчас - выезд гужевого транспорта на автострады запрещён).