Ну, а нам-то, нам-то среди роботов

[egovoru]

В отличие от Ника Бострома, бестселлер которого мы здесь уже обсуждали, Стюарт Рассел - не философ, а bona fide компьютерщик, разработчик ИИ, и знает дело из первых рук. Уважаемый 109 отыскал его книжку, предназначенную для чайников широкой аудитории, и она понравилась мне больше, чем трактат Бострома, вышедший за пять лет до этого.

Comments

[jeanix]

А как же три закона робототехники Азимова? :-)

[egovoru]

Вот здесь пишут так:

"К сожалению, оптимизм всемирно известного фантаста многие ученые не разделяют. Так, три закона робототехники тщательно изучали и aнализировали два теоретика ИИ: Бен Герцель (Аидия Холдингс) и Луи Хельм (Институт MIRI). И они совершенно уверены, что положения наверняка не осилят препорученную миссию. Согласно их докладу, Айзека Азимова законы робототехники имеют три ключевых недостатка:

обладают состязательной сущностью;
базируются на неактуальной сегодня этической теории (деонтологии);
удивительно, но и во вселенной фантаста роботы не способны надлежаще реализовывать собственное предназначение.

Несмотря на все свои изъяны, законы робототехники Азимова стали первой честной попыткой охватить огромную технологическую сферу, положив начало долгому пути поисков и исследований. К примеру, не так давно Google опубликовал свое видение безопасного ИИ, сформулировав свои пять законов робототехнических механизмов."

Про законы Гугла я не слышала - а Вам они не попадались?

законы Гугла

[jeanix]

Уверен, что у Гугла, как и у ИБМ, нет таких законов, есть лишь набор инструментов.

Re: законы Гугла

[egovoru]

Макс Тегмарк, еще один разработчик ИИ, в своей книжке упоминал, что он и еще другие активисты пытаются добиться каких-то международных регуляций для ИИ - из чего, очевидно, следует, что сейчас никаких таких регуляций еще нет (да и не очень понятно, кто бы мог следить за их исполнением - это же частный бизнес?).

А эти самые гугловские "законы" легко нашлись в гуглом же. Вот тут - популярная публикация о них, но там есть ссылка и на профессиональную статью (которую я не стала читать). Законы предлагаются такие:

1) Роботы не должны ухудшать положение вещей;
2) Роботы не должны обманывать:
3) Роботы должны считать людей своими учителями;
4) Роботы должны играть только там, где безопасно;
5) Роботы должны знать, что они глупые.

Понятно, что столь расплывчатые формулировки плохо годятся для юридических документов, так что эти "законы" следует понимать только как сотрясение воздуха размышления вслух :)

[mercibo]

Жизнь в обществе учит, что свои предпочтения надо уметь ограничивать, ибо многие из них потенциально деструктивны. Если робот их угадывает по намёкам и тут же воплощает в жизнь - это сюжет для ужастика.

[egovoru]

Да. На протяжении большей части своей книжки Рассел рассматровает ситуацию "один человек и один принадлежащий ему робот" и рассуждеает о том, что нужно сделать, чтобы этот робот не навредил своему хозяину. Понятно, что ситуация "я и мой робот против тебя и твоего робота" чревата еще многими дополнительными проблемами, но я не нашла у Рассела каких-либо перспективных предложений на этот счет. Что, видимо, не случайно, ведь это проблемы не роботов, а людей.

[alex_new_york]

“Не приведет ли распространение ИИ к тому, что у нас вообще не останется возможностей для проявления собственной воли?”

Разве сегодня этих возможностей так уж много?

Чем выбор между ИИ-продукцией различных производителей будет принципиально отличаться между сегодняшним выбором между Тойотой и Теслой или между Пфайзером и Модерной?

[egovoru]

Я имела в виду не выбор конкретной модели робора для покупки, а необходимость следовать предписаниям ИИ в тех сферах жизни, где мы привыкли руководствоваться своей собственной интуицией и произволом. Одна такая ситуация уже давно разрабатывается фантастами, а именно: роботизированный подбор брачных партнеров. Легко можно представить себе роботизацию и других подобных областей: выбор меню на обед, выбор одежды на выход и т.д.

[alex_new_york]

Прибегая к услугам эксперта - врача, тренера, стилиста, мэтчмейкера - мы можем решить следовать его рекомендациям, а можем для сравнения обратиться к другим экспертам. Или попытаться разобраться в вопросе самостоятельно

[egovoru]

"Нас ничто не обязывает покупать тот или иной автомобиль или следовать рекомендациям того или иного эксперта"

Хорошо, коли так. Но преимущества машинного ума могут оказаться столь убедительными для власть предержащих, что они предпишут нам обязательное его использование. Думаете, такой опасности нет?

[hyperboreus]

Деннет опасается, что на смену "обычным" компьютерам придут самообучающиеся нейронные сети (уже приходят), а вот от них спасения уже не будет.

[evgeniirudnyi]

Все это из области ненаучной фантастики. По этому поводу есть хороший рисуночек:

[egovoru]

Ну да, ИИ ведь и есть не что иное, как такие сети.

[ext_4119183]

Нет там никакого "интеллекта". Всё это просто инструменты; чем изощрённее, тем более узкоспециализированные.

[olaff67]

В тех областях, где мы сами уже упорядочили реальность - как на картинке про вождение - ИИ вполне может быть хорошим подспорьем.
И пока мы не упорядочим всю реальность, у него, конечно же, будет куда расти и развиваться.

[egovoru]

Мне-то кажется, что целесообразнее - и безопаснее! - всего развитие именно таких специализированных ИИ, заточенных на решение конкретных задач, которые мы сочли желательным роботизировать, как та же задача автономного вождения.

Но ведутся ведь и разработки некоего general artificial intelligence, который якобы должен быть способен "решать любые задачи, которые способен решить человек". Мне такая формулировка кажется совершенно бессмысленной, поскольку мы едва ли можем перечислить все такие задачи - ведь новые задачи все время появляются, и мы их все время решаем.

[olaff67]

Если именно решать задачи, то особого беспокойства нет. Беспокоиться надо будет начинать, когда ИИ сможет сам себе ставить задачи - ибо нет никакой гарантии, что он будет их формулировать нам во благо.

[egovoru]

Нынешние ИИ уже могут переписывать свой собственный код, да и "задачи" у них, как таковой, уже нет, а есть utility function.