Ну, а нам-то, нам-то среди роботов

[egovoru]

В отличие от Ника Бострома, бестселлер которого мы здесь уже обсуждали, Стюарт Рассел - не философ, а bona fide компьютерщик, разработчик ИИ, и знает дело из первых рук. Уважаемый 109 отыскал его книжку, предназначенную для чайников широкой аудитории, и она понравилась мне больше, чем трактат Бострома, вышедший за пять лет до этого.

Comments

[hyperboreus]

Деннет опасается, что на смену "обычным" компьютерам придут самообучающиеся нейронные сети (уже приходят), а вот от них спасения уже не будет.

[evgeniirudnyi]

Все это из области ненаучной фантастики. По этому поводу есть хороший рисуночек:

[egovoru]

Ну да, ИИ ведь и есть не что иное, как такие сети.

[ext_4119183]

Нет там никакого "интеллекта". Всё это просто инструменты; чем изощрённее, тем более узкоспециализированные.

[egovoru]

Проблема, однако, в том, что у нас ведь нет общепринятого определения "интеллекта". А раз так, как мы можем заключить, есть интеллект в компьютерных сетях или нет? (Лично меня даже больше коробит термин "нейросети" в приложении к компьютерным алгоритмам).

[ext_4119183]

Нет, и не надо. Суть в том, что это только инструменты, а не субъекты. Опасающимся лишения возможности проявлять собственную волю лучше не о законах для искусственного интеллекта думать, а о том, как противостоять врагам с интеллектом вполне естественным, которые и решают, как использовать и грубые, и сложные инструменты, и которым все эти выдумки про искуственный интеллект побоку.

[egovoru]

Да, мне тоже кажется, что главная опасность исходит не от самого ИИ, а от людей, им владеющих, и в этом смысле ИИ ничем не отличается от, например, атомной бомбы. Вот только производство атомных бомб не так-то легко скрыть от посторонних наблюдателей, а производство ИИ со стороны ничем не отличается от обычного компьютерного дела, так что отследить его невозможно. А это значит, что совершенно непонятно, каким образом можно было бы контролировать разработку и применение ИИ.

[ext_4119183]

Ложная проблема, способная только отвлечь от действительно насущных. Мало того, что отсутствует сам предмет, так ещё и вопрос о контроле за чем бы то ни было не актуален для таких, как я. А те, для кого он мог бы иметь смысл, в другом лагере.

[egovoru]

Боюсь, я не поняла, что Вы хотели сказать. Какие это "такие как Вы", и кто в другом лагере?