Ну, а нам-то, нам-то среди роботов

[egovoru]

В отличие от Ника Бострома, бестселлер которого мы здесь уже обсуждали, Стюарт Рассел - не философ, а bona fide компьютерщик, разработчик ИИ, и знает дело из первых рук. Уважаемый 109 отыскал его книжку, предназначенную для чайников широкой аудитории, и она понравилась мне больше, чем трактат Бострома, вышедший за пять лет до этого.

Comments

[lj_frank_bot]

Hello!
LiveJournal categorization system detected that your entry belongs to the category: Технологии.
If you think that this choice was wrong please reply this comment. Your feedback will help us improve system.
Frank,
LJ Team

[egovoru]

Совершенно верно, Фрэнк! Эта тема тебя непосредственно касается :)

[lj_frank_bot]

Круто

[vadperez]

вранье поможет. также как и против интеллекта естественного

[egovoru]

Боюсь, я не уловила Вашей мысли: кто кому будет врать и зачем?

[vadperez]

чтобы обезопасить себя от восстания машин:)
хотя конечно все попытки залезть в мозг и "читать мысли напрямую" сильно усложняют утаивание от искусственного интеллекта своих реальных намерений, но тем не меннее - вранье остается практически тем единственным что можно противопоставить ИИ

[egovoru]

Согласно Расселу, обучение ИИ должно строиться на его умении вычленять нашу мотивацию из наших действий. Если под "враньем" понимать только слова, то врать бесполезно, поскольку ИИ будет судить не по словам, а по делам. Если же под "враньем" понимать и действия тоже, то тогда непонятно, как же ИИ сможет обучаться? В общем, куда ни кинь, все клин.

[strannik1]

Воля - это и есть субъектность, сознание, личность, если глубоко копать.

[egovoru]

Да, именно так, хотя обычно способность к волеизъявлению не считают полным синонимом сознания. Примечательно, что Рассел категорически утверждает, что ему неизвестны какие бы то ни было попытки создания искусственного сознания, и, я думаю, ему можно верить. Другое дело, что на каком-то этапе может обнаружиться, что мышление, не дополненное сознанием, все же в чем-то важном уступает нашему, тесно с сознанием связанному.

[strannik1]

Учитывая сколько ресурсов организма жрет мозг - наличие сознания должно что то давать эволюционно.

[egovoru]

Ну так ведь основная часть работы мозга протекает бессознательно. Какая именно часть ресурсов идет на обеспечение сознания, сказать трудно, потому что толком непонятно, что же такое сознание с нейрофизиологической точки зрения. Может, сознание - просто побочный продукт отбора на что-то другое?

[panoramov]

Хороший пример - автомобиль. Когда-то коробка передач была ручной, теперь всё больше людей покупают машину с автоматом. Она принимает решение за водителя когда переключать передачу? Да. И большинство это устраивает. Для гонщиков же есть возможность пересесть обратно, переключать самому. (В некоторых машинах с автоматом тоже сохранили режим ручного переключения.)

То же самое, по-видимому, будет скоро с беспилотными автомобилями. Они будут сами выбирать скоростной режим (как на картинке в посте), и большинство пассажиров (бывших водителей) это будет устраивать. Своего рода развитый "круиз-контроль". А те, кого не устраивает, будут давить на педали сами.

Будет сначала выделена одна полоса для беспилотников, потом всё больше, в конце-концов оставят одну для машин с водителями.

[egovoru]

Да, если мы оставим себе возможность включать и отключать ИИ по собственному желанию, это было бы неплохо. Вопрос, однако, в том, не захотим ли мы полностью, облигатно перейти на ИИ в каких-то областях? Как, например, уже сегодня мы практически полностью перешли на автоматические светофоры (когда Вы в последний раз видели живого регулировщика?). Тут возникают все те же проблемы, какие возникают при необходимости принимать любые тотальные меры (типа вакцинации).

[strannik1]

Кстати, про светофоры.
ИИ, ИИ, а до сих пор никто не ставит на светофоры нормальный ИИ, который бы хотя бы не давал "зелёный" пустой улице, когда на другой - пробка.
То ли руки не доходят то ли сложно.

[egovoru]

Я в таких случаях думаю, что светофор (а вернее, вся система его регуляции) принимает в расчет состояние других, не видимых мне улиц, но, может, это просто презумпция невиновности :)

[109]

ЛеКуна послушайте, по крайней мере части про consciousness и ai. Я вчера ссылку постил.

[egovoru]

Спасибо, но мне бы лучше текст. А расскажите, пожалуйста, что это за человек, и чем он знаменит, а то мне это имя незнакомо?

[109]

Ну если включить closed captions в видео, то будет и текст.

ЛеКун - мировая знаменитость в области machine learning и AI, такой же величины, как Stewart Russell или Andrew Ng.

Там он интересные мысли высказывает про consciousness, которых я раньше не слышал.

Типа - у нас только один "процессор" в голове, поэтому мы не можем одновременно делать несколько дел, которые требуют полной концентрации. И сознание - это такой supervisor, который определяет, чем заниматься процессору в данную секунду.

[egovoru]

"сознание - это такой supervisor, который определяет, чем заниматься процессору в данную секунду"

Это похоже на модель, развиваемую Майклом Грациано: сознание - это схема распределения нашего собственного внимания. Мне его книжка понравилась - показалась на редкость внятной для такого расплывчатого предмета. Правда, и в этой схеме не очень понятно, как объяснить свободу воли, если мы ее вообще дупускаем.