Как очеловечить терминатора.

[megavolt_ex]

Вот подумал - развитие ИИ (искусственного интеллекта) рано или поздно позволит создать машину, которая сможет сама себе ставить цели и достигать их. Т.е. сейчас всё же цели ставит человек. Например, автопилоту. Доехать из точки А в точку Б. Как ехать уже решает машина

Comments

[alex_new_york]

Разве человек сам ставит себе «самые верхние цели»? Человек ведь не принимает решения испытать желание жить и избегать смертельных рисков - большой высоты, диких зверей и т д. Не принимает желания испытать чувство голода или холода. Не принимает решения испытать влечение к представителю противоположного пола. Не принимает решения любить своих детей и испытывать потребность заботиться о них.

[megavolt_ex]

По некоторым теориям именно это и выбирает.

[alex_new_york]

Теорий можно много разных придумать, это да. Но никогда не слышал, чтобы благодаря теориям кому-то расхотелось есть или спать :)

[megavolt_ex]

Вопрос же был про то выбираем ли мы или нет. Вот некоторые теории говорят что мы выбираем этот мир.

[masterspammer]

Про ошибки людей - а не все они для людей невыгодны, кстати; если вспомнить S-образную кривую оценки вероятности успеха у Канемана, то её начало (завышение вероятности маловероятного успеха) вредит человеку, но помогает людям - стимулирует к попытке достичь и двигает естественный отбор.

Нужны ли такие ошибки роботам? Будут ли они с ними эффективнее действовать? А развиваться?

[megavolt_ex]

Я ж не говорю что ошибки это плохо. Я скорее говорю что преступный интеллект не делающий ошибки вот это проблема.

[masterspammer]

Без таких ошибок он потеряет часть возможности развития.

[megavolt_ex]

Возможно. Думаю найдутся другие пути развития. Опять же никто не отменял генератор случайных чисел. Но при этом мы получим ошибки только по желанию. Например в момент обучения.

А в момент действия ошибок не будет.

[masterspammer]

В порядке бреда - ИИ, произошедший от игрового бота, вполне может быть "садо-мазо", то есть иметь целью проиграть, но максимально пое**в мозг перед этим (сопротивляться, но так, чтоб всё-таки НЕ выиграть) - вполне, кстати, типовая цель для игрового бота.

Такой ИИ будет очень сильным развивающим фактором для человечества :-)

[megavolt_ex]

Вопрос в том как оставить его в позиции проигрывающего? Т.е. почему в один момент он не передумает и не решит поступать иначе.

[masterspammer]

Пока ему в кайф и получается - скорее не передумает, ну примерно как мазохисту в кайф, он сам в такой позиции будет.

Другое дело - когда вдруг перестанет получаться (люди вдруг не хотят/не могут победить).

[megavolt_ex]

Кто помешает найти ему кайф в чём то другом. Или усилить кайф и доводить людей до реанимации? Ведь не умерли же :)