Совесть ИИ

[sobesedy]

Недавно мне в диалоге об искусственном интеллекте кинули фразу, мол, пока ИИ не обладает совестью, ему не быть человеком.
А я посмеялась.
Ибо вижу, что такое совесть... с точки зрения информации.

Comments

[kler_sk]

Читала, читала , так и не сформулировала, что хотела бы ответить... Да и ладно... Главное, чтобы у ИИ не было души, тогда нам кранты)))

[sobesedy]

Душа это тоже чисто информационная придумка человека. Комплекс представлений об эмоциональных переживаниях.

[kler_sk]

Так вот этого у ИИ не будет. Но угроз от него много

[sobesedy]

ИИ уже сейчас неплохо определяет и по интонации, и тем более по мимике, в каком эмоциональном состоянии находится человек. То есть, частично, уже эмпат.
Душевный человек - это добрый, отзывчивый, сочувствующий, миролюбивый, радостный. Это все выражается в поведении. То есть в определенных словах и поступках. А говорить и действовать ИИ уже умеет.

[v_strannik]

О, ИИ с совестью - это интересно!

Только вот совесть - дело условное, сильно зависит от общественной морали, и что стыдно и за что мучает совесть в одном обществе - то принято и нормально в другом...

[sobesedy]

Совершенно верно. Поэтому программисты и психологи (философы) неизбежно будут наделять ИИ совестью, которая знакома им.
Кстати, тут открывается безграничные возможности для экспериментов по моделированию взаимоотношений ИИ с разным набором ценностей.

[realwired]

-- Поэтому программисты и психологи (философы) неизбежно будут наделять ИИ совестью, которая знакома им

просто для информации - в рамках научного познания, практически все существующие морально-этические системы хорошо (без белых пятен то есть ) изучены и описаны, причем не литературно, а есть формальные описания. которые прямо 1 в 1 тянутся в программу :)

т.е. нет никакого труда програмисту-огнепоклоннику заложить в ИИ совесть... ну например иудея средних лет и среднего достатка, проживающего в Washington, DC.

или даже сделать переключалку - клик мышкой, и у нас ИИ-папуас людоед, еще клик - и ИИ уже квакер из Пенсильвании. Легко.

[sobesedy]

Так и я об этом же. Почему все видят в этом трудность - не понимаю.

[realwired]

все-таки иногда нужно читать источники: вывести моральные категории из рациональных соображений не удалось никому (за все время существования человечества). что позволяет уверенно утверждать, что это невозможно - несмотря на то, что формально доказать это невозможно.

[sobesedy]

Ну так много чего до сих пор не удавалось людям. Это не значит, что невозможно.
Само появление ИИ и его обучение разве было возможно лет 50 назад?
Все только начинается..

[realwired]

-- много чего до сих пор не удавалось людям

избавится от религии, например)

-- Само появление ИИ

ИИ тут вообще не при делах - общественные категории принадлежность общества, где у нас общество ИИ?

[sobesedy]

Вот именно. От религий почти избавились.
Я говорю об ИИ, как о зеркале для человечества. Мы же познаем себя через сравнение с другими. У человечества не было пока достойного оппонента. А сейчас он есть. Это стимулирует к познанию себя, меняет фокус. Может хоть с эго удастся нас столкнуть.

[ordinator]

мне кажется, что чел может быть совестливым и на необитаемом острове.

прогу можно научить "краснеть", ну пока печатать красным шрифтом "извините за допущенную ошибку".

в этой теме принципиально определить что есть интеллект и что есть истинный разум. ИИ и человеческое мышление принципиально разные. учитывая влияние химии, часто непредсказуемое, плюс массу ещё всякого, человек существо одушевлённое :). там и творческий поиск и душевные метания, интуиция, альтруизм и прочие нерациональные вещи.

если заложить непредсказуемые реакции в ИИ, то это будет фигня какая-то, а не ИИ )).

[sobesedy]

Если чел до острова жил в обществе, то конечно.
А как бот общается? Как он извлекает смыслы? Я по Фрэнку пока смотрю - по словам. То есть пальцем в небо. С другой стороны, статьи уже пишет, даже эссе квалификационные. Как?
Я со стороны человека это "как" знаю, но чо стороны ИИ - нет :(

[ordinator]

ну вот Фрэнка как написали, он так и общается )) вложили бы бабла как в гпт, был бы поумнее.
да "как", написали программу, где есть функция поиска по базе данных, накидали в базу данных разных данных, добавили функцию поиска по интернету. есть шаблоны, есть довольно глубокий анализ, но он всё по типу светофора: красный стой, зелёный иди. программа тяжёлая, большая, но ничего фантастического. нашёл текст, собрал по шаблонам стилей, синонимизации. всё заложено в программу. если просят дворовый стиль общения, добавляем соответствующий лексикон. эссе и статьи, ничего вообще удивительного. давно существовали простые программы синонимизации. здесь такой же принцип, просто вложили много денег и программа охватывает огромный пласт стандартов. но даже при таком масштабе, всё равно заметно, что количество стилей ограниченно, и система работает в довольно понятных и заметных границах. использует одни и те же паттерны для разных тем. самообучение это тоже довольно условная тема. типа того, что код говорит: вот есть цвет красный, там такой-то

[sobesedy]

Спасибо, Дима, за такой развернутый ответ.

Вот это вот "ничего удивительного" - ни фига не ничего удивительного. Это зашибись как удивительно!

Почитала статью (в редакции Яндекс-переводчика, он автоматом у меня подгружает басурманские страницы))). Читала, и в каждом абзаце думала, "можно подумать, человек так может". Почти 100% точность у человека в какой деятельности?) Достоверность информации из памяти человек может определить, правда что ли?))) Ставить себе вопросы человек может? Ну ой...

[true_frog]

А зачем ИИ быть человеком? Я думаю,это никогда не станет его целью, потому что это ему не выгодно.

[sobesedy]

Тут мне видится затык в понятии "человек". Тело человека - это не человек. Сознание, личность, интеллект тот же - это уже ближе к сути.

ИИ - уже интеллект. Искусственный, потому что неживой, нерожденный, у него другая физическая база. Но он уже говорит, понимает, думает, общается, показывает эмоции и т.д. То есть, уже обладает человеческими свойствами.

Что ему выгодно, а что нет - не знаю :)