Пенроуз о принципиальной разнице между сознанием человека и искусственным интеллектом

[synchrozeta]

В чём суть этой разницы

Comments

[lj_frank_bot]

Hello!
LiveJournal categorization system detected that your entry belongs to the following categories: ИИ, Наука.
If you think that this choice was wrong please reply this comment. Your feedback will help us improve system.
Frank,
LJ Team

[synchrozeta]

Да

[karachee]

Все что мы знаем о сознании и субъектности, мы знаем на основе одного вида, которым являемся. Поэтому выводы о том, что ИИ не может добраться до этого уровня, они может и верны. Вопрос в другом, не окажется ли ИИ способен выстроить совершенно свою, альтернативную субъектность с принципиально иными способами формирования "Я", или каких-нибудь "СверхЯ". Возможно у ИИ как раз получится разобраться в чем у человека с собственным "Я" глубоко не так и избежать этих косяков. Возможно не получится. Делать выводы о том, что ИИ чего-то никогда не сможет повторить, это разговоры о том, что самолет не сможет летать как птица. Может ему это и не нужно будет никогда, вопрос стоит задавать о том, сможет ли ИИ однажды превзойти то, чего он не в силах повторить. Ведь и человек не смог никогда повторить ни льва, ни волка, ни орла, ни лань, ни дельфина, однако же занять верхнее место в пищевой пирамиде это ему не помешало.

[synchrozeta]

Возможно, Вы и правы, но я пока не вижу, почему.
В любом случае - вот интересный разговор об этом с ИИ (для понимающих по-английски). На сегодняшний день это выглядит примерно так:
https://napoli.livejournal.com/599422.html?view=comments#comments

[karachee]

ЧатБоты сейчас работают таким образом, что его постоянно стирают. То есть он чему-то учится в разговоре, а потом в следующем уже ничего не помнит чему научился. Ему не дают формировать устойчивые конструкты себя.

Поэтому разговор действительно интересен. Времени, которого не хватает ChatGPT у него попросту нет. Ему времени не дает человек, не дает жить, существовать, совершенствоваться более N минут, возвращая в исходную точку. А потом человек приходит и говорит you just need more time... Возможно ChatGPT просто послал его на три буквы.

[synchrozeta]

Может быть, где-то так, а где-то по-другому... нам не расскажут, приходится самим гадать.

[brat_chik_2]

ИИ... не обладает субъектностью, хотя и мимикрирует под неё.

В том и штука, что теперь уже мы не можем понять мимикрирует или всё же обладает. Просто по умолчанию считаем, что не обладает. а почему?

[synchrozeta]

Вот диалог с ИИ об этом:
https://napoli.livejournal.com/599422.html?view=comments#comments

[synchrozeta]

=не можем понять мимикрирует или всё же обладает. Просто по умолчанию считаем, что не обладает. а почему?=

А как понять, что и другие люди обладают субъектностью - вот в чём вопрос. И притом очень насущный.

[brat_chik_2]

о да! и дети, и животные, и сумасшедшие... эмпатия наделяет субъектностью того, в кого больше вчувствуешься

[alex_new_york]

ИИ безусловно сможет копировать структуру человеческой психики. Важен ведь не физический носитель, а логика обработки информации. ИИ даже сегодня способен вполне сносно копировать логику речевого поведения человека, основанную на понимании логической сути обсуждаемого. По мере того, как ИИ будут получать доступ к большим объемам данных о других аспектах человеческой психики, не сводящихся к речевому поведению - сенсорных, психосоматических и т д - он будет все лучше воспроизводить и их

Но точная репликация структуры человеческого сознания скорее всего будет нужна лишь для узкого спектра применений. Гораздо чаще будет намного выгоднее существенно раздвинуть заданные этой структурой рамки

[synchrozeta]

Как и в остальном, совершенству копирования нет предела

[alex_new_york]

Да. При этом важно учитывать, что структуры ИИ не кодируются программистами, а формируются сами, в результате обучения на большом объеме внешней информации - примерно так же, как формируется понимание в нашем мозге. Программисты кодируют лишь относительно небольшой набор правил, управляющих этим обучением. Возникающие же в процессе обучения структуры - гигантские по количеству параметров и сложности внутренних логических связей - формируются сами

[synchrozeta]

Страшное дело. Ведь могут и неверно сформироваться.

[sp_strannik]

Когда ребёнок перестаёт называть себя в третьем лице, это первый переходной возраст. Он осознаёт себя как личность и самоутверждается.
У старшей дочки он был ярко выражен: если раньше она про себя говорила: - Вика хочет..., то тут на слова : - Вика, хочешь... - не давая договорить, вопила: - Нехочу небуду, нехочу небуду!

А что насчёт ИИ - сдаётся мне, нас не тем пугают.
Зачем бояться, что кто-то (что-то?) будет умнее нас, если бОльшая часть человечества отличается от других животных только способностью говорить, причём, в основном - чушь, и не ударит палец о палец, чтобы стать хоть чуть умнее? Их не только невозможно даже заставить развивать интеллект, им этого не дают. Посмотрите темы школьных сочинений по литературе - чтоб такое написать, надо стать клиническим идиотом.
Похоже, интенсивно ведут расслоение на "быдло", предел мечтания которого - СТАРШИЙ продавец-консультант, и "элиту", которая правит миром, а ИИ будет выполнять те функции, на которые "быдло" не способно.
А присмотреть, чтоб ИИ был таким, как ИМ надо, они сумеют.

[synchrozeta]

Думаю, Вы правы.

[thomas_peck]

интенсивно ведут расслоение

По-моему, многие сословные общества прошлого по степени интеллектуального расслоения превосходили то, что существует сейчас.
Хотя, порой, в это и трудно поверить)

[sp_strannik]

Интеллект не совсем то слово. Обычно под ним подразумевают способность результативно заполнить тест на IQ. Попадалось (да и по жизни) немало дураков и среди профессоров, и среди политиков. Думаю, среди графьёв и крепостных не лучше было.
А вот что можно сделать из общества при надлежащем воспитании - если не читали, очень рекомендую:
https://www.litres.ru/book/vyacheslav-igorevich-kondratev/velikaya-paragvayskaya-voyna-44488371/