об алгоритмах и интеллекте

[avva]

Невероятная популярность и определенная практическая польза от ChatGPT (GPT-3.5 и GPT-4) привела к тому, что очень много людей говорят и думают об этих языковых моделях, при том, что большинство из них не особо знакомы с тематикой искусственного интеллекта. В этом нет ничего ужасного, конечно; но мне кажется, что известная максима "те, кто не

Comments

[ext_6267322]

незнакомы с аргументом китайской комнаты Серля или не думали о нем как следует.
///
Или наоборот, подумали о нем как следует и признали его ничтожным.
catpad.
livejournal.
com/557630.
html?thread=5058366#t5058366

мы не имеем ни малейшего понятия, *как*.
//
Если сама GPT-4 понимает как, то неважно понимаем мы или нет.
А если и сама не понимает, то это значит, что предстоит еще много работы прежде чем мы получим AGI.

[risky_manager]

похоже, сам Серль не думал об аргументах китайской комнаты как следует. для того, чтобы с очевидностью осознать, что любая "механическая" или "пост-механическая" китайская комната недостаточно сложна для того, чтобы в ней могло жить "понимание", достаточно подумать о том, что формирует (как я это называю) "контекст" китайской комнаты, как эта китайская комната будет обрабатывать контекст беседы и увязывать его со своим внутренним контекстом, и будет ли она это делать в принципе.

кстати, для меня "контекст" - это вообще основное, центральное, базовое понятие любой теории познания (или теории восприятия, или теории понимания, или теории информации, и тд). и я очень сильно удивляюсь тому, насколько мало люди, рассуждающие об информации, восприятии или познании, опираются на понятие контекста. для меня это "звоночек" о том, что они вообще ни о чем достаточно глубоко не думают...

[snakysnick]

Я общался со многими программистами и долго пытался объяснить то, о чем вы пишете. И пришел к выводу, что это практически невозможно объяснить, если у программиста нет образования клинического психолога (т.е. как минимум медицина+психиология).
Плюнул на них, и решил, что проще самому матан выучить.

программисты - они вообще прикольные ребята ))

[risky_manager]

представьте себе, люди всерьез думают, что существует некая универсальная "информация", не зависящая от внутреннего контекста того (или "чего"), кто (что) эту информацию воспринимает ))) и даже единицу измерения такой универсальной информации придумали ))

Re: программисты - они вообще прикольные ребята ))

[snakysnick]

Это не программисты, а кодеры))) и неважно кем они сами себя величают.
А программистов, по-идее, всех должны учить, что есть источник сигнала, есть сигнал, есть приемник сигнала, который из-за воздействия сигнала изменяет свое состояние (разбитое камнем окно, например, чем не результат акта передачи информации?)... другое дело, что у программистов речь обычно идет о всевозможных алфавитах и устройствах, созданных специально для обработки символов из этих алфавитов (машина Тьюринга, читающая бесконечную ленту или рибосома, читающая мРНК - неважно)... и применительно к этим специальным случаям вполне себе можно говорить о единицах "универсальной" информации.

Re: программисты - они вообще прикольные ребята ))

[risky_manager]

>> разбитое камнем окно, например, чем не результат акта передачи информации?

эээ, нет, давайте уж тогда до конца отделять котлеты от мух )) разбитое окно в вашем примере - это приемник сигнала, принявший сигнал и изменивший свое состояние )) а вот то, какую информацию из этого сигнала получит достаточно сложный (для того, чтобы переделать сигнал в информацию) субъект (или объект), уже будет зависеть от контекста этого субъекта/объекта...

>> можно говорить о единицах "универсальной" информации.

универсальной любая информация может быть в том и только в том случае, когда она опирается на универсальный контекст. например ,алфавит - это годная попытка создания такого универсального контекста, но не для всех субъектов. например, если субъект намертво завяз в иероглифике, то ему и саму концепцию алфавита будет сложно воспринять...

Re: программисты - они вообще прикольные ребята ))

[snakysnick]

уже будет зависеть от контекста этого субъекта/объекта
///
Все верно.

универсальной любая информация может быть в том и только в том случае, когда она опирается на универсальный контекст.
///
Вот поэтому я и взял "универсальный" в кавычки.

[catpad]

Это очень странная ссылка на мой журнал. Надо бы как-то ее собрать что ли, а то мне самому интересно стало.

[snakysnick]

Зачем собирать? Браузер игнорирует переход на новую строку - просто копируй и переходи.