об алгоритмах и интеллекте

[avva]

Невероятная популярность и определенная практическая польза от ChatGPT (GPT-3.5 и GPT-4) привела к тому, что очень много людей говорят и думают об этих языковых моделях, при том, что большинство из них не особо знакомы с тематикой искусственного интеллекта. В этом нет ничего ужасного, конечно; но мне кажется, что известная максима "те, кто не

Comments

[igmor]

Я бы еще добавил дискуссии вокруг AI Alignment, которые часто ведутся с таким же, если не большим пренебрежением к научной дискуссии и материалу.

[sevabashirov]

Поймет ли GPT последний абзац?

[ext_6209454]

Поставим вопрос по другому:
- Мог бы GPT-4 сгенерировать последний абзац?

Вы готовы поставить доллар за то, что весь этот пост не сгенерирован GPT-4 по заказу avva?

[ext_6209454]

Вот я и говорю: главная проблема с роботами не в том, что они научатся имитировать людей. А в том, что люди кидаются имитировать роботов, губя при этом остатки своего естественного интеллекта.

[ext_3948950]

Вообще, впечатление понимания создавала ещё старушка Элиза.

[marknn]

Если вы видели транскрипты элизы, то до понимания там как до луны. Хотя конечно, можно представить человека который будет также отвечать. Но это уже к психиатру.

[ext_3948950]

Из вики: "Weizenbaum's own secretary reportedly asked Weizenbaum to leave the room so that she and ELIZA could have a real conversation".

Я не к тому, что Элиза что-то там понимала, нет. Я к тому, что Элиза-эффект никто не отменял; точно так же, как в случайной конфигурации камней мы видим человеческое лицо, в слабеньком паттерн-матчинге мы находим признаки понимания.

[marknn]

Это, верно конечно. Ключевой момент тут конечно процент людей который будет считать что машина их понимает. Для элизы, этот процент будет наверное процентов 10. А для Chat-GPT я думаю скорее близко к 90. Причем, в случае Элизы - чем больше с ней общаешься, тем больше понимаешь что там понимания нет, а с чат-гпт - наоборот...

[ext_6267322]

незнакомы с аргументом китайской комнаты Серля или не думали о нем как следует.
///
Или наоборот, подумали о нем как следует и признали его ничтожным.
catpad.
livejournal.
com/557630.
html?thread=5058366#t5058366

мы не имеем ни малейшего понятия, *как*.
//
Если сама GPT-4 понимает как, то неважно понимаем мы или нет.
А если и сама не понимает, то это значит, что предстоит еще много работы прежде чем мы получим AGI.

[risky_manager]

похоже, сам Серль не думал об аргументах китайской комнаты как следует. для того, чтобы с очевидностью осознать, что любая "механическая" или "пост-механическая" китайская комната недостаточно сложна для того, чтобы в ней могло жить "понимание", достаточно подумать о том, что формирует (как я это называю) "контекст" китайской комнаты, как эта китайская комната будет обрабатывать контекст беседы и увязывать его со своим внутренним контекстом, и будет ли она это делать в принципе.

кстати, для меня "контекст" - это вообще основное, центральное, базовое понятие любой теории познания (или теории восприятия, или теории понимания, или теории информации, и тд). и я очень сильно удивляюсь тому, насколько мало люди, рассуждающие об информации, восприятии или познании, опираются на понятие контекста. для меня это "звоночек" о том, что они вообще ни о чем достаточно глубоко не думают...

[snakysnick]

Я общался со многими программистами и долго пытался объяснить то, о чем вы пишете. И пришел к выводу, что это практически невозможно объяснить, если у программиста нет образования клинического психолога (т.е. как минимум медицина+психиология).
Плюнул на них, и решил, что проще самому матан выучить.

программисты - они вообще прикольные ребята ))

[risky_manager]

представьте себе, люди всерьез думают, что существует некая универсальная "информация", не зависящая от внутреннего контекста того (или "чего"), кто (что) эту информацию воспринимает ))) и даже единицу измерения такой универсальной информации придумали ))

[scabon]

> кто не знакомы со спорами вокруг искусственного интеллекта, обречены повторять старые мысли и аргументы, не понимая этого

[niktoinikak]

https://niktoinikak.livejournal.com/1938562.html

"Очевидность.
Где-то в конце 70-х в Москве поставили автоматические турникеты в метро. Мне это было смешно. Такая махина, стоит небось рублей двести - чтобы воспрeпятствовать проходу не оплатив пятачoк! Вы подумайте! 5 копеек! Тьфу ...
Но как то мне пришло в голову посчитать. Пусть в час она не пускает одного зайца. 5 копеек. В день - рупь. А в году 365 дней А стоит она вряд ли более 200 рублей. Ну, плюс ремонт и профилактика. Всё равно - за год окупает себя с большой лихвой. За год!
С тех пор я стал осторожнее относиться к "очевидности"."