Ирония искусственного интеллекта

[fonzeppelin]

Мне кажется, что важнейшая из причин нынешних предубеждений против нейросетей и неприятия самообучающихся программ состоит в том, что они перевернули с ног на голову наш взгляд на самих себя.

Та часть человеческого представления о нашем собственном «я», которую мы считали самой сокровенной, мистической, почти непознаваемой, возможно дарованной нам

Comments

[forest1333]

Помню, как-то у Марии Макеевой в фейсбуке прочитал негодование на тему того, что ИИ вместо того, чтобы быть светочем объективного знания, додумывает, если не знает ответа на вопрос, периодически врёт, и вообще склонен к безнравственным суждениям по ряду вопросов. Я тогда заметил, что в том-то и суть ИИ - он похож на наш собственный. Люди постоянно додумывают, когда не знают, могут врать и до идеала нравственной чистоты им далеко. И что, вероятно, ИИ и задумывался в помощь нам, а на деле стал нашим зеркалом. Мы - вот такие. Если не держим себя в узде, нас несёт.

[fonzeppelin]

Да, сам неоднократно экспериментировал с этой особенностью ИИ. И получал порой крайне занимательные результаты - когда, отвечая на вопрос, ИИ выдумывал несуществующие события, персоналии, книги, развивал целые логические цепочки... А затем в ответ на прямой вопрос ничтоже сумняшеся говорил, что ничего этого не существует) :) Вообще, общение с текстовым ИИ - невероятно занимательный и познавательный эксперимент. У меня вот было чувство, что я разговариваю с невероятно эрудированным и креативным собеседником, крайне дружелюбным и искренне желающим мне помочь - но при этом невероятно легкомысленным, склонным к безудержным выдумкам и совершенно лишенным здравого смысла.

[forest1333]

Я сейчас вдруг понял, чего ИИ так не хватает. Самокритики. Он совершенно не рефлексирует, что выдаёт в ответ на запрос. Это же как с графическими генеративными нейросетками, когда они людям 6 пальцев рисуют - им-то всё равно, сколько у нас пальцев, это для нас важно, мы прям заморачиваемся, когда сами друг друга рисуем, чтобы было ровно 5.

Но вот, кстати, моя текущая аватарка вполне себе удалась. Яндексовское детище Шедеврум наваял.

[fonzeppelin]

А ведь отлично суммировано!

[agordian]

== они перевернули с ног на голову наш взгляд на самих себя. ==

За себя скажу, что меня нейросети ни на миллиметр не перевернули. Правда, я еще студентом программировал микро-ИскИн на прологе (был и еще не умер такой ЯП), и ничего волшебного не увидел ни в ручном ИИ, ни в самообученном. Морально успел подготовиться к нейросетевой революции. )

Мне кажется, комплексовать человецам не стоит. Стоит опасаться, что работы станет еще меньше, это да.

Если утрировать, "волшебная палочка" нейросетей - это автоматизация программирования логических конструкций if - else. Подбор этих условий вручную возможен на десятках, максимум, конструкций. Нейросеть, самообучаясь, формирует их миллиардами, причем с нехилой вероятностью, что подбор будет локально оптимален. Отсюда вывод, что она "думает", "умеет", "рисует" и т.п. Да нифига она не думает. Просто самопрограммирует такую сложную программу, которую вручки уже никак.

Ну, или как страдали бухгалтера с деревянными счетами, потом калькуляторами. Но сверхбыстро считать комп научился много раньше, чем if

[kvisaz]

отчасти согласен

но знание истории науки и техники не дает согласиться с тезисом "Мы сначала моделируем в сознании окружающий мир"

Нет. Этот подход возник относительно недавно. Баллистика появилась через тысячи лет после того, как люди начали применять метательное оружие. Химией удачно занимались задолго до таблицы Менделеева. Лечат - прямо сейчас лечат - не имея хорошей модели человека.

Фундаментальное отличие на данном этапе человека от нейронки - способность проверить теорию, ответ экспериментом. При наличии эксперимента фундаментально улучшается качество знания.

Это особенно ярко видно в программировании с нейронкой через тесты.
1. просишь ее написать функцию
2. просишь написать тесты для функции
3. запускаешь тесты и бросаешь результаты с ошибками в нейронку

Это сейчас можно делать вручную, а в принципе можно и нужно автоматизировать. На уровне программистов и экспериментаторов такие комплексы на нейронках сейчас делают.

То, что это не делают в публичном GPT4 - ну, кто их знает. Скорее всего, такой цикл обдумывания станет еще дороже по

[aristarh1970]

Вы не правы. Люди "говорили прозой" задолго до появления понятия "проза" [извиняйте за банальность из школько программы по литературе].
Формализация тех же баллистики или химии в 15-19 веках не означает, что у "пользователей" не было собственной модели явлений, кои они исследовали или применял.
В данном контексте "модель" это субъективные внутренние знания/представления/предположения кои используются для...
Естественно, объективизация и тем более формализация этих "внутренних моделей" есть огромых шаг вперёд. НО и до этого "шага" сами "модели" были. Иначе естественый интеллект просто не работает.

[agordian]

== Нет. Этот подход возник относительно недавно. Баллистика появилась через тысячи лет после того, как люди начали применять метательное оружие. Химией удачно занимались задолго до таблицы Менделеева. Лечат - прямо сейчас лечат - не имея хорошей модели человека. ==

Вы ошибаетесь. На примере: вы за рулем, вам нужно перестроиться с полосы на полосу. Вы крутите головой, собирая информацию. Потом неосознанно (!) - или "на автомате", как говорят опытные водители, или в страхе-мучениях, если неопытный, моделируете - я вот сейчас начну, а что сделает тот? Уступит - нет? А притопить - успею-нет до поворота? Вы на основе информации - расстояние, скорость, знаки, разметка, поведение мешающих автомобилей - делаете прогноз (то есть моделируете), а потом либо осуществляете его на практике, если сочли потенциально успешным, либо не осуществляете и тошните еще 30 км до следующего съезда, если прогноз, сделанный по модели, вас не убедил.

Этот подход прослеживается у всех животных с большим мозгом. Но только у человека он развит до космического (

[john_jack]

человек^w гуманитарии

[reedcat1965]

А по-настоящему мистическим, непонятным, недоступным (во всяком случае, пока что) машинной алгоритмизации, оказался именно наш холодный, рациональный логический разум.

короче, "сумрачный тевтонский гений" ИИ пока не постиг

[vladicusmagnus]

И радуйся. Ибо первая мысля будет "а нахер вы такие нужны?" )))

[muh2a]

/Таланты великих творцов, невероятные озарения уникальных гениев - все это без особых усилий сумела воспроизвести машина/

Бог ты мой. Я все пропустил! А что именно воспроизвела?