ИИ. Или эпоха Искусственного Имбецила.
nasse 7 июля 2019, 15:56:38
До меня вчера дошло, наконец, что ИИ может что-то уметь, даже круче людей, но совершенно не знать, как он это делает (и эта информация будет из него неизвлекаема).
ИИ может стать популярнее людей, продавать лучше людей, и даже играть на бирже лучше людей. Но это никак не прибавит знания.
Он просто эволюционитует, самозатачиваясь под заданные условия. Со всеми издержками, выгодами и дефектами естественного отбора, просто шустрее и на друом поле.
Это ставит знание (которое наука, понимание, как что-то происходит) в специфическое положение. Многим будет казаться, что наука больше не нужна. Области, где она все-таки нужна, станут чем-то странным. Люди, пользующиеся научным аппаратом, станут совсем экзотическими маргиналами. Сейчас-то мы еще знаем, что он есть и практически полезен, даже если его не используем. Но это пройдет, по мере того, как ИИ будут становиться круче.
alex_rozoff 7 июля 2019, 16:13:06
Это не оффтоп, сента Nasse. Это как раз суть дела.
Поясню, почему так. Для этого порцитирую (просто для самодисциплины) то, что я говорил тут:
https://alex-rozoff.livejournal.com/122271.html
" я скептически отношусь к современной генеральной линии в области прикладного моделирования интеллекта. Методически такой ИИ не смог подняться выше исходной идеи Фрэнка Розенблатта, показанной в 1957-м - 1960-м (т.н. концепция многослойного персептрона, или т.н. искусственных нейронных сетей). Уже через 10 лет стало понятно, что в исходной (вполне гениальной) идее были, все-таки, слишком урезаны функции нейрона и игнорировались функции инфохимической среды, поэтому сети на таких виртуальных модельных нейронах достигнут, в лучшем случае, интеллекта медузы.
[Spoiler (click to open)]Научное сообщество занялось было поисками продвинутой модели, но еще через 10 лет начался экстенсивный рост ресурсов компьютерной памяти и вычислительной мощности. Кто-то решил. что при таких ресурсах BigData, для ИИ будет вполне достаточно интеллекта медузы. Перспективные исследования были свернуты, и прикладная наука бросилась искать пути форсированной набивки электронной медузы - массивами данных. В итоге, мы имеем сейчас не эпоху Искусственного Интеллекта, а эпоху Искусственного Имбецила (очень удобно - не надо даже менять аббревиатуру ИИ). ИИ, как сборщик и примитивный анализатор "больших данных", конечно, полезен - но только на очень ограниченном круге задач (заведомо ограниченном, как доказали Мински и Паперт в 1969-м). "
Теперь поясню, как, Марвин Мински хотел изменить ситуацию в сфере разработки ИИ.
"Механизм объяснения. В процессе или по результатам решения задачи пользователь может запросить объяснение или обоснование хода решения. С этой целью ЭС /экспертная система, класс ИИ - A.R./ должна предоставить соответствующий механизм объяснения. Объяснительные способности ЭС определяются возможностью механизма вывода запоминать путь решения задачи. Тогда на вопросы пользователя "Как?" и "Почему?" получено решение или запрошены те или иные данные, система всегда может выдать цепочку рассуждений до требуемой контрольной точки, сопровождая выдачу объяснения заранее подготовленными комментариями. В случае отсутствия решения задач объяснение должно выдаваться пользователю автоматически. Полезно иметь возможность и гипотетического объяснения решения задачи, когда система отвечает на вопросы, что будет в том или ином случае.
Однако не всегда пользователя может интересовать полный вывод решения, содержащий множество ненужных деталей. В этом случае система должна уметь выбирать из цепочки только ключевые моменты с учетом их важности и уровня знаний пользователя. Для этого в базе знаний необходимо поддерживать модель знаний и намерений пользователя. Если же пользователь продолжает не понимать полученный ответ, то система должна быть способна в диалоге на основе поддерживаемой модели проблемных знаний обучать пользователя тем или иным фрагментам знаний, т.е. раскрывать более подробно отдельные понятия и зависимости, если даже эти детали непосредственно в выводе не использовались."
(цитируется по: https://docplayer.ru/47544556-Konspekt-lekcii-po-kursu-bazy-znaniy-i-ekspertnye-sistemy.html)
Но, как отмечено выше, массовая практика разработки ИИ пошла по пути медузы.
До меня вчера дошло, наконец, что ИИ может что-то уметь, даже круче людей, но совершенно не знать, как он это делает (и эта информация будет из него неизвлекаема).
ИИ может стать популярнее людей, продавать лучше людей, и даже играть на бирже лучше людей. Но это никак не прибавит знания.
Он просто эволюционитует, самозатачиваясь под заданные условия. Со всеми издержками, выгодами и дефектами естественного отбора, просто шустрее и на друом поле.
Это ставит знание (которое наука, понимание, как что-то происходит) в специфическое положение. Многим будет казаться, что наука больше не нужна. Области, где она все-таки нужна, станут чем-то странным. Люди, пользующиеся научным аппаратом, станут совсем экзотическими маргиналами. Сейчас-то мы еще знаем, что он есть и практически полезен, даже если его не используем. Но это пройдет, по мере того, как ИИ будут становиться круче.
alex_rozoff 7 июля 2019, 16:13:06
Это не оффтоп, сента Nasse. Это как раз суть дела.
Поясню, почему так. Для этого порцитирую (просто для самодисциплины) то, что я говорил тут:
https://alex-rozoff.livejournal.com/122271.html
" я скептически отношусь к современной генеральной линии в области прикладного моделирования интеллекта. Методически такой ИИ не смог подняться выше исходной идеи Фрэнка Розенблатта, показанной в 1957-м - 1960-м (т.н. концепция многослойного персептрона, или т.н. искусственных нейронных сетей). Уже через 10 лет стало понятно, что в исходной (вполне гениальной) идее были, все-таки, слишком урезаны функции нейрона и игнорировались функции инфохимической среды, поэтому сети на таких виртуальных модельных нейронах достигнут, в лучшем случае, интеллекта медузы.
[Spoiler (click to open)]Научное сообщество занялось было поисками продвинутой модели, но еще через 10 лет начался экстенсивный рост ресурсов компьютерной памяти и вычислительной мощности. Кто-то решил. что при таких ресурсах BigData, для ИИ будет вполне достаточно интеллекта медузы. Перспективные исследования были свернуты, и прикладная наука бросилась искать пути форсированной набивки электронной медузы - массивами данных. В итоге, мы имеем сейчас не эпоху Искусственного Интеллекта, а эпоху Искусственного Имбецила (очень удобно - не надо даже менять аббревиатуру ИИ). ИИ, как сборщик и примитивный анализатор "больших данных", конечно, полезен - но только на очень ограниченном круге задач (заведомо ограниченном, как доказали Мински и Паперт в 1969-м). "
Теперь поясню, как, Марвин Мински хотел изменить ситуацию в сфере разработки ИИ.
"Механизм объяснения. В процессе или по результатам решения задачи пользователь может запросить объяснение или обоснование хода решения. С этой целью ЭС /экспертная система, класс ИИ - A.R./ должна предоставить соответствующий механизм объяснения. Объяснительные способности ЭС определяются возможностью механизма вывода запоминать путь решения задачи. Тогда на вопросы пользователя "Как?" и "Почему?" получено решение или запрошены те или иные данные, система всегда может выдать цепочку рассуждений до требуемой контрольной точки, сопровождая выдачу объяснения заранее подготовленными комментариями. В случае отсутствия решения задач объяснение должно выдаваться пользователю автоматически. Полезно иметь возможность и гипотетического объяснения решения задачи, когда система отвечает на вопросы, что будет в том или ином случае.
Однако не всегда пользователя может интересовать полный вывод решения, содержащий множество ненужных деталей. В этом случае система должна уметь выбирать из цепочки только ключевые моменты с учетом их важности и уровня знаний пользователя. Для этого в базе знаний необходимо поддерживать модель знаний и намерений пользователя. Если же пользователь продолжает не понимать полученный ответ, то система должна быть способна в диалоге на основе поддерживаемой модели проблемных знаний обучать пользователя тем или иным фрагментам знаний, т.е. раскрывать более подробно отдельные понятия и зависимости, если даже эти детали непосредственно в выводе не использовались."
(цитируется по: https://docplayer.ru/47544556-Konspekt-lekcii-po-kursu-bazy-znaniy-i-ekspertnye-sistemy.html)
Но, как отмечено выше, массовая практика разработки ИИ пошла по пути медузы.