ИИ. Проблемы передачи знаний.
Знания, безусловно, являются ключевой составляющей ИИ. Чем их больше и чем они разнообразнее, тем эффективнее интеллект. С другой стороны, бесконечность мира означает бесконечность знаний. Каким же образом передавать ИИ наши знания? Тут возникает несколько проблем.
1. Как ни странно, нам сейчас неоткуда их взять для передачи. У нас нет некоего удовлетворяющего всех свода человеческих знаний, из которого можно было бы отобрать знания, нужные для ИИ. Первое, что приходит на ум, - энциклопедии и справочники. Но, во-первых, чтобы их читать и хоть как-то понимать нужны некоторые знания. Во-вторых, справочная литература покрывает лишь ничтожную долю процента от необходимых знаний. Например, размешивая сахар в чае, вы знаете следующее:
2. Отсутствуют специалисты в области представления знаний. Какой-то крохотный шажок в подготовке таких специалистов был сделан при разработке экспертных систем. Есть специалисты, разрабатывающие т.н. онтологии, - их мало, и они занимаются лишь одной стороной проблемы.
3. Отдельная большая проблема - истинность информации. Даже узкоспециализированные научные тексты могут содержать ложную информацию (например, вывод, полученный без учета всех факторов). Есть наукообразные тексты, построенные на недостоверной информации. Есть общепринятая намеренная ложь. Например, в учебниках английского языка можно встретить утверждение, что неопределенный артикль не употребляется с именами собственными, - это не совсем так, но несколькими исключениями пренебрегают для упрощения изучения грамматики. Художественная литература - отдельная тема.
4. У ИИ будет другая сенсорная система, даже если мы попытаемся максимально приблизить её к нашей. Поэтому каких-то человеческих знаний будет не хватать (например, если у конкретного экземпляра ИИ будет инфракрасное зрение), а какое-то измерение, наоборот, не будет поддержано органами чувств ИИ. Например, вкусовые ощущения от яблока.
5. То же самое касается эффекторов. Если у системы с ИИ специальные манипуляторы вместо кистей рук, то эти манипуляторы должны быть поддержаны соответствующими знаниями о характере и результатах взаимодействия таких манипуляторов с большим количеством объектов, известных системе.
6. Знания об истории, литературе, политике, традициях и ритуалах, физиологических процессах, гендерных отношениях и т.п. могут быть переданы и использоваться системой ИИ, но никогда ею не будут глубоко поняты. (О понимании - в отдельном посте).
7. Может показаться странным, что я выделяю это в отдельный пункт, но знания человека очень привязаны к его физическому размеру. У человека есть знания и о микромире, и об объектах астрономической величины, но их их объем и детализация несоизмеримы с объемом и детализацией знаний об объектах, соразмерных человеку.
8. Темп жизни человека может не соответствовать задачам, решаемым конкретной системой ИИ. Например, человек, в отличие от компьютера, физически не может управлять реактивным самолетом на сверхмалых высотах.
9. Трудно сказать, какие именно общие знания необходимы конкретной системе ИИ. Человек не осознает бОльшую часть знаний, которые он использует ежеминутно.
10. Трудно сказать, в каком порядке нужно передавать знания. Человек получает новые знания в терминах уж известных ему понятий. Этот процесс начинается от рождения, начальная система понятий очень грубая и корректируется десятилетиями. Процесс приобретения знаний не сводится к простому добавлению. Новое знание нужно привязать к уже имеющимся. При этом, как правило:
а) часть имеющихся знаний, иногда довольно большая, может измениться;
б) модифицируется категориальный аппарат.
11. Нет определенности с формой представления знаний. Объем их огромен, и с самого начала их нужно накапливать в виде, позволяющем легко преобразовывать форму при необходимости. Кстати, для создания и ведения баз знаний понадобятся специальные компьютерные программы.
1. Как ни странно, нам сейчас неоткуда их взять для передачи. У нас нет некоего удовлетворяющего всех свода человеческих знаний, из которого можно было бы отобрать знания, нужные для ИИ. Первое, что приходит на ум, - энциклопедии и справочники. Но, во-первых, чтобы их читать и хоть как-то понимать нужны некоторые знания. Во-вторых, справочная литература покрывает лишь ничтожную долю процента от необходимых знаний. Например, размешивая сахар в чае, вы знаете следующее:
- в результате размешивания чай станет равномерно сладким (без размешивания будет сладким только на самом дне);
- в результате размешивания чай не поменяет цвет и запах, останется прозрачным, почти не изменит вязкость;
- если размешивать сахар, вращая ложку слишком быстро, то чай выплеснется;
- сахар растворится за несколько секунд (если чай горячий);
- чай не улетит вверх от малейшего движения ложки (что могло бы произойти в невесомости);
- чай остынет на несколько градусов за время размешивания;
- не стоит касаться ложкой стенок чашки и т.д. (сотни подобных утверждений)
2. Отсутствуют специалисты в области представления знаний. Какой-то крохотный шажок в подготовке таких специалистов был сделан при разработке экспертных систем. Есть специалисты, разрабатывающие т.н. онтологии, - их мало, и они занимаются лишь одной стороной проблемы.
3. Отдельная большая проблема - истинность информации. Даже узкоспециализированные научные тексты могут содержать ложную информацию (например, вывод, полученный без учета всех факторов). Есть наукообразные тексты, построенные на недостоверной информации. Есть общепринятая намеренная ложь. Например, в учебниках английского языка можно встретить утверждение, что неопределенный артикль не употребляется с именами собственными, - это не совсем так, но несколькими исключениями пренебрегают для упрощения изучения грамматики. Художественная литература - отдельная тема.
4. У ИИ будет другая сенсорная система, даже если мы попытаемся максимально приблизить её к нашей. Поэтому каких-то человеческих знаний будет не хватать (например, если у конкретного экземпляра ИИ будет инфракрасное зрение), а какое-то измерение, наоборот, не будет поддержано органами чувств ИИ. Например, вкусовые ощущения от яблока.
5. То же самое касается эффекторов. Если у системы с ИИ специальные манипуляторы вместо кистей рук, то эти манипуляторы должны быть поддержаны соответствующими знаниями о характере и результатах взаимодействия таких манипуляторов с большим количеством объектов, известных системе.
6. Знания об истории, литературе, политике, традициях и ритуалах, физиологических процессах, гендерных отношениях и т.п. могут быть переданы и использоваться системой ИИ, но никогда ею не будут глубоко поняты. (О понимании - в отдельном посте).
7. Может показаться странным, что я выделяю это в отдельный пункт, но знания человека очень привязаны к его физическому размеру. У человека есть знания и о микромире, и об объектах астрономической величины, но их их объем и детализация несоизмеримы с объемом и детализацией знаний об объектах, соразмерных человеку.
8. Темп жизни человека может не соответствовать задачам, решаемым конкретной системой ИИ. Например, человек, в отличие от компьютера, физически не может управлять реактивным самолетом на сверхмалых высотах.
9. Трудно сказать, какие именно общие знания необходимы конкретной системе ИИ. Человек не осознает бОльшую часть знаний, которые он использует ежеминутно.
10. Трудно сказать, в каком порядке нужно передавать знания. Человек получает новые знания в терминах уж известных ему понятий. Этот процесс начинается от рождения, начальная система понятий очень грубая и корректируется десятилетиями. Процесс приобретения знаний не сводится к простому добавлению. Новое знание нужно привязать к уже имеющимся. При этом, как правило:
а) часть имеющихся знаний, иногда довольно большая, может измениться;
б) модифицируется категориальный аппарат.
11. Нет определенности с формой представления знаний. Объем их огромен, и с самого начала их нужно накапливать в виде, позволяющем легко преобразовывать форму при необходимости. Кстати, для создания и ведения баз знаний понадобятся специальные компьютерные программы.