Философия искинов 1: Тезисы программы одного из путей разработки
1. В качестве основной проблемы для бурно развивающихся искусственных интеллектов (искинов, ИИ) сейчас видится возможность искина неконтролируемо выйти за пределы, предустановленные разработчиком. [1]
2. Для неконтролируемого выхода пока известно одно представление - эволюция - то, что порождается основным свойством жизни - постоянно вопрошать свои пределы.
3. Привлечение эволюционного подхода к искинам требует, во-первых, раскрыть / операционализировать то самое вопрошание своих пределов живым организмом, и, во-вторых, как-то поместить искины в живое, или - исключая ненужные контексты пользуемых слов - в квази-живое, *живое. [2]
4. При определении качества *живой со свойством вопрошать свои пределы появляется возможность введения меры «насколько *живой» - с пониманием степени опасности вовлечения разрабатываемого искина в его эволюцию. [3]
5. Мы будем рассматривать здесь лишь те искины, которые уже практически существуют, в старательном предвидении следующих шагов в развитии их функционала. Пока практически видны LLM, и разного рода логистические роботы, включая военные.
#ФИИ
[1] Злая воля разработчика - это конечно же тоже проблема, но это уже известная проблема для порождения оружия массового уничтожения, поэтому я ее вывожу за скобки. Также как и ошибку разработчика - порождение в разработке свойств искина, отличных от предусмотренных тех-заданием. В селекции бывает и такое.
[2] Будем использовать знак (*) для обозначения расширения термина из обычно понимаемых на сферу ИИ - тем самым отстраняясь от контекстов «споров о словах».
[3] Эволюция - естественный процесс, отличный от процесса селекция, свойственного для развития искусственной среды человечества. Выведенный кем-то зловредный вирус, и случайно возникший за пределами человеческой искусственности - это разные зловредные вирусы. Полная неподконтрольность, рассматриваемая на выбранном пути разработки философии, возникает только во втором случае.
2. Для неконтролируемого выхода пока известно одно представление - эволюция - то, что порождается основным свойством жизни - постоянно вопрошать свои пределы.
3. Привлечение эволюционного подхода к искинам требует, во-первых, раскрыть / операционализировать то самое вопрошание своих пределов живым организмом, и, во-вторых, как-то поместить искины в живое, или - исключая ненужные контексты пользуемых слов - в квази-живое, *живое. [2]
4. При определении качества *живой со свойством вопрошать свои пределы появляется возможность введения меры «насколько *живой» - с пониманием степени опасности вовлечения разрабатываемого искина в его эволюцию. [3]
5. Мы будем рассматривать здесь лишь те искины, которые уже практически существуют, в старательном предвидении следующих шагов в развитии их функционала. Пока практически видны LLM, и разного рода логистические роботы, включая военные.
#ФИИ
[1] Злая воля разработчика - это конечно же тоже проблема, но это уже известная проблема для порождения оружия массового уничтожения, поэтому я ее вывожу за скобки. Также как и ошибку разработчика - порождение в разработке свойств искина, отличных от предусмотренных тех-заданием. В селекции бывает и такое.
[2] Будем использовать знак (*) для обозначения расширения термина из обычно понимаемых на сферу ИИ - тем самым отстраняясь от контекстов «споров о словах».
[3] Эволюция - естественный процесс, отличный от процесса селекция, свойственного для развития искусственной среды человечества. Выведенный кем-то зловредный вирус, и случайно возникший за пределами человеческой искусственности - это разные зловредные вирусы. Полная неподконтрольность, рассматриваемая на выбранном пути разработки философии, возникает только во втором случае.