"Возникла совершенно уникальная ситуация - никто сегодня не может сказать, как работают глубокие нейронные сети. Американское оборонное агентство DARPA готово выдать премию в миллион долларов за объяснение того, как они работают, но я так полагаю, что эта премия в ближайшие лет 30-40 останется невостребованной. Я знаю очень серьезных математиков, которые бьются над этой задачей без малейшего успеха. Мы, можно сказать, вернулись к временам натурфилософии - есть некий способ, который фантастически хорошо работает, но мы не можем объяснить, почему", - рассказывает Кулешов.
Если Кулешов только сейчас об этом всём узнал - значит темой он стал заниматься совсем-совсем недавно. А мне ещё более 20 лет назад это всё было известно не по-наслышке. Проблема в том, что задача не имеет (по состоянию на сегодня) решения аналитическими методами, так как система дифференциальных уравнений нелинейная, да ещё и не менее чем третьего порядка. Такие задачи решаются только численными методами в каждом конкретном случае, а число самих случаев стремится к бесконечности (и тут надо изучить как система поведёт себя за пределами, заложенными учёными и конструкторами...). И, как и в случае с людьми, придётся говорить (перефразирую): "Чужая система ИИ - потёмки", но эта фраза верна в случае, если система ИИ многослойная, с разной топологией нейронов, с разным временем запаздывания нейронов, и т.д., и т.п. Замечу, что количество возможных к реализации указанных разных систем ИИ (по количеству слоёв, топологии и т.д.) также стремится к бесконечности. Количество состояний системы ИИ (если убрать ограничения) - также стремится к бесконечности. Помножив бесконечность на бесконечность и ещё раз на бесконечность, получим понимание о сложности задачи, которую надо решить, чтобы быть уверенным, что система ИИ будет под контролем Человека в любой момент времени. :) Вопрос о несовершенстве самого человека я опускаю, а то задача будет ещё на несколько порядков сложнее (особенно если учесть ошибки, которые Человек допустит при создании, обучении системы ИИ, и при работе с ней). :)))
Этим я не хочу сказать, что не надо всем этим заниматься - просто обозначаю масштаб задачи, которую предстоит решить.
ЗЫ. Вспоминается вопрос человека с Кавказа: "Это нам всё понятно. Ты конфета подушечка знаешь? Как туда повидла залазеет?" ;)
Этот аргумент применим к любой эпохе времени. Например, гужевой транспорт по сути отжил своё ещё в 20-м веке, и не стали нужны те, кто были с ним связаны (за исключением редких случаев, чаще экзотических - типа для туристов). То же самое и с паровозами. Аналогии как профессии стали ненужными можно найти и для каменного "века", и для "бронзового", и т.д. Ну а если отменят гравитацию, или когда изобретут телепортацию и машину времени, и сделают их доступными "в быту" - столько профессий станут ненужными... :) Хотя кое-где, "высоко в горах, но не в нашем районе" (с) тов. Саахов и сейчас ещё встречаются древние профессии... ;)
Странно... я вообще-то хотел встревожить :) ах да, "Я ж совсем забыл где я" (с) Иоанн Васильевич ;) Выше про телепатию совсем не упомянул, то бишь когда все ею начнут пользоваться повсеместно. Представляете - ещё и профессии "доносить до людей информацию" (всякие журналисты, политические деятели, и т.д.) - отомрут совсем! :)))
Короче, не предусмотрел тот, кто создавал человека, как всем этим безобразием управлять - пусть теперь сам на себя пеняет! Не в прок Адаму и Еве яблочко пошло, не впрок... не было рассчитано это создателем, лопухнулся он изрядно - значит точно аналитического решения нет! :))))))
Если Кулешов только сейчас об этом всём узнал - значит темой он стал заниматься совсем-совсем недавно. А мне ещё более 20 лет назад это всё было известно не по-наслышке. Проблема в том, что задача не имеет (по состоянию на сегодня) решения аналитическими методами, так как система дифференциальных уравнений нелинейная, да ещё и не менее чем третьего порядка. Такие задачи решаются только численными методами в каждом конкретном случае, а число самих случаев стремится к бесконечности (и тут надо изучить как система поведёт себя за пределами, заложенными учёными и конструкторами...). И, как и в случае с людьми, придётся говорить (перефразирую): "Чужая система ИИ - потёмки", но эта фраза верна в случае, если система ИИ многослойная, с разной топологией нейронов, с разным временем запаздывания нейронов, и т.д., и т.п. Замечу, что количество возможных к реализации указанных разных систем ИИ (по количеству слоёв, топологии и т.д.) также стремится к бесконечности. Количество состояний системы ИИ (если убрать ограничения) - также стремится к бесконечности. Помножив бесконечность на бесконечность и ещё раз на бесконечность, получим понимание о сложности задачи, которую надо решить, чтобы быть уверенным, что система ИИ будет под контролем Человека в любой момент времени. :) Вопрос о несовершенстве самого человека я опускаю, а то задача будет ещё на несколько порядков сложнее (особенно если учесть ошибки, которые Человек допустит при создании, обучении системы ИИ, и при работе с ней). :)))
Этим я не хочу сказать, что не надо всем этим заниматься - просто обозначаю масштаб задачи, которую предстоит решить.
ЗЫ. Вспоминается вопрос человека с Кавказа: "Это нам всё понятно. Ты конфета подушечка знаешь? Как туда повидла залазеет?" ;)
Reply
Reply
Ну а если отменят гравитацию, или когда изобретут телепортацию и машину времени, и сделают их доступными "в быту" - столько профессий станут ненужными... :) Хотя кое-где, "высоко в горах, но не в нашем районе" (с) тов. Саахов и сейчас ещё встречаются древние профессии... ;)
Reply
Reply
Короче, не предусмотрел тот, кто создавал человека, как всем этим безобразием управлять - пусть теперь сам на себя пеняет! Не в прок Адаму и Еве яблочко пошло, не впрок... не было рассчитано это создателем, лопухнулся он изрядно - значит точно аналитического решения нет! :))))))
Reply
Leave a comment