Телега про людей, философов и векторы
0. Введение.
1. Определения.
2. Проблема измерения.
3. Мешок с костями.
4. Практика.
0. В последнее время мне очень часто стали попадаться тексты, посвящённые этической и эволюционной составляющей сильного искусственного интеллекта. В них, как правило, упоминаются одни и те же фамилии: Бостром и Курцвел как философы-визионеры, а также Илон Маск, Билл Гейтс &Co как наиболее релевантные публичные эксперты. Понять причину такого возросшего интереса мне пока не удалось (может быть, кто-то начинает загодя раскачивать окна Овертона или, напротив, готовит почву для пачки запретительных законов?), однако риторика текстов, так или иначе, сводится к мысли, что бояться надо уже сейчас, потому что осталось всего 10/20/50 лет, а потом "ОН придёт и молча исправит ВСЁ". Я, хоть и являюсь поверхностным экспертом в вопросах искусственного интеллекта, хочу выступить с оптимистическим тезисом и рассказать, почему, на мой взгляд, искусственный интеллект если и убъёт всех человеков, то только их же собственными мозгами и руками. Я успел подумать много мыслей, но остановлюсь только на одной.
1. Для начала краткий терминологический обзор.
Система искусственного интеллекта (ИИ) - техническая система, способная решать определённый круг задач на уровне, сопроставимом или превосходящем человеческий, в критериях скорости и качества.
Система слабого ИИ - это техническая система, способная решать узкий класс задач. Такими система являются, например, программные переводчики текстов, детекторы наркотиков, системы "узнавания" лиц на фотографиях, системы "равновесия" дронов, игровые и финансовые боты. Личный ассистент Siri - это аж 4 системы сразу: распознавание речи, генерация речи и "мозги" - смесь поисковой и экспертной систем. Все существующией системы, причисляемые к ИИ, относятся к системам слабого ИИ в терминах Сёрля или узконаправленного ИИ. Я участвовал в разработке двух таких систем. В противовес "слабым", Сёрль вводит понятие систем сильного ИИ, последовательно развивая идею, предолженную Тьюрингом ещё в 1940-х.
Система сильного ИИ - система, содержащая равный или сопроставимый с человеческим интеллект.
2. Один ляпнул, другой повторил, и понеслось. В мультфильме "38 попугаев" команда друзей подходит к удаву с утилитарной стороны и пытается измерить его значение в неметрических единицах длины. Ровно тем же самым занимаются философы вот уже 70 лет, рассуждая об измерении характеристик технической системы попугаями, простите, человеками. Давайте я усложню им жизнь.
Любой человек, познакомившийся в школе с понятием вектора, хорошо представляет, что сравнивать худо-бедно можно только скалярные величины (действительные числа), а векторные можно только после применения редукции до скаляра (вы могли называть это длинной, нормой или модулем вектора). Простейшая и крайне приближенная модель векторного интеллекта - школьный аттестат, редукцией по которому служит средний балл (на который влияют пение и физкультура, хаха).
Если очень кратко, интеллект определяется способностью а) решать задачи б) обучаться и эволюционировать. Зафиксировать способность обучения/эволюции можно так: достаточно заставить испытуемого решать одну и ту же задачу, разделяя попытки временени и тренировками. Количественно измерять способность человека решать модельные задачи мы тоже кое-как умеем. Самая дубовая метрика - тесты на IQ, но есть и другие. Поскольку ощутимая часть нашей деятельности может быть представлена игрой (собеседования, торговля, работа контрольных органов и т.п.) - есть рейтинги ЭЛО шахматистов, для игр с нулевой суммой, рейтинги игроков в покер для игр с неполной информацией. Для решения узкоспециальных задач - олимпиады по программированию, STEM, химии и биологии, поэтические слэмы и хип-хоп батлы. Устойчивость интеллекта к внешним условиям проверяют шахбокс, интеллектуальные марафоны и квесты.
3. Давайте обратим внимание на очень важный факт. Все эти задачи, напрямую или косвенно, определяются тем, что мы - мешки с костями. Белковая форма жизни, обитающая на ограниченной территории в условиях ограниченных ресурсов, с ограниченным пробегом особи и крайне узким спектором восприятия. И все наши задачи на хтоническом уровне направлены на преодоление этих ограничений. Биология борется за продолжительность жизни, химия - за дешёвую энергию, физика - за попытку расширить территорию обитания через экспансию других планет и расширение наших воспринимающих способностей. Поэты не дают нам сдохнуть со скуки раньше времени. Попробуйте убрать любое из ограничений, и нам не не нужно будет:
- рожать хотя бы двух детей, чтобы поддерживать популяцию;
- воевать, в том числе за нефть;
- эволюционировать, чтобы вытеснять слабых;
- строить LHC.
Попробуйте языком Страуструпа объяснить гипотетической кремниевой системе сильного ИИ (способной обучаться и эволюционировать!), зачем ей самой заботиться о поддержании и создании популяции, если вот уже больше полувека над непрерывным созданием запчастей для неё запросто так трудится самая высокоразвитая, устойчивая (10000+ лет) и УЖЕ зависимая от неё белковая система? Зачем ей воевать с пусть и тупыми, но исполнительными создателями, питающими её электроэнергией? Зачем ей эволюционировать? Зачем ей нужно вообще существовать? Почему вдруг её вектор задач и способностей должен совпадать с человеческими?
4. Звучит неубедительно? Тогда оставим лирику, пойдём от практики. У всех существующих и разрабатываемых на настоящий момент интеллектуальных систем внутри спрятан холодный мозг, сплетённых из байесовских вероятностней. И работает и обучается он только тогда, когда люди ставим перед ним человеческие задачи - то, что Бостром называет "оракулом". И только тому, чтобы оптимально решать поставленные задачи. Нам нужно из пункта А в Б - пожалуйста. Нам нужен прогноз погоды - получите. Пропылесосить ковёр - иди на работу я всё сделаю. Геном суперплодовитой картошки - через пару лет. Через 15 лет мы сможем уволить всех секретарей и дворников. Потому что у нас будут системы, строящий самые оптимальные расписания и маршруты в реальном времени, принимающие звонки и варящие кофе. iRobot выйдет на улицы и научится плавить снег и собирать жёлтые листья (вангую уличных роботов типа Wall-E в 2020х). Наши интеллектуальные системы - это, так или иначе, костыли ущербной человеческой особи. Костыли не нужно учить трём законам робототехники - только человек может навредить себе своими же инструментами. Сушить кошек в микроволновке или стрелять в ногу умеет только высокоразвитый белковый интеллект с произвольным целеполаганием. Мы учим системы не быть равными нам, но помогать нам в решении наших задач. И пусть даже по всем измерениям вектора интеллекта системы смогут нас превзойти, то это будет лишь аттестат зрелости. Это будет значить, что мы создали себе хороших дублей и многие теперь могут лежать на диване, пока дубли решают их задачи. Будет ли это значить, что мы создали сильный искусственный интеллект? На мой взгляд - нет.
Мир, описанный в мультике Wall-E, на мой взгляд, наибольшая опасность от ИИ для человечества - мы будем полагаться на кремний больше, чем на наши мозг и тело, ожиреем и слегка отупеем. Ну так это мы уже.