Кентавр
Кортекс и экзокортекс.
Персональный ассистент.
ВЫМИРАНИЕ ИЛИ БЕССМЕРТИЕ? Часть №1
ВЫМИРАНИЕ ИЛИ БЕССМЕРТИЕ? Часть №2
ВЫМИРАНИЕ ИЛИ БЕССМЕРТИЕ? Часть №3
Колосс Человеческий Часть №1
Колосс Человеческий Часть №2
Колосс Человеческий Часть №3
Колосс Человеческий Часть №4
Колосс Человеческий Часть №5
Колосс Человеческий Часть №6
«Карта будущего» | Часть №1
«Карта будущего» | Часть №2
«Карта будущего» | Часть №3
«Карта будущего» | Часть №4
Теорема "No Free Lunch" из области машинного обучения:
Не существует алгоритма для решения конкретной проблемы (поиска, оптимизации и т.п.), который работает лучше других на всем множестве задач. Если некоторый алгоритм работает лучше (быстрее, точнее) на одних задачах, значит, на других задачах он будет хуже.
Интеллект должен специализироваться.
В 1962 году - за несколько лет до того, как был изобретен интернет, и до создания первого суперкомпьютера - Даг Энгельбарт изучал, как инструментарий формируют наше мышление. В то время большинство коллег Дага относились к компьютерам, как к способу ускоренного перемалывания цифровых данных. Но Дагу в компьютерах открылось нечто более глубокое: он увидел в них способ усилить человеческий разум.
Не то чтобы усиление человеческих возможностей было чем-то новым. У нас нет когтей и клыков. И поэтому наши предки усилили эту недостачу копьями и стрелами. У нас нет большой рабочей памяти. И поэтому наши предки увеличили свои познавательные способности с помощью счетов и письменности.
И эти инструменты не просто облегчали жизнь человека - они полностью изменили то, как жили люди.
Особенно письменность: это был не просто способ записи событий. Этот инструмент привел к созданию математики, науки, истории, литературного искусства и других столпов современной цивилизации.
И чтобы наглядно доказать это, Даг привязал кирпич к карандашу. Сделав это, он хотел показать, как ослабление инструментария (в данном случае, ослабление функциональных возможностей карандаша для выполнения процесса письма) делает весьма затруднительным даже написание одного единственного слова.
Ослабление функциональных возможностей инструментария на низшем уровне просто перечеркивает возможность его применения на более высоком уровне.
Инструмент не «просто» делает какую-то деятельность проще - он допускает новые, ранее невозможные способы мышления, жизни, бытия.
Стив Джобс однажды назвал компьютер велосипедом для ума. Обратите внимание на метафору велосипеда, а не на что-то вроде автомобиля. Велосипед позволяет вам двигаться быстрее, чем с помощью только вашего тела. Но, в отличие от автомобиля, велосипед работает исключительно с помощью вашего тела, являясь его усилителем (а заодно и оздоровляя ваше тело).
Вот оно - объединение силы металла и колес с человеческим сердцем и мышцами.
Вот оно - сотрудничество людей и вещиц.
Вот он - кентавр.
Когда вы создаете команду Человек + AI, самым трудном элементом является не AI и даже не Человек.
Самый трудный для реализации элемент - это объединяющий их «+».
Чтоб понять это, для начала, нужно разобраться, что является сильными и слабыми сторонами людей и AI.
✔️ Сильные стороны человека:
Не смотрите на всемирно известных лауреатов - смотрите на детей.
Дети, даже совсем маленькие, уже владеют: интуицией, аналогиями, творчеством, сочувствием, социальными навыками.
✔️ Слабые стороны человека:
Если вы хотите увидеть, в чем слабости людей, идите в школу. Здесь вы увидите все то, что чрезвычайно сложно для человеческого интеллекта, и потому требует многолетнего обучения для получения даже базового уровня: арифметика, способность ко всевозможным вычислениям, память, логика, способность к количественному мышлению. Обратите внимание, что всё это ваш телефон может делать лучше и быстрее, чем самый умный из людей.
✔️ Сильные стороны AI:
Компьютеры, очевидно, лучше всего подходят для вычислений. Они умеют перемалывать триллионы чисел, просматривая миллиарды точек данных, учитывая миллионы возможностей.
✔️ Слабые стороны AI:
Оперирование с числами может быть наиболее сильной стороной AI, но это также может быть и их наибольшей слабостью.
Вы можете тренировать AI только в том случае, если у вас есть численно измеримая целевая функция. Иными словами, если есть численное различие между лучшими и худшими ответами.
К слову всюду, где вы не можете просто оценивать все ответы в одном измерении от лучшего к худшему.
Вывод: AI лучше всего подходит для выбора ответов, а люди - для выбора вопросов.
Кентавр - симбиоз интеллекта человека и AI - человек выбирает вопросы в форме постановки целей и ограничений, в то время как AI генерирует ответы, демонстрируя в реальном времени несколько вариантов возможных ответов на заданный человеком вопрос. Но это не просто односторонний разговор: человек может отреагировать на ответы AI, задавая ему более глубокие вопросы, собирая и комбинируя ответы, а также направляя AI с помощью своей интуиции.
Сочетание возможностей интуиции и логики, качественно превосходит их возможности в отдельности.
Кентавр (человек + AI) обыгрывает не только человека, но и AI.
Это связано с тем, что, вопреки всяким ненаучным интернет-тестам на IQ, интеллект имеет вовсе не одно измерение. Он многомерен. Так называемый «g-фактор», также известный как «общий интеллект», определяет лишь 30-50% производительности индивида на различных познавательных задачах.
Даг Энгельбарт предполагал, что компьютеры станут инструментами интеллектуального и художественного творчества. А получилось, что современные компьютеризованные устройства, в основном, ориентированы не на созидание, а на потребление.
Идея IA постепенно забывалась по мере того, как технологический фокус неуклонно смещался с инструментов для создателей на инструменты для потребителей.
Мы надеялись обрести велосипед для ума, а получили кресла-реклайнеры для ума.
Однако сейчас есть шанс переплести в единую технологическую оплетку истории развития разума:
IA может дать AI человеческое партнерство, в котором последний весьма нуждается, чтобы продолжать соответствовать нашими целями и ценностями.
В свою очередь, AI может дать IA новые колеса для велосипеда нашего разума.
AIA - Усиление Искусственного Интеллекта (Artificial Intelligence Augmentation).
Если выбирать только одну - саму важную идею в этом посте, пусть это будет идея о самом недооцененном трюке матушки-природы - идея симбиоза.
Это древнегреческое слово, которое означает «жить вместе».
Симбиоз показывает:
• вы можете иметь плодотворное сотрудничество, даже если у вас разные навыки, разные цели и даже если вы принадлежите к разным видам;
• мир зачастую не является игрой с нулевой суммой. Наш мир вовсе не навязывает нам обязательное противостояние людей против AI, против кентавров или против других людей.
Симбиоз - это когда двоим хорошо не вопреки, а вследствие их различий.
Симбиоз - это знак «+» между ними.
Оба игрока могут выиграть.
Новая глава в истории человечества только начинается, и нам - живущим вместе - предстоит написать, что будет дальше.
/Источник/
P.S.
«Интеллект кентавра» - это и есть «Розовый фламинго» в области ИИ.
• Риски редкого, непредсказуемого катастрофического события - т.н. Черного лебедя - не самая главная опасность в этом мире.
• Куда опасней риски у т.н. Серого лебедя - предсказуемого катастрофического события, на которое люди склонны закрывать глаза или бессознательно игнорировать.
- Во-первых, потому что Серые лебеди случаются куда чаще Черных.
- Во-вторых, потому что Черных лебедей в принципе невозможно избежать - они же непредсказуемы.
• Однако самые неприятные и обидные риски несет т.н. Розовый фламинго - предсказуемое катастрофическое событие, игнорируемое руководством (компании или целого государства) под воздействием заинтересованных групп влияния вплоть до момента свершения катастрофы.
• Большинство страшных катастроф - это вовсе не Черные, а Серые лебеди.
• Ну а самый худший вариант Серых лебедей - это Розовые фламинго. Так называют класс предсказуемых катастроф, риски которых игнорируются вследствие когнитивных предубеждений высшего руководства, на которое влияют институциональные группы интересов.
• Черные лебеди неизбежны, но Серых лебедей и Розовых фламинго можно избежать, если вовремя перестать их игнорировать.
/Источник/
Картинка кликабельна