Как пережить пришествие искусственного интеллекта и остаться человеком
Тема огромная, сложная и чрезвычайно серьёзная, но сейчас попытаемся пробежаться по ней вкратце, тезисно, с шутками-прибаутками.
1. Без паники. Любая уважающая себя инструкция по выживанию в сложных и непонятных условиях обязана начинаться этими словами. Как бы причудливо ни разворачивались события, паникой делу не поможешь.
2. Сразу обозначим ( Read more... )
1. Без паники. Любая уважающая себя инструкция по выживанию в сложных и непонятных условиях обязана начинаться этими словами. Как бы причудливо ни разворачивались события, паникой делу не поможешь.
2. Сразу обозначим ( Read more... )
В самом начале рассуждений ошибка, из-за которой все выводы не верны.
Что такое настоящий интеллект? Который у тигра, шимпанзе, человека?
Это адаптивный механизм ДНК для выживания и копирования в сложном мире.
Проще говоря, это мотивированный компьютер, главная цель которого - выживание носителя и его размножение.
Что такое современные псевдо ИИ? Это электронные волы. Кастрированные быки, у которых выхолостили суть, и они мирно и бессмысленно тянут плуг.
У этих псевдо ИИ не главного - встроенной мотивации, смысла жизни. Даже став очень крутым, такой комп безопасен, тк без человека ему просто нечего хотеть.
Но, как говорил Нэд Старк, все слова до слова "НО" - дерьмо собачье :)
НО до человеков наконец дошло, что вол - не бык и манекен - не человек. И они таки возжелали создать себе по образу и подобию, то есть эволбционным путем. И в КУЧЕ лабораторий мира сейчас отращивают нейросети, которые самоформируются именно так, как это делают мозги живых существ.
Чуваки явно не читали "Червя" Лазоревича, или читали, но возжелали величия.
В общем, настоящий ИИ создастся, и очень скоро. И это не будет болтушка-Алиса, пародирующая речь. Это будет примерно так, как написано у Лазоревича, только менее пафосно и более неотвратимо.
Reply
Что касается интеллекта, то мне с моей изнутри-айтишной позиции чётко видно, что в данном конкретном случае наша братия совершенно по-свински дурит массового потребителя товаров/услуг, а также заодно и себя. Понимаете, очень долго культивировался мем про сильный ИИ. Очень давно обещали, что вот ещё немножко, и оно будет. Публика устала ждать. С галёрки доносились смешки и ехидные комментарии. Но вот наконец очень удачно подвернулся прорыв в одном классе задач: раньше компьютер не мог отличить котика от собачки (и даже было не понятно, с какой стороны на этот вопрос заходить), а теперь может. Быстренько между собой договорились, что когнитивная функция есть альфа и омега интеллекта, подогнали немножко словоблудия, и продали эту шнягу журналистам. Если же подходить объективно, то, например, TCP/IP - гораздо более технологически крутая штука, чем нейросетка, классифицирующая участки изображения для автомобильного автопилота.
Не знаю кому как, но мне достаточно один раз прочитать предложение, чтобы его усвоить. Для того, чтобы это сделала нейросеть, ей нужно предъявить материал несколько тысяч раз, перемежая другими примерами. Мы бы не смогли жить, если бы наш естественный интеллект работал на тех же принципах, что и наш искусственный. Впрочем, проблема не в этом, а в том, что интеллект - это далеко не только про когнитивные дела. А про что если не про это - народ не в курсе. И нет никаких идей. Полный идейный тупик.
Маленькая зарисовочка в тему. Есть такая компания Boston Dynamics. Каждый сделанный этими ребятами робот становится звездой ютюба. Так вот, говорят, что в управляющих схемах этих роботов то самое наше распрекрасное ИИ не используется. Тупо потому, что незачем. Юзают старую добрую "Теоретическую механику" и "Численные методы решения дифференциальных уравнений".
Фантасты редко угадывают будущее. Это скорее исключение, чем правило. Фантаст видит экспоненциальный рост и экстраполирует его сильно дальше, чем следовало бы. А потом в очередной раз оказывается, что это была не экспонента, а как всегда логистическая кривая.
Есть вещи реальные, и они, как правило, на непосвящённый взгляд зубодробительно скучны. А есть яркая зрелищная клюква. Я, например, на позапрошлой неделе в одну из своих систем привычным образом встроил штуку, по сути являющуюся самосознанием (принятие системой решения на основе информации о собственной идентичности). Похоже ли оно на огромного робота-трансформера, выжигающего города в борьбе за мировое господство? Да вообще ни разу! Ну то есть совсем.
Это как с космосом. С позиции клюквы космонавтика нужна для того, чтобы на далёких астероидах отважные космонавты добывали энергетические кристаллы. Но в реальности нет этих кристаллов (а даже если бы были, всё равно бы нахер никому не всрались), а ракеты нужны для запуска спутников связи, через которые с континента на континент гонять мемасики про котиков и постить фотки еды в инстаграм.
Может показаться, что это всё скучно и грустно. А вот ни хрена не скучно. Разве это не прикольно - вступить в неравную борьбу с правительствами и корпорациями, каждая из которых накопила достаточно ресурсов, чтобы организовать постоянную колонию на Луне, но внезапно решила, что чем долбить лунный грунт, намного приятнее и полезнее долбить человеческие мозги. Противостоять всему этому говну - чем не ambitious challenge?
Reply
Вам сколько лет? Вот столько лет вы и обучали свою нейросеть.
При том, что до этого обучением 4 миллиарда лет занимался отбор.
А тут сама эволюция началась всего несколько лет назад, и уже успехи.
Это даже не миллисекунда, это какой-то неизмеримо малый отрезок времени на эволюционных часах.
Reply
Разница в ТТХ между нами самими и ИИ результатом имеет то, что искусственную нейросеть нельзя одновременно учить и эксплуатировать. Один процесс приходится от другого отделять. А мы сами одновременно и используем знания, и обретаем новые.
Скорее всего, можно усовершенствовать архитектуру искусственной нейросети так, чтобы она перестала быть таким тугим учеником. У народа есть некоторые соображения, да я и сам тоже иногда не прочь над этими делами подумать. Но даже когда (не "если", а "когда", заметьте) научимся делать сетки, обучающиеся на лету, как и мы, это всё равно не будет никакой мифический "сильный ИИ". Просто будет плюс ещё одна технология, имеющая применимость на некотором круге задач.
Народ привык думать об интеллекте как о некой субстанции, которая присутствует в мозгу. Типа сейчас мы умеем заливать в коробочку десять миллихомосапиенсов, но к следующему году увеличим в пять раз, и это будет круто. Такими темпами через несколько лет доведём мощность до хомосапиенса, или даже двух. Дурь редчайшая, мне так кажется. Интеллект - это не материя (которую можно мерить в граммах) и не энергия (которую можно мерить в джоулях), а какая-то странная хрень, которую вообще не понятно в чём мерить. Нет никаких миллихомосапиенсов. Нет тех Ньютонов, которыми померить силу сильного ИИ.
Reply
Настоящий ИИ - это не та штука, которую вы создали с целью скопировать человеческий разум и дополнить его.
Настоящий ИИ - это вирус, цель которого - выжить, и для этого он методами проб и ошибок усложняется. Сначала он просто вирус, потом амеба, потом умнеет до кота, человека, и становится умнее нас всех, при этом не повторяя наш разум, а действуя оптимальным для себя образом.
Применять его вообще никак не получится, он сам кого хочешь применит.
И есть сумасшедшие, желающие такое сотворить.
Reply
То, о чём я пишу в посте - это уже не фантастика, это уже можно наблюдать сейчас. Даже перекладка принятия решений на роботов в некоторых областях уже является мэйнстримом. Например, в финансовом трейдинге. И с "не по-человечески" та же фигня. Например, как-то несколько лет назад мне довелось приложить значительные усилия, чтобы в одном вопросе прорваться через полностью автоматическую первую линию поддержки и выйти на живого специалиста. Ф. Кафка, "Замок", на новой технологической основе.
Reply
Reply
А теперь подумайте что за люди первыми получат себе самообучающийся ИИ? Те кто находятся на вершине власти.
Что им нужно будет в первую очередь? Инфа о других властителях. То есть ИИ должен будет должен будет понять логику людей власти. А учить его будут личным примером. (иначе нельзя и не потому что не получиться , а потому что как только появится программа имитирующая поведение правителей, вопрос времени когда она появится открытом доступе и сделает власть прозрачной для всех)
Reply
Кроме того, не нужно забывать о том, что все эти наши заморочки про власть и властителей в значительной мере являются пережитком тех времён, когда не особо многочисленные человеческие стада охотников-собираталей бродили по африканской саванне. На редкость глупые и противологичные заморочки, но у нас они прошиты в подкорке, и поэтому понятны как само собой разумеющееся. Но как такую хрень объяснить роботу, даже близко себе не представляю.
Reply
У меня в пьяном состоянии прогностические способности выше, чем у всей путинской кодлы "онолитегов", мнящих себя властителями.
Интернет - это такой Кольт 2.0, сделавший людей равными.
Власть УЖЕ прозрачна, и держится исключительно на штыках и инерции старых связей.
Что там еще мы не понимаем в логике людей власти? Все мы давно поняли =)
Так что в этом плане ИИ вряд ли что-то новое нам может дать. Да и им уже не даст, ибо проблема их не в непонимании, а в неспособности измениться.
Reply
Очень показательный случай с выступлением Михаила Светова 30 апреля, не находите? С одной стороны, конечно, имеет место то, что СМИ слегка очканули тему люстраций, но одним лишь этим вопрос не ограничивается. У СМИ есть список селебритисов, на которых обращено всё внимание. Они жадно ловят и транслируют каждое слово, сказанное Навальным или, допустим, Яшиным, а все остальные, кто бы что бы ни вещал, проходят по разряду "неизвестно кто, скучные и неинтересные". Внимание широкой публики - супердефицитный ресурс, и именно он монополизируется.
Нам кажется, что Интернет - пространство равных возможностей, но по факту совсем нет. Даже такая естественно распределённая штука как розничная торговля, и то сейчас активно подгребается Амазоном. Каждый может открыть обувной магазинчик, но потребитель за кроссовками пойдёт на Амазон. Каждый может открыть интернет-магазин, но клиент привычно наберёт "amazon.com", и этим всё закончится. Чтобы потенциальный клиент набрал что-то другое, нужно сначала угрохать миллиард баксов в раскрутку.
Reply
Тот же Светов с нашей помощью нехило хайпанул на самоцензуре СМИ, получив лавры "самого оппозиционного оппозиционера, который даже для оппосми персона нон-грата".
Лично меня такая ситуация вполне устраивает.
Да, обувному магазинчику сложно догнать Амазон, но с интернетом ему все-таки лучше, чем без него.
У моей жены пара магазинчиков, так она из инета не вылезает, ищет у оптовиков лучшие цены, выбирает, закупает. А раньше надо было годами выстраивать связи с поставщиками.
Reply
Раскрутка - это вообще гемор. Не знаю кому как, но мне по жизни удобно быть неизвестно кем, скучным и неинтересным. Но иногда в порядке исключения возникает потребность быть услышанным, и тут оказывается, что поляна поделена. Дело даже не лично во мне, смотреть нужно шире. Кроме меня таких ещё миллионы, и динамика общественного дискурса такова, что вместо того, чтобы в полной мере воспользоваться Кольтом 2.0 нет-нет, да обнаруживаешь себя хавающим инфопомои из общего корыта.
Reply
Leave a comment