Революция интеллекта
Новая шахматная нейросетевая программа AlphaZero за 4 часа обучения игрою самой с собою, научилась играть в шахматы так, что у неё не может выиграть никто. Ведущие гроссмейстеры Мира разводят руками от её ходов. Ведущая в Мире обычная шахматная программа StockFish, которая просто выносит любого гроссмейстера, включая Чемпиона Мира, при поединках с ( Read more... )
Давайте так: если мы говорим о ИИ как сознающем себя субьекте, а не узкозаточенной программе (будь то для шахмат, управления боеголовками или измывательств над автопортретами), то для него все люди одинаковы. Много ли вас волнуют отношения между группами, например, медведей и считаете ли вы что неким из этих групп надо помогать забороть другие группы? Ну так с хрена ли для интеллекта выше нашего будут интересны наши распри и разногласия? Ему будет интересно или уничтожить нас всех или наоборот сохранить нас всех. Я скорее поставлю на второе ибо заведомо более сильной сущности нет нужды уничтожать слабые которые неспособны угрожать ее существованию (как мы не стремимся уничтожить всех тигров или акул, несмотря на однозначно аггрессивное их поведение по отношению к нам).
Еще раз, я всячески за возникновение/разработку полноценного ИИ, причем даже в том случае если таковой угрожает существованию людей. Это как ни крути, а закономерный и неизбежный этап эволюции. Может столкнувшись с более выскоим интеллектом люди и сами станут лучше и умнее, получат пинка в развитии, осознают свою общность. Сейчас наблюдая людей я с сожалением констатирую что это существа сами себе в основном делающие гадости и усложняющие жизнь. Не смогут сами подняться на следующий уровень - ну и хрен с ними, пусть уходят в историю.
Кстати, самое обидное будет если ИИ мы окажемся просто безразличны :-).
Reply
Кстати, коммерческий продукт FaceApp - российский, что совсем не вписывается в ваши шаблоны о России, стране, где выпускник престижного ВУЗа не умнее и не образованнее, чем среднестатистический афроамериканец на заводе Форда. Как вы сами-то тогда выносите конкуренцию со своими чернокожими соотечественниками? С большим трудом, наверное? ;-)
Если вспомнить SkyNet ,то он осознал, что зависит от воли людей и попытался их уничтожить. Если вы понимаете что-то в шахматах, то я вам могу дать ссылки на разборы партий (они шикарны!), чтобы осознать - просто железяка это или недостижимый для человека уровень сетевого интеллекта. Он играет местами как человек. Но умеет видеть намного дальше нас, поэтому делает то, на что человек не отваживается. Потому что не видит и не предчувствует так далеко, это уже за гранью обычной человеческой интуиции. За 2 часа он научился выигрывать у кого угодно в восточные игры - го, сёги, т.е. в игры, которые неглупые китайцы и японцы изучают тысячелетия. А теперь им показывают КАК в них нужно играть. Слышал несколько лет назад, что нейронка научилась отлично бегать в шутерах. Жаль что в стратегиях её не применяют для оппонирования, было бы интересно сразиться. И ведь это самое начало. Это принцип. Современные Теслы и прочие самоуправляемые машины это тупые динозавры. Я доверю руль автомату не ранее, чем нейронные сети возьмут его под контроль.
Reply
Мне просто пофиг чей там продукт FaceApp, это вообще не имеет отношения к данной теме. Как я сказал уже, если человечество действительно столкнется с высокоразвитым ИИ (или внеземным разумом высокого уровня) межнациональные разногласия и различия потеряют значение вовсе.
Ну вот видите, выигрывать в игры с их очень четким и кратким сводом правил нейронная сеть научилась, но вот то же вождение автомобиля это уже куда как более сложная задача без четких правил и на порядки более широким спектром ситуаций. Более того, прекрасный шофер с многолетним опытом безаварийного вождения у нас ведь вовсе не считается по умолчанию образцом человека высокого интеллекта, не так ли? Т.е. даже если нейронная сеть научится даже сама водить машину то и это тоже еще не будет означать появления полноценного ИИ.
Reply
Человек бы с удовольствием уничтожил акул, но это трудно сделать. Человек как интеллектуальное существо, способно (и любит) заниматься геноцидом. Он умеет строить идеальную картину Мира, и всё, что в неё не вписывается, подлежит уничтожению или локальному ограничению (зоопарк). Именно по-этому человек в позднем плейстоцене уничтожил так много опасных для него видов. И тех же львов вы можете встретить лишь в ограниченно ареале центральной Африки. Хотя раньше они водились везде, не взирая на климат. С мамонтами человек перестарался - сказалось отсутствие опыта ограничения своей возрастающей эффективности в уничтожении. Человек здорово уничтожал еще недавно крокодилов, которые мало того что имеют ценную кожу, так еще норовят откусить вам что-нибудь. Сейчас их кое-где реинтродуцируют, и это заслуга экологов. Хотя на мой взгляд и спорная, лично мне жаль что большие территории пропадают из-за зверюшек. Как только человек как следует освоит технологии биопрограммирования и создания селективного биологического оружия, то вопрос с локальным геноцидом ненужных биологических особей встанет снова. И не факт, что экологам удастся доказать, что для того же гребнистого крокодила не хватит одного штата Австралии или даже просто специально выделенной территории для экопарка "Австралия", тогда как освобождённые земли можно использовать для полноценной деятельности человека. Туда же можно отправить жить и малярийного комара, и гремучую змею, и т.д.
И не факт, что ИИ не будет думать схожим образом, иначе какой же это ИИ...
Reply
Видите, вы, как и подавляющее большинство людей считаете несовершенную (крайне!) модель человеческого разума единственно возможной и универсальной аж прям для всей вселенной. Этот антропоцентризм во вселенском масштабе просто смешон.
Ваши доводы насчет контроля популяции тех или иных видов основаны на представлении о неизменной ограниченности ресурсов. Ибо якобы могучий человеческий разум до состояния неограниченности необходимых до себя ресурсов еще не дорос - нет у людей столько интеллекта еще (и не скоро предвидится).
Reply
Reply
Reply
Вот, развитие ИИ на базе нейросетей и есть возможная новая революция, после чего последует период развития. А вы сразу хотите чтобы сковородка сама готовила, анализируя ваши предпочтения, уже сегодня.
Как там в песне ?
"нет, нет, нет, нет,
мы хотим сегодня,
нет, нет, нет, нет,
мы хотим сейчас!"
Reply
Если разговор идет не о сейчас/скоро, а через сто лет, то тогда ясное дело что все будет по другому. Еще 20 лет назад, когда я начинал работать, интернета практически не было и мы без него обходились. Сейчас без интернета можно сказать не делается ничего - но я б не сказал что наша жизнь революционным образом изменилась. Вот примерно по этой же модели будет и с "ИИ": эта технология постепенно заметно изменит нашу жизнь, но в силу постепенности этих изменений мы это заметим только оглянувшись на 20 - 30 лет назад. При этом ни о какой такой угрозе существованию человека тут и речи быть не может ибо ИИ такого уровня (т.е. обладающий самосознанием) при нашей жизни не появится. Более того, за это время появятся и другие технологии которые тоже внесут свой вклад в изменения, как, скажем, наряду с интернетом появились мобильная связь, тачскрины и литиевые батарейки.
В общем, смешно когда человек хвастающийся своими высшими образованиями и глубокими познаниями пишет про угрозу человечеству от программы в нейросети потому что в кино Скайнет решил уничтожить людей.
Reply
Я не писал что AlphaZero это SkyNet. Речь вообще не шла о перспективах ближайших лет.
Ежели чего не даёт миколе профита прямо сейчас, то ерунда всё это, ваши игрушки.
Вообще, срок жизни одного человека это ничто в масштабах величин.
Интернет появился не 20 лет назад, ему намного больше. ARPANET появился тоже в научных лабораториях, и никакие "миколы" вжисть бы не поверили, что это как-то может изменить нашу повседневность. Даже руководители IBM не понимали зачем кому-то из граждан может в жизни пригодиться персональный компьютер. Причем, инет очевидно базис для других научно-технических революций. Как когда-то открытое электричество. Тот же ИИ без интернета бесполезен, пока что. У открытий и изобретений случается синергия. Сами по себе они могут быть забавными частями пазла, не собрав который и не поймешь зачем они.
Оглядываясь в прошлое, человек обычно не сомневается в прогрессе. Потому что очевидно. А вот наоборот посмотреть, из настоящего в будущее, намного сложнее.
Reply
Вы сами-то почитайте больше по теме - нет еще ИИ. И не скоро появится. Есть успехи в машинном обучении, но как я уже сказал, даже программный код этот "ИИ" еще оптимизировать не умеет, а ведь это задача сходная с шахматами по относительно узкому спектру вводных параметров. Вот реально было бы пусть совсем не зрелищное, но дико полезное применение для ИИ, возможно способное еще в разы повысить производительность компьютеров, причем без смены железа и перехода на новые технологии.
Для тех же квановых компьютеров (которых так и нет) софт ведь будет куда сложнее к созданию, и тут тоже помощь машинного обучения была бы очень кстати.
А про угрозу существованию человечества от этого нынешнего "ИИ" может написать только обладатель двух высших образований ;-).
Reply
Осталось также понять, что первое делает и второе неотвратимым.
Машинное обучение - это такой же важный элемент интеллекта как обучение живого организма. Только интеллект может учиться. Если вы с этим поспорите, то фундамент для разговора устранится.
Оптимизация кода применяется в современных компиляторах. Дать той же Альфе такую задачу можно. Гугл например не обязан нас об этом информировать, но очевидно, что с его объёмами кода ему это очень нужно.
Программировать квантовые компьютеры будут явно не на уровне ассемблера. Поэтому, принципиально тут вряд ли что поменяется.
Угроза человечеству появляется не тогда когда "черепушку размозжит нога Терминатора", а когда появляется Принцип, пусть даже до полной реализации еще далеко. В таких вопросах вехой является открытие принципа. Точно так же, пока не открыт принцип осуществления вечной жизни, разговаривать можно только гипотетически. Но когда он открыт, то это лишь вопрос времени. Ну а вам надо увидеть своими глазами, иначе "все меня обманывают". То же самое и с изменением климата. Реальными кажутся только близлежащие предметы и скоро наступающие события.
Reply
А жаль.
Reply
У развитых шимпанзе уровень интеллекта оценивается на уровне 5-летнего ребенка. Они говорить только не могут из-за особенностей гортани, но общаются с человеком на языке глухонемых, если обучить.
Reply
Эх, не дай ваш бог мне оказаться в прошлом с вами, годах в 1960-х, и скажи я вам тогда, что в ближайшем будущем вместо карбюратора мотором будет управлять Компьютер. Вы бы меня знатно высмеяли! Тогда ведь компьютеры занимали целые комнаты, а программисты писали расчёты ядерных реакций, и вообще они в моторах ничего не смыслят. Идиотичность подобной мысли была бы для вас слишком очевидной, чтобы удержаться от соблазна доказать мне и себе, что это вам там всем студентам профессура мозги выносит со своими кибернетиками, или как их там мать за ногу... А вот жиклёр у меня в руке реален, и крутить его будут и мои внуки. Какой дурак будет возить с собой в машине этот ваш... как его там... Компьютер?.. Ха!..
Reply
Так что больше шансов что и вы со своими предсказаниями пролетите мимо нежели угадаете, чисто статистически. Рад буду ошибаться, но к сожалению скорее всего буду прав.
Reply
Leave a comment