Но ведь это же всегда так было. Мы изобрели калькулятор и в массе разучились считать в уме. Изобрели ткацкий станок и разучились применять какую-то там предыдущую технологию. Что качественно нового произошло? Без эмоциональных ссылок на то что те кто пользуются калькулятором ударили себе шилом в мозг.
Вот перед обучением безусловно встали новые вызовы, которые оно не сразу преодолеет. Дети никогда не хотели делать домашку, а теперь у них возник такой крутой инструмент чтобы оставаться тупыми. Тут придётся что-то новое придумать чтобы ответить новому вызову. Это опять же с любой новой технологией бывает.
Но ведь и как работает искусственный отбор тоже никто особо не знает кроме как в самых общих чертах. Там тоже просто пользуются обратной связью, отбирая лучших. Основная разница в том что ИИ создали мы а животных даже создали не мы. И лошади в процессе приручения (да и после) перебили кучу народа, но в целом оказались полезны. Надо, как и всегда, повнимательнее за этой штукой следить, и да, тут пять параметров будет маловато, нужны специалисты по нейросетям, как ранее нужны были по лошадям.
Как работает искусственный отбор - Вы знаете. Он везде работает, не только по отношению к животным. Главное, чтобы признаки наследовались. Ну и кроме отбора есть шпоры, узда и плеть. И револьвер на крайний случай.
А нейросеть - она просто умнее Вас. Точнее, уж простите за прямоту - Вы глупее. Потому что не хотите (или не можете) сводить сложное к простому. "Сложна, многабуков, ну я не знаю... Нейросеть разберётся!"
Разберётся. Но Вы даже не поймёте, верно ли разобралась. Не говоря уже о том, как она это сделала.
Это не калькулятор. Это замена понимания. Капитуляция рацио перед сложностью.
Пока что это звучит как фобия. Лошадь сильнее меня. Точнее, скажем прямо, я слабее её. Ну да, я столько точно не проскачу. Это моя капитуляция, прямо верхом на ней.
Вы слабее лошади, но Вы умнее её. Поэтому Вы её приручили и научились ей управлять. Калькулятор считает лучше Вас, но делает он это по правилам, которые Вы ему указали. Не он определяет, сколько будет 25221 + 339028, а те правила, которые Вы в него записали. И, если Вам будет нужно, Вы и без лошади преодолеете расстояние и без калькулятора посчитаете. Потому что это всё - просто усилители Ваших возможностей. Созданные Вами. И Вами контролируемые: взбесившуюся лошадь Вы пристрелите, неисправный калькулятор отправите в помойку. Причём и то, и другое определяется легко.
Нейросети работают иначе. Им на откуп отдано не просто решение (как результат), но и поиск этого решения; нейросеть сама решает, как будет это делать и какой результат является правильным. "Вот тебе 100500 примеров, сделай по их образцу". То есть, это сверхмощный интерполятор, который:
1) Не может придумать ничего нового за пределами области интерполяции - точнее, когда начинает, получается у него очень плохо (бывают случайные
( ... )
Ну полноте, когда есть чёткий алгоритм, то и делают всё четким алгоритмом.
А вот допустим отличаем кошку от собаки, поясните как вы это делаете, ведь это просто. Вы тут рассказываете, что нейросеть не контролируете, а допустим людей, которым что-то поручили, вы как контролируете? Чем человек исполнитель отличается от нейросети исполнителя ну кроме того, что он животное и его решения аффектят куча разных несвязанных с задачей биологических моментов
Вы никогда не путали издали маленькую собачку с кошкой?
Люди, конечно, тоже ошибаются, ленятся, намеренно обманывают и т.д. Но кроме глупых людей есть и умные - и все дееспособные люди несут ответственность за свои действия. Умный человек выведет Вам формулу, по которой и глупые смогут посчитать - и получить верный ответ. А нейросеть формул не выводит и не будет никогда. Или "выведет" с ошибкой.
Да, собственно, от неё этого и не ждут - вывода. Она не для вывода формул, а для того, чтобы по формулам считать не пришлось вообще. И не придётся. Будете жрать то, чем ИИ будет Вас пичкать.
Цивилизация развивалась, делая сложное простым - а на основании простого делая уже своё сложное, если нужно. Нейросети, похоже, кладут этому конец. Сложное так и останется сложным, уже навсегда. Никто ничего не будет понимать, запрос на понимание всё. Теперь для сложности есть нейросети. Теперь они решают, что верно, а что нет. "Птенец павлина", ага.
А давайте подумаем, а ведь лошадь это нейросеть, это у автомобиля детерминированно, а у собаки и лошади это не так. Но ИИ вы не доверяете в отличии от них или людей. А почему? Вы часом не креационист? Тогда да, И жалкие людишки создали, а человек он Творцом проектировался, а не эволюцией вовсе, для которой его разум это побочный результат по передаче ДНК
Лошадь это НЕ нейросеть. Но даже если была бы нейросетью - Вы же не доверяете лошади, куда ехать, чтобы она сама выбирала? Вы доверяете ей в пределах "куда поставить копыто на очередном шаге, чтобы не упасть и не сломать ногу". Ну такого ИИ полно было и раньше: всякие САРы, автопилоты самолётов, распознавалки текста и т.д. Это нормально, они обрабатывают то же самое, что и Вы можете - просто быстрее и специализированно. И выбора за Вас они НЕ делают
( ... )
А таксисту вы же доверяете, сидите тупите в смартфон, а он вас везёт, из пункта А в пункт Б. Чем это будет отличаться, если вас повезёт ИИ. И да это уже реальность.
И так будет со всем. ИИ и в Генштабе может сидеть и в управлении, это инструмент. Стратегию будет определять человек, а вот тактику уже ИИ
Таксист человек, он отвечает по всей строгости закона и заинтересован в том, чтобы всё было хорошо. ИИ ни за что не отвечает и ни в чём не заинтересован.
/// Стратегию будет определять человек, а вот тактику уже ИИ
Вы, похоже, не поняли, о чём я пишу. ИИ существует и применяется давно; что изменилось? А вот это самое: раньше ИИ был специализированным инструментом, которому доверяли решение узких задач в строго ограниченном перечне случаев. Теперь же его стали совать во все дыры, начиная как раз со стратегии. Это даёт быструю и очень ощутимую выгоду почти везде.
Просто выгода эта ненадолго. И когда всё это посыпется - а посыпется оно скорее рано, чем поздно - исправлять будет уже некому. Соответствующие скиллы будут утеряны. Собственно, в некоторых важных областях уже почти так.
Ну компания которая будет предоставлять ИИ будет отвечать, а как вы думали, конечно расширят законодательство. Вот я отец двоих детей, отправить дочь с незнакомым таксистом, меня что-то смущает, а с отлаженным ИИ нет. А где И в стратегию суют? Можно пример.
Не расширят. Некуда там расширять: подобные дилеммы не могут быть решены в общем случае, а в частном отвечать просто некому. Это за плохой алгоритм можно привлечь разработчика, а нейросеть обучается сама и гарантий там никаких. Или любой ценой спасаешь пассажиров - любой это ЛЮБОЙ - или после первой же жертвы засудят в ноль и больше в таких такси никто ездить не будет.
ИИ в стратегиях - биржевые игры, инвестиции, долговременные прогнозы (с/х на основании климатических, например, или военные). Зря они так, конечно.
За плохой алгоритм никого привлекать не будут, это шо за сферический конь. Вот допустим компания Яндекс выпускает И Яндекс Такси. В какой-то поездке происходит авария, также как с обычным ДТП определяется кто виноват и срабатывает страховка. Хорошо, а если сбит человек и действительно он там не перебегал дорогу в неположенном месте, а четкая вина И водителя. Ну значит такое будет разбираться, уголовной ответственности не будет, как нет уголовной ответственности, если самолёт упал из-за сбоя системы в каком-то редком кейсе будут исправлять и платить. Как-то так. Если задуматься, а в чём разница родственников жертв, нужно обязательно жертвоприношение?
Разница в профилактике. Подумайте о том, почему за убийство перестали платить виру, а стали сажать. Вот здесь то же самое: если не сажать это быстро сделает такие случаи системными.
Но ведь это же всегда так было. Мы изобрели калькулятор и в массе разучились считать в уме. Изобрели ткацкий станок и разучились применять какую-то там предыдущую технологию. Что качественно нового произошло? Без эмоциональных ссылок на то что те кто пользуются калькулятором ударили себе шилом в мозг.
Вот перед обучением безусловно встали новые вызовы, которые оно не сразу преодолеет. Дети никогда не хотели делать домашку, а теперь у них возник такой крутой инструмент чтобы оставаться тупыми. Тут придётся что-то новое придумать чтобы ответить новому вызову. Это опять же с любой новой технологией бывает.
Reply
Reply
Но ведь и как работает искусственный отбор тоже никто особо не знает кроме как в самых общих чертах. Там тоже просто пользуются обратной связью, отбирая лучших. Основная разница в том что ИИ создали мы а животных даже создали не мы. И лошади в процессе приручения (да и после) перебили кучу народа, но в целом оказались полезны. Надо, как и всегда, повнимательнее за этой штукой следить, и да, тут пять параметров будет маловато, нужны специалисты по нейросетям, как ранее нужны были по лошадям.
В целом спасибо за очень содержательный ответ.
Reply
А нейросеть - она просто умнее Вас. Точнее, уж простите за прямоту - Вы глупее. Потому что не хотите (или не можете) сводить сложное к простому. "Сложна, многабуков, ну я не знаю... Нейросеть разберётся!"
Разберётся. Но Вы даже не поймёте, верно ли разобралась. Не говоря уже о том, как она это сделала.
Это не калькулятор. Это замена понимания. Капитуляция рацио перед сложностью.
Reply
Пока что это звучит как фобия. Лошадь сильнее меня. Точнее, скажем прямо, я слабее её. Ну да, я столько точно не проскачу. Это моя капитуляция, прямо верхом на ней.
Reply
Вы слабее лошади, но Вы умнее её. Поэтому Вы её приручили и научились ей управлять. Калькулятор считает лучше Вас, но делает он это по правилам, которые Вы ему указали. Не он определяет, сколько будет 25221 + 339028, а те правила, которые Вы в него записали. И, если Вам будет нужно, Вы и без лошади преодолеете расстояние и без калькулятора посчитаете. Потому что это всё - просто усилители Ваших возможностей. Созданные Вами. И Вами контролируемые: взбесившуюся лошадь Вы пристрелите, неисправный калькулятор отправите в помойку. Причём и то, и другое определяется легко.
Нейросети работают иначе. Им на откуп отдано не просто решение (как результат), но и поиск этого решения; нейросеть сама решает, как будет это делать и какой результат является правильным. "Вот тебе 100500 примеров, сделай по их образцу". То есть, это сверхмощный интерполятор, который:
1) Не может придумать ничего нового за пределами области интерполяции - точнее, когда начинает, получается у него очень плохо (бывают случайные ( ... )
Reply
А вот допустим отличаем кошку от собаки, поясните как вы это делаете, ведь это просто. Вы тут рассказываете, что нейросеть не контролируете, а допустим людей, которым что-то поручили, вы как контролируете? Чем человек исполнитель отличается от нейросети исполнителя ну кроме того, что он животное и его решения аффектят куча разных несвязанных с задачей биологических моментов
Reply
Люди, конечно, тоже ошибаются, ленятся, намеренно обманывают и т.д. Но кроме глупых людей есть и умные - и все дееспособные люди несут ответственность за свои действия. Умный человек выведет Вам формулу, по которой и глупые смогут посчитать - и получить верный ответ. А нейросеть формул не выводит и не будет никогда. Или "выведет" с ошибкой.
Да, собственно, от неё этого и не ждут - вывода. Она не для вывода формул, а для того, чтобы по формулам считать не пришлось вообще. И не придётся. Будете жрать то, чем ИИ будет Вас пичкать.
Цивилизация развивалась, делая сложное простым - а на основании простого делая уже своё сложное, если нужно. Нейросети, похоже, кладут этому конец. Сложное так и останется сложным, уже навсегда. Никто ничего не будет понимать, запрос на понимание всё. Теперь для сложности есть нейросети. Теперь они решают, что верно, а что нет. "Птенец павлина", ага.
Reply
Но ИИ вы не доверяете в отличии от них или людей. А почему? Вы часом не креационист? Тогда да, И жалкие людишки создали, а человек он Творцом проектировался, а не эволюцией вовсе, для которой его разум это побочный результат по передаче ДНК
Reply
Reply
И так будет со всем. ИИ и в Генштабе может сидеть и в управлении, это инструмент. Стратегию будет определять человек, а вот тактику уже ИИ
Reply
/// Стратегию будет определять человек, а вот тактику уже ИИ
Вы, похоже, не поняли, о чём я пишу. ИИ существует и применяется давно; что изменилось? А вот это самое: раньше ИИ был специализированным инструментом, которому доверяли решение узких задач в строго ограниченном перечне случаев. Теперь же его стали совать во все дыры, начиная как раз со стратегии. Это даёт быструю и очень ощутимую выгоду почти везде.
Просто выгода эта ненадолго. И когда всё это посыпется - а посыпется оно скорее рано, чем поздно - исправлять будет уже некому. Соответствующие скиллы будут утеряны. Собственно, в некоторых важных областях уже почти так.
Reply
Вот я отец двоих детей, отправить дочь с незнакомым таксистом, меня что-то смущает, а с отлаженным ИИ нет.
А где И в стратегию суют? Можно пример.
Reply
ИИ в стратегиях - биржевые игры, инвестиции, долговременные прогнозы (с/х на основании климатических, например, или военные). Зря они так, конечно.
Reply
Вот допустим компания Яндекс выпускает И Яндекс Такси. В какой-то поездке происходит авария, также как с обычным ДТП определяется кто виноват и срабатывает страховка. Хорошо, а если сбит человек и действительно он там не перебегал дорогу в неположенном месте, а четкая вина И водителя. Ну значит такое будет разбираться, уголовной ответственности не будет, как нет уголовной ответственности, если самолёт упал из-за сбоя системы в каком-то редком кейсе будут исправлять и платить. Как-то так. Если задуматься, а в чём разница родственников жертв, нужно обязательно жертвоприношение?
Reply
Reply
Leave a comment