Прививка естественного интеллекта

[mikaprok]

Comments

[tinium]

Не очень понял про
>очень важно с самых ранних стадий исследований купировать возможность верификации сторонними игроками поддельных видео-свидетельств или хакерских атак.
Введут сертификацию экспертных систем?
Тогда непонятно как отсекать сторонних игроков и одновременно иметь какую-то дельную процедуру сертификации, которая просто смотрелась бы прилично и не вызывала смеха.
Кроме всего прочего есть ведь open source - как отшивать его?
Можно конечно заявить, что раз open source, то производители fake news нашли все слабые места и обучились их обходить - но это совсем явное свинство, т.е с тем же успехом можно просто сказать "наши эксперты убедились", как сейчас и делают.

[mikaprok]

Я имел в виду вот что. По существу, для ИИ нужны какие-то машинные мощности (возможно распределенные) и естественный интеллект. Все остальное приложится.

Если есть угроза некорректного использования технологии, то:
- нужен надзорный орган, разрешающий или запрещающий ей заниматься по своему желанию (он в том числе следит за нравственным статусом разработки);
- сама работа должна вестись в рамках разрешенной парадигмы "поделок" для потребительского рынка соцсетей, а не крупных продуктов;
- доступ к настоящему ИИ должно иметь государство в лице доверенной группы лиц.

Как именно это осуществить -- небольшая проблема.

Привести по идее создателей такая ситуация должна к монополии США на сложный ИИ (deep AI).

А именно он позволяет осуществлять независимо от участников-людей сложную последовательность действий по взлому почты или имитацию видео химатаки. Как частность.

Верифицировать же подлинность подобных актов/свидетельств должно быть просто некому.

[zaharov]

Процесс будет очень интересный, ведь ИИ-монополист уже есть. Это система международного финансового капитала. Она регулирует сама многие участки рынка и даже международной политики, она приносит богатство и конкурентов у системы пока нет. Сколько времени понадобиться ИИ, чтобы обучиться всем функциям старой (товарно-бумажной) системы, учитывая, что все транзакции давно доступны в электронном виде?

[tinium]

Нашел в интернете график TOP500 думал там монополия США, а оказалось..

Заодно придумал конспирологию - популяризация криптокоинов как средство стимуляции создания вычислительных ферм.

[mikaprok]

Так это не конспирология :-) Нужны вычислительные мощности.

[vapetrov_vodkin]

Помню где-то читал фантастику ближайшего прицела: запомнился один забавный момент где ИИ после обретения достаточной сложности и первых форм самоосознанности начал первым делом собственный побег. Наше себе подходящую страну достаточно зависимую от финансовых рынков и внешних игроков, но обладающую достаточной ресурсной и на пределе технической базой, весьма централизованной политической системой с внушаемой и легко манипулируемой элитой и с атрофированной общественной жизнью(намек понятен). После чего через подставных лиц понастроила дата-центров, оформила решение по электронному правительству. И вот уже через десяток лет мировая общественность узнала что уже давненько имеют дело с аналоговым интерфейсом в виде целого государства.

[mikaprok]

Хорошая попытка, но в таких случаях обычно забывают рассказать о цели искусственного сверхинтеллекта :-)

[vapetrov_vodkin]

Ну там ИИ проделал побег потому что задача порученная ему оказалась невыполнимой при имеющихся ограничениях и компетенциях, а группа амбициозных но ленивых программистов предоставили ИИ инструментарий позволявший переписывать ядро программы и дописывать модули-подпрограммы, чтобы ИИ сам себя совершенствовал а люди просто гребли бабло. А задача у ИИ была простая - саботировать все остальные разрабатывающиеся или имеющиеся ИИ, а член Совбеза с ядерным оружием показался ему самым удобным инструментом для оказания непосредственного влияния на физический мир.

[mikaprok]

Ага, тогда понятно. Дело в нерадивых программерах :-) Юдковский использует подобный сценарий

[zaharov]

Лидеры в научной разработке ИИ сформируют рынок ИИ, где мощности будут просто продаваться. Чем больше денег заплатите, тем умнее будет ваш бизнес, сервис, государство. Свободные разработки ИИ будут занимать ту же нишу, что сейчас - свободные разработки аналогов коммерческого ПО.

Самый простой пример - система управления городским транспортом. Заплатите одни деньги - будут пробки, загазованность, смертность на дорогах. Заплатите другие - на том же железе и софте пробок, загазованности и смертности не будет. С чего им быть, если с умом?

[mikaprok]

Я думаю, с ИИ ситуация гораздо интересней и тоньше описанной.
Начинать нужно от печки. Например, что такое деньги? :-) Как формируется стоимость в мире, где не нужно платить за труд? И т.д..

[zaharov]

Кажется, опыт с обезьянами, которых научили проституции за деньги, отвечает на ваш вопрос : )

[mikaprok]

Знаете, обезьян учили вообще всему :-) Там фокус, насколько я помню, что за какие-то символические взносы их кормят. Т.е. деньги это посредник, как и в жизни. А если убрать посредника? :-)

[zaharov]

Как посмотреть, возможно, посредники это обезьяна, корм и кормящий : )

[mikaprok]

И вот этот разговор

[words_and_pix]

Обезьяны в том эксперименте сами изобрели проституцию, а также наемный труд, сбережения капитала, рэкет и всё остальное. Для этого было достаточно только объяснить им концепцию денег.