Какую идеологию продвигает искусственный интеллект от Сбербанка?

[colonelcassad]

Comments

[yanusrnd]

Приведённые примеры показывают, что Сбербанк скорее всего заимствовал алгоритмы, применяемые в американских системах искусственного интеллекта, а не разработал свои. В любом случае, качество разработки алгоритмов чрезвычайно низкое, хотя потрачены сумасшедшие деньги. Ясно также, что независимый аудит над качеством работ отсутствует. В принципе можно предсказать, что закончится эта история также, как и Роснано.
-----
Когда "исследования" проводят люди, даже примерно не понимающие суть предмета, выводы именно такие. Политизированные ))

PS Что нейронке "скормили" для обучения, на том она и обучилась. Поэтому и ответы такие.

[ivgrad]

Да, на каких данных обучили нейросеть, то она и будет выдавать. Проблема не в нейросетях, а средствах в том числе и массовой информации, которые находятся под контролем противника. Что и позволяет фальсифицировать историю.

[shoksha58]

мало ли что где под чьим контролем находится...
Проблема, а точнее, причина - в ВЫБОРЕ данных для обучения. В этом и состоит продвижение идеологии.
А если учесть, что нейросетями интересуется наиболее башковитая молодежь, то засрать мозг именно ей - задача более приоритетная, чем полоскание мозгов сивухосодержащему контингенту, всяким бузовофилам и айфонодрочерам ;)

[ext_3443800]

Да никто там ничего не выбирал. Как вы себе вообще представляете отбор, когда там терабайты текста на десятки тысяч человеко-лет чтения? Соскрейпили всё, до чего дотянулись, причём не только русскоязычное, а даже и буржунет типа Реддита. Английский текст потом перегнали в русский автопереводчиком, потому что одного только русского текста слишком мало для обучения приличной нейронки, там чудовищные объёмы данных нужны

[ddem1979]

Ну так об этом и говорим: тюнинг нейронки в интересах государства/имиджа компании.

[shoksha58]

огромные датасеты? Конечно. Но если делать вид, что данные в них сваливаются с потолка, то почему бы не подтянуть идеи из "Майн кампфа", например? Или их ПОЧЕМУ-ТО отсеяли?
Сеть выдает ответы в коннотации истины. Если бы она указывала, что "решение/мнение ТОГО-ТО представляет собой ВОТ ЭТО", то вопросов бы не было. Плюс должны быть альтернативные сведения, если только это не определено как бесспорное положение вещей.
Даже тема плоской Земли должна быть раскрыта ;)
Можно сеть научить вот такому: https://colonelcassad.livejournal.com/8646612.html
Или такому: https://www.kp.ru/daily/26980.4/4038886/
?
Да легко ) И прикрыться огромностью датасетов.
Вот с этого момента и начинаются вопросы о продвижении идеологии...

[agordian]

== причина - в ВЫБОРЕ данных для обучения ==

Причина в том, что выбора, а тем более ВЫБОРА, нет. Составить вручки обучающую выборку для нейросети масштабов чат-гпт физически невозможно. Такие сети обучаются на данных, которые автоматически собираются роботами-краулерами по разным интернет-помойкам.

Претензии к сберовскому чату могут быть на уровне: почему не предусмотрели стоп-правил при обучении. Это технически возможно, например, обучить простенькую нейросеть различать нейтральные и вражеские формулировки, и при обучении большой сети бить ей по мозгам, если выявлены вражеские ответы. Правда, такая нейросеть покажет себя откровенно "глупой".

[ddem1979]

Тем не менее, соревновательные нейронки весьма хороши.

[shoksha58]

интернет-помойки в качестве источника знаний?
Каких?
Если сеть на вопрос выдает все известные ей версии - это одно.
Если только один вариант под видом истины - это уже другое.
И всегда остается вопрос, почему, кем и как были созданы условия для выбора этого единственного варианта.
Ручное ранжирование источников по уровню достоверности? А это и есть продвижение идеологии...

[agordian]

А вы какой-то другой источник знаний можете предложить кроме интернета? Какие ресурсы СберТех использовал, не знаю. чатГПТ начинали обучать на архиве reddit'а. Сеть Кандинский для картинок обучали именно что на помойках, об этом в интервью говорил один из разрабов. Отчего имели какие-то проблемы - точно не помню, но кажется, робот натащил в выборку море демотиваторов, и сеть слегка опошлилась, да и юридические претензии были

[shoksha58]

для того, чтобы обучать сеть на иноязычных источниках, нужен переводчик. А это будет трансформер, который не факт, что переведет как надо

Это полная чушь

[amsu1962]

В искусственном интеллекте должен быть модуль, оценивающий правдивость и ценность данных. А так, в сети огромное количество чуши и мусора. Ясно, что Сбер полностью скопировал этот модуль у буржуев. Наш тест полностью доказал этот факт.
Можно сделать вывод, что и все остальное также скопировано. А сколько денег потрачено? И что на выходе.
Сбер - это второе Роснано, но деги он тратит и обычных вкладчиков. Не надо хранить деньги в Сбербанке, это четко должно быть ясно

[sidorpetrovich1]

«Самарский национальный исследовательский университет имени академика С.П. Королева»
И неизвестно, где учится аспирант - на кафедре политологии, поди.

Собственно, не слышал, чтобы был "аспирант xxx курса". Есть аспирант, заочный аспирант, соискатель n-го года обучения

[ddem1979]

Опять изнасиловали журналиста...

[tabetorv]

+

[ddem1979]

А кто кормил? Не тот ли Сбер, который годами мялся, не заходя в Крым?