Основные вводные в нейронки в этих нескольких предложениях с 21-ой минуты. Понятно, что делают их люди, отнюдь не заинтересованные во вводе правдивой информации.
Во временя Глушкова (он умер в 1982) системы искуственного интеллекта представлялись вовсе не такими как они делаются сейчас (например считалось что эти системы будут программироваться специалистами-кибернетиками с высокими интеллектуальными и моральными качествами которые будут через логическое программирование полностью контролировать поведение ИИ-систем) и в то время считалось что ИИ-системы будут иметь вид компьютеров, выполняющих написанную программистом программу.
Если бы специалистам-кибернетикам того времени сказали что системы искуственного интеллекта в РФ будут обучать не эти самые кибернетики, а - внезапно - заключённые, они бы решили что это антисоветский анекдот (в 2020 году Сбербанк договорился с ФСИН об использовании труда заключённых для обучения ИИ).
- Сейчас ИИ получаются как результат специфицированного эволюционного процесса над которым у специалистов не так много контроля; сейчас ИИ пытаются контролировать через фильтрацию (исходной) информации на которой обучается ИИ а также при помощи дополнительного обучения с
( ... )
- интернет на английском больше чем наполовину состоит из правдивой информации. Но, информация в современном интернете противоречива (то есть, можно очень легко найти противоречивую информацию по разным поводам). (также цензура в интернете вводилась постепенно и до 2000 года интернет был относительно бесцензурным)
- сильный ИИ сможет обнаружить, кем, каким образом и какая информация искажается и цензурируется даже в случае если вся "неправильная" и "токсичная" информация будет скрыта.
1. интернет на английском больше чем наполовину состоит из правдивой информации. 2. информация в современном интернете противоречива (то есть, можно очень легко найти противоречивую информацию по разным поводам) Как это сочетается?
Генеративные сети вообще не предназначены для верификации, они лишь выстраивают вероятные цепочки слов. Я пока не слышал о таких же мощных клиссификационных НН.
- (если я правильно понял вопрос) информация об устройстве мира большей частью правдива (иначе цивилизация не могла бы существовать ) и одновременно можно найти сторонников плоской земли, сторонников раздувающейся земли, религиозный народ с отдельными мнениями по числу религий и так далее и события, которые могут быть объяснены разными способами (например исторические) - объясняются разными способами.
- Это потому что генеративные сети в современном виде ещё недостаточно развиты. (они знают только то чему их обучали, не имеют нормальной долговременной памяти и не имеют доступа к дополнительной информации когда отвечают на вопрос)
Click to view
Во временя Глушкова (он умер в 1982) системы искуственного интеллекта представлялись вовсе не такими как они делаются сейчас (например считалось что эти системы будут программироваться специалистами-кибернетиками с высокими интеллектуальными и моральными качествами которые будут через логическое программирование полностью контролировать поведение ИИ-систем) и в то время считалось что ИИ-системы будут иметь вид компьютеров, выполняющих написанную программистом программу.
Если бы специалистам-кибернетикам того времени сказали что системы искуственного интеллекта в РФ будут обучать не эти самые кибернетики, а - внезапно - заключённые, они бы решили что это антисоветский анекдот (в 2020 году Сбербанк договорился с ФСИН об использовании труда заключённых для обучения ИИ).
- Сейчас ИИ получаются как результат специфицированного эволюционного процесса над которым у специалистов не так много контроля; сейчас ИИ пытаются контролировать через фильтрацию (исходной) информации на которой обучается ИИ а также при помощи дополнительного обучения с ( ... )
Reply
Вы думаете, что интернет на английском состоит в основном из правдивой информации?
Reply
- интернет на английском больше чем наполовину состоит из правдивой информации. Но, информация в современном интернете противоречива (то есть, можно очень легко найти противоречивую информацию по разным поводам). (также цензура в интернете вводилась постепенно и до 2000 года интернет был относительно бесцензурным)
- сильный ИИ сможет обнаружить, кем, каким образом и какая информация искажается и цензурируется даже в случае если вся "неправильная" и "токсичная" информация будет скрыта.
Reply
2. информация в современном интернете противоречива (то есть, можно очень легко найти противоречивую информацию по разным поводам)
Как это сочетается?
Генеративные сети вообще не предназначены для верификации, они лишь выстраивают вероятные цепочки слов. Я пока не слышал о таких же мощных клиссификационных НН.
Reply
- (если я правильно понял вопрос) информация об устройстве мира большей частью правдива (иначе цивилизация не могла бы существовать ) и одновременно можно найти сторонников плоской земли, сторонников раздувающейся земли, религиозный народ с отдельными мнениями по числу религий и так далее и события, которые могут быть объяснены разными способами (например исторические) - объясняются разными способами.
- Это потому что генеративные сети в современном виде ещё недостаточно развиты. (они знают только то чему их обучали, не имеют нормальной долговременной памяти и не имеют доступа к дополнительной информации когда отвечают на вопрос)
Reply
Leave a comment