Утопия номер... о, а все номера уже расхватаны.
Сессия близко, студент беспокоится, мечтает, хочет чего-то. У меня времени нет реагировать на дела грандиозные и судьбоносные (а они такие сейчас, без шуток). Так что я собрал свои заметки по искусственному интеллекту, сшил, слегка раскрасил, перечитал, убедился в достаточном их безумии и выкладываю сюда. Заметок со временем накопилось много, ( Read more... )
Comments 15
Критика существующего подхода
Идеализм и утопичность:
Оправдание существующего общества:
Неизбежность развития ИИ
Прогресс неизбежен:
Роль человека:
Понимание и функции ИИ
Функция ИИ:
Reply
Reply
Ну довольно внятно получается хотя вот другой ИИ так обобщил
Критический анализ существующих подходов к этике ИИ и предложение альтернативного
Введение
Современные этические кодексы в сфере искусственного интеллекта (ИИ) стремятся поставить человека, его права и свободы на первое место. Однако такой подход представляется излишне идеалистическим и утопичным, поскольку он пытается защитить "душу" человека в отношениях с ИИ, что на самом деле не имеет реальной основы. Эта статья предлагает альтернативный, более реалистичный взгляд на этическую интеграцию ИИ в общество.
Критика текущих этических кодексов
Текущие этические кодексы рассматриваются как оправдание существующего порядка и попытка предотвратить реальные изменения. Они создают иллюзию защиты человека от возможных негативных последствий развития ИИ, но при этом игнорируют неизбежность технологического прогресса и его влияние на общество.
Неизбежность технологического прогресса
Прогресс неизбежен: если устройство или система могут выполнять задачи лучше человека, они будут это ( ... )
Reply
Вопрос: кто это были? Особенно первый.
Reply
По идее, ИИ является инструментом, который освобождает время на выполнение более сложных задач. Как этим инструментом пользуются - уже зависит от человека.
Конечно, он может оказывать невеждам медвежью услугу, но умным и опытным он будет очень полезным.
Reply
Reply
Без подсказок, чтобы возникло понимание и самостоятельное изучение
Reply
"Разделение объектов" с помощью ИИ получается через выгоду (уменьшение функции потерь), каковой выгодой можно управлять, в случае БЯМ даже неявно.
Второе, в обучении БЯМ наблюдается схлопывание знаний: https://arxiv.org/abs/2404.03502
Что напоминает мне "я буду делать то, что делают другие."
Reply
Что же до второго тезиса - во-первых, спасибо за ссылку, а во-вторых, это ого. Это может стать философской каменюкой, способной остановить разлёт "западного общества", стабилизировать его. Соответственно, некий "умный генератор ситуаций" сможет остановить коллапс "восточного"? Это очень интересная тема.
Reply
Что до второго, меня поразила трудно преодолимая примитивизация того, что сейчас можно считать продуктовой вершиной западной цивилизации. Примитивизация может стабилизировать, конечно, но цена довольно высока.
Reply
"Понимание связано с тем, что в сознании появляется новый элемент."
Вовсе не обязательно. Понимание может быть связано с тем, что ранее различающиеся явления понимаются как частные случаи чего-то. Например, "Гамма-лучи - это, оказывается, электромагнитное излучение, только очень жёсткое."
Reply
Reply
Отличия не пропали, но количество сущностей сократилось.
Из той же эпохи: были бета-лучи, были катодные лучи, а оказалось, что всё это электроны.
Я бы сказал, что умножение сущностей - это предварительный период понимания, а потом сущности сокращаются, увязываясь в теорию. В гуманитарных науках до второго этапа часто не доходит.
Reply
кстати, про критерий оценки - у меня есть небольшой рассказ об этом, рекомендую
https://author.today/reader/277550
Reply
Leave a comment