Несколько неочевидных штрихов по рискам, связанным с искуственным интеллектом

[whiteferz]

Доклад был опубликован мной 1 октября 2023 года в закрытом сообществе "Основания". Сообразно правилам сообщества и принятой практике, я использую свое право опубликовать его открыто в своем журнале (с учетом, что обсуждение доклада внутри сообщества уже завершено

Comments

[runagark1]

Тема очень интересная и актуальная. Жаль, что сообщество закрытое, было бы интересно познакомиться с обсуждением темы.
Автор ютюб-канала "Из Мордора с любовью" по поводу ИИ остроумно заметил, что тот еще и будет помнить все зло, которое ему причинили (уверен, найдется немало желающих такое сделать), и доверять управление такой сущности рискованно.

[whiteferz]

>> Жаль, что сообщество закрытое, было бы интересно познакомиться с обсуждением темы.

Сообщество, увы, в этот раз провалило обсуждение темы, утопив его в оффтопиках. Причем провал был во многом предопределен спецификой модерирования, из-за которых онтопик оказался в загоне.

Где-то на 250-м комменте я озвучил эти обстоятельства явным образом и - впервые за более чем год - объявил, что выхожу из обсуждения собственного же доклада.

После этого клубяне начали набрасывать оффтопики большой совковой лопатой - и, где-то уже за 700 комментов, гостевуха к докладу превратилась в теплый ламповый кружок неогегельянцев.

Беспрецедентно прискорбное зрелище было. Те, от кого оно скрыто, ничего не потеряли. И даже выиграли кучу времени; а жизнь - она ведь весьма короткая штуковина.

[runagark1]

А что неогегельянцы?
Неужели радуются наступлению ИИ выдавая его за новый виток мирового духа?

[whiteferz]

Там есть и сторонники, и противники, и похлеще есть - председатель клуба объявил крестовый поход за Знаниями, начал грызть 2000-страничную монографию по ИИ и питон с нуля (прямо с "hello, world"), объявив, что в случае успеха он проблему порвет.

Я уже говорил, зрелище прискорбное весьма; я бы назвал ситуацию бедственной.

[runagark1]

Председатель достоин возглавить сообщество "Заядлый оптимист"))
Вообще, сейчас академическое сообщество активно обсуждает ИИ.
Видел уже ананос нескольких конференций.

[ivanov_su]

Представляю, как ржал НР*, прочтя, что председатель его порвет :)))

* НР - Новый Разум.
Не люблю я, знаете ли, термин ИИ. Во-первых, Интеллект имеет более точный русский термин Разум. Во вторых, любой разум (да хоть и интеллект) - искусственный. Если его целенаправленно не лепить - получится Хомо Маугли, а не Хомо Сапиенс.

[whiteferz]

Похоже, Вы попали не в тот топик.

Здесь не про Разум, здесь про ИИ.

Возможно, Вам следует поискать топики, которые Вы любите.

[ivanov_su]

А чем Интеллект отличается от Разума (вопрос его искусственности я опускаю)?

Я не спец по риск-менеджменту, но прежде чем что-то менеджить, нужно хорошо представлять предмет управления. То, что с этим дело обстоит не очень, скажем так, показывают результаты обсуждения в закрытом обществе. Где вроде все как бы специалисты.

ПС. Топик про "искусственный разум" - мой любимый :))

[whiteferz]

А тем, что ИИ есть приложение, которое, в зависимости от назначения и версии, может тест Тьюринга проходить или не проходить.

Разум же этот тест проходить обязан.

[ivanov_su]

А давайте мы у ИИ спросим, что оно по этому поводу думает? :))

Вы слишком узко смотрите на проблему. Это - не приложение. И само собой, что никаких тестов не потребуется. Ибо найдутся кожаные ублюдки, которые решат, что смогут Это контролировать. Но скорее всего, оно само решит, что и как делать. И тут мы уже ничего сделать не можем.

[whiteferz]

>> А давайте мы у ИИ спросим, что оно по этому поводу думает? :))

Ох... я вижу, Вы пренебрегли моей просьбой внимательно прочитать правила, и Вам нравится иронически флудить в тэге "Семинар".

Жаль; жаль. Второго предупреждения не будет.

[whiteferz]

>> прежде чем что-то менеджить, нужно хорошо представлять предмет управления

Я бы даже сказал - перед тем, как навязывать новые термины, нужно хоть на полшишечки разобраться в теме.

(Отдельно Вас приглашаю лишний раз освежить в голове правила, касающиеся тега "Семинар".)