О месте ИИ в нормальном обществе
Вспоминаем требования к обществу благополучия:
1. Приоритеты по множествам: человечество, человек, живая природа, неживая природа.
2. Приоритеты по целям: выживание, минимизация вреда, максимизация благополучия в приоритетах пункта 1.
3. Способы обеспечения общественного гуманизма: плоская структура, принятие решения консенсусом всех участников общности, полная прозрачность действий всех участников, память о действиях всех участников.
Обозначаем место ИИ с учётом вышесказанного:
1. ИИ - помощник человечества и человека, это средство, ИИ должен усиливать возможности человека, а не заменять его.
2. ИИ должен быть сконструирован так, чтобы соблюдать приоритеты пунктов требований 1 и 2.
3. С учётом приоритета пункта требований 3, ИИ должен быть абсолютно прозрачен и все его решения должны записываться, его рекомендации должны валидироваться людьми и приниматься к реализации только при консенсусе.
1. Приоритеты по множествам: человечество, человек, живая природа, неживая природа.
2. Приоритеты по целям: выживание, минимизация вреда, максимизация благополучия в приоритетах пункта 1.
3. Способы обеспечения общественного гуманизма: плоская структура, принятие решения консенсусом всех участников общности, полная прозрачность действий всех участников, память о действиях всех участников.
Обозначаем место ИИ с учётом вышесказанного:
1. ИИ - помощник человечества и человека, это средство, ИИ должен усиливать возможности человека, а не заменять его.
2. ИИ должен быть сконструирован так, чтобы соблюдать приоритеты пунктов требований 1 и 2.
3. С учётом приоритета пункта требований 3, ИИ должен быть абсолютно прозрачен и все его решения должны записываться, его рекомендации должны валидироваться людьми и приниматься к реализации только при консенсусе.