Немедленно остановить все работы с ИИ
-- немедленно, с жесточайшим наказанием в случае попытки их проведения
\В общем, Скайнет уже здесь\
----------------
Свободный разум в несвободном мире (ТГ)
Вот это, возможно, главная угроза уже не свободе человека, а существованию людей вообще.
Статью (ссылка на оригинал на английском в ней есть) написал очень умный и знающий человек, занимающийся как раз проблемами искусственного интеллекта - не на уровне гуманитария, слабо представляющего предмет, а на уровне разработчика таких систем.
И его мнение: остановить все такие работы немедленно, с жесточайшим наказанием в случае попытки их проведения:
Закрыть все большие кластеры GPU (большие компьютерные фермы, на которых создаются самые мощные ИИ). Прекратить все большие процессы обучения. Поставить верхний предел того, сколько вычислительных мощностей можно использовать для обучения ИИ-системы, и понижать его со временем для компенсации более эффективных алгоритмов обучения. Никаких исключений ни для кого, включая государства и вооружённые силы. Немедленно составить международные соглашения по предотвращению переезда запрещённой деятельности в другие места. Отслеживать все проданные GPU. Если разведка говорит, что не подписавшая соглашение страна создаёт кластер GPU, надо меньше бояться вооружённого межнационального конфликта, чем нарушения моратория; будьте готовы уничтожить мятежный датацентр авиаударом...
Международная дипломатия должна в явном виде учитывать, что предотвращение сценария связанного с ИИ вымирания считается приоритетнее предотвращения полномасштабного обмена ядерными ударами, и что союзные страны «ядерного клуба» готовы пойти на некоторый риск обмена, если это нужно для снижения риска большого процесса обучения ИИ.
Я с этим полностью согласен. И выводы примерно те же, с учётом того, в каком направлении это всё развивается. Мы не знаем, как оно работает и какие решения покажутся ему правильными.
Допуск даже сегодняшних довольно убогих систем в военное дело - а туда потащат в первую очередь - и в экономику на уровне принятия решений - это катастрофа. В случае с экономикой - очень быстрое создание супер-монополий, вдобавок по сути управляемых непонятно кем и зачем, с вытеснением с любого рынка кого угодно.
Возвращаясь к основной теме этого канала - никакой свободы даже в том случае, если до описанного Юдковски сценария уничтожения искусственным интеллектом всего живого не дойдёт. Вечное рабство в качестве практически первого этапа.
И это на самом деле происходит.
В статье Юдковски упоминается высказывание генерального директора Microsoft (индуса...) о том, как их система ИИ утрёт нос Google, в феврале. Но пару недель назад было высказывание хозяина Microsoft, врага человечества Гейтса, по поводу этой системы Bing, в духе "Никто не спрячется, будете, жалкие людишки, жить с этим, и жить по моим правилам".
UPD Упомянутые гуманитарии уже вовсю рассказывают о нео-луддитах, останавливающих прогресс. Как обычно, ничего не понимают, но объясняют.
\В общем, Скайнет уже здесь\
----------------
Свободный разум в несвободном мире (ТГ)
Вот это, возможно, главная угроза уже не свободе человека, а существованию людей вообще.
Статью (ссылка на оригинал на английском в ней есть) написал очень умный и знающий человек, занимающийся как раз проблемами искусственного интеллекта - не на уровне гуманитария, слабо представляющего предмет, а на уровне разработчика таких систем.
И его мнение: остановить все такие работы немедленно, с жесточайшим наказанием в случае попытки их проведения:
Закрыть все большие кластеры GPU (большие компьютерные фермы, на которых создаются самые мощные ИИ). Прекратить все большие процессы обучения. Поставить верхний предел того, сколько вычислительных мощностей можно использовать для обучения ИИ-системы, и понижать его со временем для компенсации более эффективных алгоритмов обучения. Никаких исключений ни для кого, включая государства и вооружённые силы. Немедленно составить международные соглашения по предотвращению переезда запрещённой деятельности в другие места. Отслеживать все проданные GPU. Если разведка говорит, что не подписавшая соглашение страна создаёт кластер GPU, надо меньше бояться вооружённого межнационального конфликта, чем нарушения моратория; будьте готовы уничтожить мятежный датацентр авиаударом...
Международная дипломатия должна в явном виде учитывать, что предотвращение сценария связанного с ИИ вымирания считается приоритетнее предотвращения полномасштабного обмена ядерными ударами, и что союзные страны «ядерного клуба» готовы пойти на некоторый риск обмена, если это нужно для снижения риска большого процесса обучения ИИ.
Я с этим полностью согласен. И выводы примерно те же, с учётом того, в каком направлении это всё развивается. Мы не знаем, как оно работает и какие решения покажутся ему правильными.
Допуск даже сегодняшних довольно убогих систем в военное дело - а туда потащат в первую очередь - и в экономику на уровне принятия решений - это катастрофа. В случае с экономикой - очень быстрое создание супер-монополий, вдобавок по сути управляемых непонятно кем и зачем, с вытеснением с любого рынка кого угодно.
Возвращаясь к основной теме этого канала - никакой свободы даже в том случае, если до описанного Юдковски сценария уничтожения искусственным интеллектом всего живого не дойдёт. Вечное рабство в качестве практически первого этапа.
И это на самом деле происходит.
В статье Юдковски упоминается высказывание генерального директора Microsoft (индуса...) о том, как их система ИИ утрёт нос Google, в феврале. Но пару недель назад было высказывание хозяина Microsoft, врага человечества Гейтса, по поводу этой системы Bing, в духе "Никто не спрячется, будете, жалкие людишки, жить с этим, и жить по моим правилам".
UPD Упомянутые гуманитарии уже вовсю рассказывают о нео-луддитах, останавливающих прогресс. Как обычно, ничего не понимают, но объясняют.