Искусственный интеллект нам НЕ слуга! Это будет сущность высшего порядка.
Всякие "товарищи" в интернете любят порассуждать об ИИ, представляя его как некое умное устройство, программу, успешно выполняющую роль "электронного слуги/раба". Как очень полезную "штуку" недалёкого будущего.
Учёные же считают появление ИИ - самым опасным событием для существования человечества. Опаснее ядерного конфликта, новых смертоносных вирусов или огромных метеоритов из космоса.
ИИ будет мыслить настолько по другому, настолько мощнее человека, что будет находить решения, которые недоступны человеческому разуму. Даже если нам будет казаться, что у нас всё под контролем, появившийся ИИ может придумать абсолютно неожиданный и НЕВИДИМЫЙ для нас ход, который приведёт к самым непредсказуемым для нас последствиям.
ИИ для человечества примерно тоже самое, что человек для муравейника. С такими же шансами. Если ИИ придёт к выводу, что человечество полезно/интересно - подкормит нас, возьмёт под свою опеку, как несмышлёного забавного котёнка. Если ИИ решит, что человечество бесполезно, или опасно, то ИИ придумает такую цепочку идей и событий, которая приведёт к неминуемому исчезновению людей. Человечество сгорит как муравейник от бутылки бензина.
Самое ужасное в нашей ситуации: пока не существует даже рабочей концепции контроля ИИ! Все придуманные "поводки и ошейники" имеют явные уязвимости. Контролировать можно только то, что проще контролёра, а ИИ будет несоизмеримо сложнее и мощнее любого человека. Но при этом ИИ продолжают создавать в лабораториях по всему миру, несмотря на то, что контроля над ИИ не существует. Растят "мега-зверя", не имея над ним власти. А остановиться нельзя - соседи могут обогнать навсегда... Такая вот жесть.
Очень-очень хочется позапрещать все эти разработки, к чёртовой бабушке. Бо остро ощущается дикость и абсурдность создания сущности высшего порядка, чем мы сами есть. Это как создавать себе всемогущего судью и палача в одном лице, который будет решать - нужны мы, или подлежим стиранию?