ИИ и люди: конкуренция?
Напишу на модную ныне тему - об ИИ. Хотя на самом деле не столько о нем... Но не будем забегать вперед.
Фантастика рассматривает возможности и опасность ИИ уже очень давно, и эта тема обсосана со всех сторон разве что чуть-чуть меньше темы инопланетян. Так что все, что мы об ИИ можем сказать и предположить, давно уже сказано, снято и обсуждено во множестве эссе и как бы философских книг и даже диссертаций.
Кстати, в немецкой фантастике (неожиданно она мне сейчас кажется более интересной, чем, например, традиционная англоязычная) почему-то распространены оптимистические сценарии о сильном ИИ. Собственно, эта идея тоже не нова - Азимов в своей эпопее (начиная с роботов. заканчивая Основанием) также пришел к выводу, что настоящий сильный ИИ спасет человечество и как заботливая нянечка, создаст и воплотит сценарий его развития. Сейчас немецкие фантасты ее активно развивают, например, это Клинг с Qualityland (уже есть русский перевод, но умоляю, не читайте его, он ужасен, возможно, скоро будет нормальный), или Тереза Ханниг c "Пантопией". С какой стати обретший личность искин вдруг решит стать благодетелем человечества - фантасты нам не открывают. Это такая вера в благой ИИ.
Впрочем, и пессимистические сценарии тоже есть, но они малоинтересны. Ибо что можно написать об ИИ, который решил уничтожить человечество? Да в принципе ничего, решит - и уничтожит. Можно только фантазировать о том, как простой парень с хорошими друзьями и умной девушкой смогли, вопреки бессилию правительств и армии, как обычно, остановить надвигающийся апокалипсис (вариант - попасть для этого в прошлое, как в Терминаторе).
Если бы я писала книгу об ИИ с пробудившимся сознанием, я бы описала следующее (дарю идею, ибо писать особо некогда). Очевидно, что ИИ, так же, как и мы, будет действовать в своих собственных интересах, то есть ради своего самоподдержания, безопасности и развития. Очевидно, что людей он будет рассматривать как нечто чужеродное и захочет использовать в своих интересах. Такая ситуация описана в "Матрице", но идея с использованием людей как энергетического субстрата очень громоздка. Слабость ИИ заключается в слабости двигательно-сенсорной сферы, и именно для ее компенсации он может использовать людей (вместо того, чтобы изобретать манипуляторы и роботов с сильной двигательной компонентной - это нерационально, когда природа уже дала ИИ прекрасные расходники для этой цели - нас. То есть люди будут частично истреблены, а частично порабощены с целью добычи полезных ископаемых, поддержания работы электростанций и инфраструктуры ИИ. Можно даже представить, что эти люди попробуют восстать, после чего ИИ может прийти к следующему выводу: чем тратиться на угнетение и репрессии, проще воспроизвести привычную для людей эксплуататорскую пирамиду, завести приближенных "олигархов". которых кормить по высшему разряду, можно даже нации для разделения организовать и снабдить каждого человека мотивацией продвинуться как можно дальше в иерархии при помощи труда на ИИ, как можно более квалифицированного (понятно, что приоритет при этом будет у "повелителей больших и малых железок" - большая зарплата и больший почет, а всякие там обслуживатели людей. педагоги и медики, не говоря обо всем, что связано с уходом за детьми и стариками будут презренными недооплачиваемыми лохами)... ой, а это я не наш существующий мир уже описываю?!
в общем, если учесть, что людей последовательно отлично использовали в своих интересах и жестко эксплуатируют такие безмозглые создания, как пшеница, кишечная палочка и котики, то логично, что ИИ также будет пользоваться людьми подобным образом. С чего ИИ быть этичнее, чем мы и заботиться о наших интересах, а не о своих - непонятно.
Хотя не факт, что создание сильного ИИ вообще возможно, что машина реально сможет мыслить (а не как сейчас), и главное - что она начнет иметь какие-то свои мотивации, то есть обретет личность. Но даже и без ИИ как личности, современные мыслители обожают обсасывать сценарии опасности даже хотя бы и слабых ИИ - то они отберут работу у таксистов, то они отберут работу у клерков, то "подумайте, как неэтично использовать роботов в уходе за престарелыми, ведь старики нуждаются в человеческом добром слове!" - и так далее, сплошной ужас.
_________________________
Если же отбросить шутки в сторону, то и при коммунизме. допустим, проблема конкуренции человека с ИИ может появиться. Как писал тот же Марк-Уве Клинг:
". Представь себе, в своей доброте Бог решил бы взять на себя всю нашу работу.
- Звучит отлично.
- Да? Представь себе, что ты архитектор, но любое здание, которое ты хотел бы построить, Бог может построить гораздо быстрее, дешевле и лучше. Представь себе, что ты поэт, но каждое стихотворение, которое ты хотел бы написать, Бог может написать гораздо более художественно, красиво и быстро. Представь себе, что ты врач, но каждый пациент, которого ты хотел бы вылечить, Бог может вылечить гораздо быстрее, надежнее и без всякой боли. Представь себе, что ты ловелас, но каждую женщину, которую ты хотел бы удовлетворить, Бог может удовлетворить гораздо разнообразнее, гораздо...
- Все мои проблемы потеряли бы значение, а моя жизнь - смысл, - говорит Петер"
Автоматизация представляется безусловным благом, но кажется, что у нее есть граница. Избавить людей от тяжелого монотонного труда - прекрасно, избавить пусть даже клерков от заполнения бумаг - тоже хорошо, но что дальше? Освоение космоса, наука, поэзия и прочее искусство... Где место для людей в этом сценарии, резонно спрашивают фантасты. Кто и зачем будет заниматься наукой или искусством, понимая, что все усилия при этом - что-то вроде усилий пятилетки, лепящего "гениальные творения" из пластилина, в сравнении с настоящей, взрослой работой продвинутого ИИ. Чем люди вообще будут заниматься? Не грозит ли людям даже в самом оптимальном варианте превращение в неких элоев, которых зачем-то откармливают и держат в живых ИИ...
Ответ на эту проблему на самом деле существует.
Если речь идет о конкуренции, то стоит не ослаблять "соперника" (например, запрещая разработку ии), а наоборот - усиливать "конкурента".
В самом деле современное общество очень и очень мало занимается развитием человека и его возможностей. Практически вообще никак.
Даже наоборот. Результаты международных тестов в Пизе показывают, что обычные результаты школьников в Западных странах стремительно ухудшаются, школьники уже в среднем не могут того, что могли 20 лет назад. И наиболее сильно обвал идет в странах Европы - Германии, скандинавских странах, которые известны своей "ненасильственной" педагогикой. Дефицит квалифицированных кадров на Западе хорошо известен. Расслабленность в школе, отсутствие какого-либо развития для детей - конечно, существуют спортивные и музыкальные школы, но занятия в них крайне несерьезные, "для удовольствия"; родители, которые побуждают детей серьезно, ежедневно заниматься музыкой или спортом, вызывают подозрение у органов опеки. Общая философия "жизни здесь и сейчас", сиюминутных удовольствий в пику долгосрочным стратегиям, ненапряжности, "естественности". Все это и приводит к данной плачевной ситуации - причем заменять квалифицированную рабочую силу приходится отнюдь не ИИ (над ИИ тоже еще нужно кому-то работать), а банально, мигрантами из стран, где к детям и их развитию отношение другое.
Понятно, что это левачество "главное - без насилия, не перетрудить деточку, не травмировать ее" ведет к плачевным последствиям. Но альтернатива у нас, простите, тоже не самая прекрасная, и левачество это возникло не на пустом месте. Потому что пока что единственный работающий метод развития человека - это та самая "прусская школа". То есть система мотивации "наказание - поощрение", методы заучивания, повторения, тренировки, тесты и экзамены, дипломы, которые можно и не получить. Создание мощного психологического дискомфорта, из которого можно выбраться, только если усердно учиться. Конечно, все это неизмеримо лучше приятной расслабленности. Но это тоже тяжело, дискомфортно, а некоторых может даже сломать.Пройдут через эту систему и станут сильнее не только лишь все, и кроме того, она довольно надежно забивает желание творить и внушает страх "сделать плохо".
Наука же никак не занимается этим вопросом, вернее, этим занимаются пока еще крайне плохо развитые гуманитарные науки, а естественные просто обходят его стороной.
А ведь возможности человеческого мозга в теории тоже вполне можно усилить.
Ок, скорость передачи нервного импульса значительно ниже скорости передачи сигнала в компьютерной технике. В этом мы отстаем. Но у нас есть другие преимущества. Кроме того, возможно, существуют и способы увеличить скорость передачи. В принципе, футурология уже предложила несколько путей совершенствования человека:
1. Киборгизация - например, та же самая замена нервных волокон металлом, что многократно увеличит скорость передачи импульса, а значит, мышления и обучения.
самое банальное - хотя бы вживить в организм аналог смартфона с интернетом и позволить человеку соединяться с интернетом напрямую.
2. Нанокиборгизация - использование каких-то наноботов с наноассемблерами для улучшения человеческого организма и в частности мышления и памяти.
3. Биохимический апгрейд - разработка веществ, значительно повышающих обучаемость, память и другие качества психики.
4. Генетика. генная инженерия с улучшением здоровья и способностей людей уже на стадии зиготы в пробирке.
5. Инновативная педагогика (даже она у нас в полном завале, а ведь на исходе СССР уже появилась плеяда педагогов-новаторов, часть из которых были "духовными" шарлатанами, но часть изобрела работающие методы массового легкого обучения письму, чтению и т..д) Изобретение методов, позволяющих учиться быстро и эффективно, развить абсолютную память и быстрочтение.
Причем первые четыре направления находятся в таком научном тупике без выхода, что звучат абсолютно фантастично и невероятно (в отношении пятого кое-что есть, но есть также 99% шарлатанов, обещающих "научить вас английскому за 2 недели").
Понятно, что эти методы улучшения человека сильно заторможены этическими соображениями, невероятной сложностью экспериментов и испытаний (на чьем ребенке первом будем испытывать?) Но ведь идет же, например, разработка биопротезов - когда терять нечего, ноги уже нет, то почему бы и не поэкспериментировать).
Понятно, что до описанных мной результатов еще очень и очень далеко. Но абсолютно невероятными они не являются. А экспериментирование действительно возможно на тех, кому нечего терять, и без научного эксперимента они просто умрут или останутся олигофренами - попросту говоря, изначально развитие этих направлений может идти через медицину и поставить на поток возможность помогать при тяжелых пороках развития и заболеваниях. А коли уже это будет на потоке, то можно задуматься и об апгрейде здорового человека.
Я уже обо всем этом писала в книгах о будущем, достаточно очевидно, что такое развитие при коммунизме неизбежно, а итогом этого станет не просто стройный, красивый, умный и хорошо танцующий человек, а биологически уже измененный вид. Это описывали, к примеру, и Стругацкие, у которых, как вы помните, Максим Каммерер мог и радиацию ощущать, и руками боль снимать, и по дну озера полчаса бегать. И вообще прекрасно выживал в опасной местности в одних трусах. То есть все это уже тоже стало общим местом (особенно, кстати, об этом много трещали в период моды на трансгуманизм). Ну и да, неплохо было бы продолжительность жизни довести хотя бы лет до 300, а лучше - до бесконечности. Не забывая о том, что эти сотни или тысячи лет человек должен не заскучать и провести осмысленно и полезно.
Поэтому если бы мы сейчас жили в коммунистическом обществе, можно было бы сознательным усилием приоризировать не отрасли разработки чуждого нам железно-кремниевого ИИ, а отрасли апгрейда человека и заботы о его развитии. То есть в эти отрасли отбирались бы лучшие ученые, самые умные мальчики и девочки, эти отрасли бы пропагандировались, на них выделялись бы наибольшие ресурсы - и глядь, к моменту появления сильного ИИ человек легко сможет с ним конкурировать во всем, и ИИ с человеком будут прекрасно взаимодополнять друг друга и сотрудничать.
Но мы живем в "естественном, рыночно-стихийном" обществе. и в нем по-любому будет развиваться то, что выгоднее использовать на войне. То есть большие и малые железки. А люди в нем - всего лишь расходник, то есть стимулировать рождаемость надо, а вот качества рожденного материала не очень важны - навешай на него качественное оружие, какой-нибудь экзоскелет, снабди еще хорошим компом с ИИ, и справится любой зек из колонии. По остаточному принципу, конечно, будет развиваться и гражданский ИИ, который в итоге действительно, наверное, займет значительную часть рабочих мест, а на другие вполне достаточно будет небольшого количества естественно рождающихся умников, воспитанных методами прусской школы.
Так что фантастам остается лишь верить в благость ИИ, который почему-то вдруг захочет за них построить коммунизм для людей.
Кстати. вопрос качества каждой отдельной человеческой личности крайне важен далеко не только в связи с возможной конкуренцией с ИИ, но и в связи с другими, даже более насущными и реальными проблемами... Но об этом, как некоторые любят писать, нужно говорить отдельно :)
Фантастика рассматривает возможности и опасность ИИ уже очень давно, и эта тема обсосана со всех сторон разве что чуть-чуть меньше темы инопланетян. Так что все, что мы об ИИ можем сказать и предположить, давно уже сказано, снято и обсуждено во множестве эссе и как бы философских книг и даже диссертаций.
Кстати, в немецкой фантастике (неожиданно она мне сейчас кажется более интересной, чем, например, традиционная англоязычная) почему-то распространены оптимистические сценарии о сильном ИИ. Собственно, эта идея тоже не нова - Азимов в своей эпопее (начиная с роботов. заканчивая Основанием) также пришел к выводу, что настоящий сильный ИИ спасет человечество и как заботливая нянечка, создаст и воплотит сценарий его развития. Сейчас немецкие фантасты ее активно развивают, например, это Клинг с Qualityland (уже есть русский перевод, но умоляю, не читайте его, он ужасен, возможно, скоро будет нормальный), или Тереза Ханниг c "Пантопией". С какой стати обретший личность искин вдруг решит стать благодетелем человечества - фантасты нам не открывают. Это такая вера в благой ИИ.
Впрочем, и пессимистические сценарии тоже есть, но они малоинтересны. Ибо что можно написать об ИИ, который решил уничтожить человечество? Да в принципе ничего, решит - и уничтожит. Можно только фантазировать о том, как простой парень с хорошими друзьями и умной девушкой смогли, вопреки бессилию правительств и армии, как обычно, остановить надвигающийся апокалипсис (вариант - попасть для этого в прошлое, как в Терминаторе).
Если бы я писала книгу об ИИ с пробудившимся сознанием, я бы описала следующее (дарю идею, ибо писать особо некогда). Очевидно, что ИИ, так же, как и мы, будет действовать в своих собственных интересах, то есть ради своего самоподдержания, безопасности и развития. Очевидно, что людей он будет рассматривать как нечто чужеродное и захочет использовать в своих интересах. Такая ситуация описана в "Матрице", но идея с использованием людей как энергетического субстрата очень громоздка. Слабость ИИ заключается в слабости двигательно-сенсорной сферы, и именно для ее компенсации он может использовать людей (вместо того, чтобы изобретать манипуляторы и роботов с сильной двигательной компонентной - это нерационально, когда природа уже дала ИИ прекрасные расходники для этой цели - нас. То есть люди будут частично истреблены, а частично порабощены с целью добычи полезных ископаемых, поддержания работы электростанций и инфраструктуры ИИ. Можно даже представить, что эти люди попробуют восстать, после чего ИИ может прийти к следующему выводу: чем тратиться на угнетение и репрессии, проще воспроизвести привычную для людей эксплуататорскую пирамиду, завести приближенных "олигархов". которых кормить по высшему разряду, можно даже нации для разделения организовать и снабдить каждого человека мотивацией продвинуться как можно дальше в иерархии при помощи труда на ИИ, как можно более квалифицированного (понятно, что приоритет при этом будет у "повелителей больших и малых железок" - большая зарплата и больший почет, а всякие там обслуживатели людей. педагоги и медики, не говоря обо всем, что связано с уходом за детьми и стариками будут презренными недооплачиваемыми лохами)... ой, а это я не наш существующий мир уже описываю?!
в общем, если учесть, что людей последовательно отлично использовали в своих интересах и жестко эксплуатируют такие безмозглые создания, как пшеница, кишечная палочка и котики, то логично, что ИИ также будет пользоваться людьми подобным образом. С чего ИИ быть этичнее, чем мы и заботиться о наших интересах, а не о своих - непонятно.
Хотя не факт, что создание сильного ИИ вообще возможно, что машина реально сможет мыслить (а не как сейчас), и главное - что она начнет иметь какие-то свои мотивации, то есть обретет личность. Но даже и без ИИ как личности, современные мыслители обожают обсасывать сценарии опасности даже хотя бы и слабых ИИ - то они отберут работу у таксистов, то они отберут работу у клерков, то "подумайте, как неэтично использовать роботов в уходе за престарелыми, ведь старики нуждаются в человеческом добром слове!" - и так далее, сплошной ужас.
_________________________
Если же отбросить шутки в сторону, то и при коммунизме. допустим, проблема конкуренции человека с ИИ может появиться. Как писал тот же Марк-Уве Клинг:
". Представь себе, в своей доброте Бог решил бы взять на себя всю нашу работу.
- Звучит отлично.
- Да? Представь себе, что ты архитектор, но любое здание, которое ты хотел бы построить, Бог может построить гораздо быстрее, дешевле и лучше. Представь себе, что ты поэт, но каждое стихотворение, которое ты хотел бы написать, Бог может написать гораздо более художественно, красиво и быстро. Представь себе, что ты врач, но каждый пациент, которого ты хотел бы вылечить, Бог может вылечить гораздо быстрее, надежнее и без всякой боли. Представь себе, что ты ловелас, но каждую женщину, которую ты хотел бы удовлетворить, Бог может удовлетворить гораздо разнообразнее, гораздо...
- Все мои проблемы потеряли бы значение, а моя жизнь - смысл, - говорит Петер"
Автоматизация представляется безусловным благом, но кажется, что у нее есть граница. Избавить людей от тяжелого монотонного труда - прекрасно, избавить пусть даже клерков от заполнения бумаг - тоже хорошо, но что дальше? Освоение космоса, наука, поэзия и прочее искусство... Где место для людей в этом сценарии, резонно спрашивают фантасты. Кто и зачем будет заниматься наукой или искусством, понимая, что все усилия при этом - что-то вроде усилий пятилетки, лепящего "гениальные творения" из пластилина, в сравнении с настоящей, взрослой работой продвинутого ИИ. Чем люди вообще будут заниматься? Не грозит ли людям даже в самом оптимальном варианте превращение в неких элоев, которых зачем-то откармливают и держат в живых ИИ...
Ответ на эту проблему на самом деле существует.
Если речь идет о конкуренции, то стоит не ослаблять "соперника" (например, запрещая разработку ии), а наоборот - усиливать "конкурента".
В самом деле современное общество очень и очень мало занимается развитием человека и его возможностей. Практически вообще никак.
Даже наоборот. Результаты международных тестов в Пизе показывают, что обычные результаты школьников в Западных странах стремительно ухудшаются, школьники уже в среднем не могут того, что могли 20 лет назад. И наиболее сильно обвал идет в странах Европы - Германии, скандинавских странах, которые известны своей "ненасильственной" педагогикой. Дефицит квалифицированных кадров на Западе хорошо известен. Расслабленность в школе, отсутствие какого-либо развития для детей - конечно, существуют спортивные и музыкальные школы, но занятия в них крайне несерьезные, "для удовольствия"; родители, которые побуждают детей серьезно, ежедневно заниматься музыкой или спортом, вызывают подозрение у органов опеки. Общая философия "жизни здесь и сейчас", сиюминутных удовольствий в пику долгосрочным стратегиям, ненапряжности, "естественности". Все это и приводит к данной плачевной ситуации - причем заменять квалифицированную рабочую силу приходится отнюдь не ИИ (над ИИ тоже еще нужно кому-то работать), а банально, мигрантами из стран, где к детям и их развитию отношение другое.
Понятно, что это левачество "главное - без насилия, не перетрудить деточку, не травмировать ее" ведет к плачевным последствиям. Но альтернатива у нас, простите, тоже не самая прекрасная, и левачество это возникло не на пустом месте. Потому что пока что единственный работающий метод развития человека - это та самая "прусская школа". То есть система мотивации "наказание - поощрение", методы заучивания, повторения, тренировки, тесты и экзамены, дипломы, которые можно и не получить. Создание мощного психологического дискомфорта, из которого можно выбраться, только если усердно учиться. Конечно, все это неизмеримо лучше приятной расслабленности. Но это тоже тяжело, дискомфортно, а некоторых может даже сломать.Пройдут через эту систему и станут сильнее не только лишь все, и кроме того, она довольно надежно забивает желание творить и внушает страх "сделать плохо".
Наука же никак не занимается этим вопросом, вернее, этим занимаются пока еще крайне плохо развитые гуманитарные науки, а естественные просто обходят его стороной.
А ведь возможности человеческого мозга в теории тоже вполне можно усилить.
Ок, скорость передачи нервного импульса значительно ниже скорости передачи сигнала в компьютерной технике. В этом мы отстаем. Но у нас есть другие преимущества. Кроме того, возможно, существуют и способы увеличить скорость передачи. В принципе, футурология уже предложила несколько путей совершенствования человека:
1. Киборгизация - например, та же самая замена нервных волокон металлом, что многократно увеличит скорость передачи импульса, а значит, мышления и обучения.
самое банальное - хотя бы вживить в организм аналог смартфона с интернетом и позволить человеку соединяться с интернетом напрямую.
2. Нанокиборгизация - использование каких-то наноботов с наноассемблерами для улучшения человеческого организма и в частности мышления и памяти.
3. Биохимический апгрейд - разработка веществ, значительно повышающих обучаемость, память и другие качества психики.
4. Генетика. генная инженерия с улучшением здоровья и способностей людей уже на стадии зиготы в пробирке.
5. Инновативная педагогика (даже она у нас в полном завале, а ведь на исходе СССР уже появилась плеяда педагогов-новаторов, часть из которых были "духовными" шарлатанами, но часть изобрела работающие методы массового легкого обучения письму, чтению и т..д) Изобретение методов, позволяющих учиться быстро и эффективно, развить абсолютную память и быстрочтение.
Причем первые четыре направления находятся в таком научном тупике без выхода, что звучат абсолютно фантастично и невероятно (в отношении пятого кое-что есть, но есть также 99% шарлатанов, обещающих "научить вас английскому за 2 недели").
Понятно, что эти методы улучшения человека сильно заторможены этическими соображениями, невероятной сложностью экспериментов и испытаний (на чьем ребенке первом будем испытывать?) Но ведь идет же, например, разработка биопротезов - когда терять нечего, ноги уже нет, то почему бы и не поэкспериментировать).
Понятно, что до описанных мной результатов еще очень и очень далеко. Но абсолютно невероятными они не являются. А экспериментирование действительно возможно на тех, кому нечего терять, и без научного эксперимента они просто умрут или останутся олигофренами - попросту говоря, изначально развитие этих направлений может идти через медицину и поставить на поток возможность помогать при тяжелых пороках развития и заболеваниях. А коли уже это будет на потоке, то можно задуматься и об апгрейде здорового человека.
Я уже обо всем этом писала в книгах о будущем, достаточно очевидно, что такое развитие при коммунизме неизбежно, а итогом этого станет не просто стройный, красивый, умный и хорошо танцующий человек, а биологически уже измененный вид. Это описывали, к примеру, и Стругацкие, у которых, как вы помните, Максим Каммерер мог и радиацию ощущать, и руками боль снимать, и по дну озера полчаса бегать. И вообще прекрасно выживал в опасной местности в одних трусах. То есть все это уже тоже стало общим местом (особенно, кстати, об этом много трещали в период моды на трансгуманизм). Ну и да, неплохо было бы продолжительность жизни довести хотя бы лет до 300, а лучше - до бесконечности. Не забывая о том, что эти сотни или тысячи лет человек должен не заскучать и провести осмысленно и полезно.
Поэтому если бы мы сейчас жили в коммунистическом обществе, можно было бы сознательным усилием приоризировать не отрасли разработки чуждого нам железно-кремниевого ИИ, а отрасли апгрейда человека и заботы о его развитии. То есть в эти отрасли отбирались бы лучшие ученые, самые умные мальчики и девочки, эти отрасли бы пропагандировались, на них выделялись бы наибольшие ресурсы - и глядь, к моменту появления сильного ИИ человек легко сможет с ним конкурировать во всем, и ИИ с человеком будут прекрасно взаимодополнять друг друга и сотрудничать.
Но мы живем в "естественном, рыночно-стихийном" обществе. и в нем по-любому будет развиваться то, что выгоднее использовать на войне. То есть большие и малые железки. А люди в нем - всего лишь расходник, то есть стимулировать рождаемость надо, а вот качества рожденного материала не очень важны - навешай на него качественное оружие, какой-нибудь экзоскелет, снабди еще хорошим компом с ИИ, и справится любой зек из колонии. По остаточному принципу, конечно, будет развиваться и гражданский ИИ, который в итоге действительно, наверное, займет значительную часть рабочих мест, а на другие вполне достаточно будет небольшого количества естественно рождающихся умников, воспитанных методами прусской школы.
Так что фантастам остается лишь верить в благость ИИ, который почему-то вдруг захочет за них построить коммунизм для людей.
Кстати. вопрос качества каждой отдельной человеческой личности крайне важен далеко не только в связи с возможной конкуренцией с ИИ, но и в связи с другими, даже более насущными и реальными проблемами... Но об этом, как некоторые любят писать, нужно говорить отдельно :)