10 самых страшных фактов об искусственном интеллекте
Мы находимся в процессе четвёртой промышленной революции, которая характеризуется достижениями в области робототехники, самоуправляемых автомобилей, внедрением умных бытовых приборов и т.п. На переднем крае всего этого находится искусственный интеллект (ИИ), который был создан в результате развития автоматизированных компьютерных систем. Его возможности сопоставимы с человеческими, а иногда и превосходят их.
Считается, что вскоре ИИ займёт такое важное место, что от него будут зависеть все технологии будущего. Но понимаем ли мы, к чему мы стремимся? Вот десять страшных фактов об искусственном интеллекте.
10. Ваш самоуправляемый автомобиль может быть запрограммирован на ваше убийство
Предположим, вы едете по дороге. Внезапно перед вашей машиной появляется группа детей. Вы нажимаете на тормоза, но они не работают. У вас остаётся лишь два варианта: первый - это наехать на детей, но спасти свою жизнь. Второй - это свернуть и врезаться в стену или столб, спасая таким образом детей, но убивая себя. Что бы вы выбрали?
Большинство людей скажут, что они свернут и врежутся в столб, даже если это угрожает им гибелью.
А теперь представьте, что решение принимает автомобиль, а вы - всего лишь пассажир. Вы по-прежнему согласны, что автомобиль должен свернуть и убить вас? Большая часть людей, которые готовы погибнуть, если они будут водителями, в то же время не хотят, чтобы решение об этом принимал автомобиль. Более того, они не станут даже покупать автомобиль, если будут знать, что он способен пожертвовать их жизнями в случае угрозы ДТП.
Отсюда вытекает следующий вопрос: так что же должен делать автомобиль?
Автомобили будут делать то, на что их запрограммируют. Но вот что именно, производители самоуправляемых автомобилей не говорят. Большинство из них, такие как Apple, Ford и Mercedes-Benz, постоянно тактично уклоняются от ответа на этот вопрос. Исполнительный директор Daimler AG (материнская компания Mercedes-Benz) однажды заявил, что их самоуправляемые автомобили «будут защищать [пассажира] любой ценой». Однако в самой Mercedes-Benz опровергли это, сказав, что их транспортные средства созданы для обеспечения того, чтобы такой дилеммы никогда не возникало. Этот ответ неоднозначен, потому что все мы понимаем, что рано или поздно такая ситуация возникнет.
В Google по этому поводу заявили, что их самоуправляемые автомобили будут спасать жизнь незащищённых участников дорожного движения. Это означает, что автомобиль выберет удар в столб и убийство водителя. Далее Google поясняет, что в случае угрозы аварии его самоуправляемые автомобили выберут столкновение с более маленьким автомобилем. Фактически автомобили Google будут постоянно стремиться быть ближе к более мелким объектам. В настоящее время у Google есть патент на технологию, которая позволит их автомобилям во время движения держаться подальше от более крупных автомобилей и поближе к более мелким.
9. Роботы могут потребовать таких же прав, как и люди
Судя по нынешним тенденциям в деле развития ИИ, вполне возможно, что роботы достигнут стадии потребности в самореализации. Когда это произойдёт, они могут потребовать предоставить им такие же права, какие есть у людей. То есть они будут нуждаться в жилье и медицинских услугах и потребуют разрешить им голосовать, служить в вооружённых силах и предоставить гражданство. В ответ правительство заставит их платить налоги.
К такому выводу пришли в результате совместного исследования, проведённого Министерством энергетики США и британским правительственным центром по прогнозированию угроз будущего Innovation’s Horizon Scanning Center. Би-би-си об этом сообщило ещё в 2006 году, когда ИИ был гораздо менее развит. Тогда исследование провели, чтобы спрогнозировать технологические достижения, к которым мы придём через 50 лет. Означает ли это, что осталось всего 40 лет до того момента, когда машины начнут требовать гражданских прав? Время покажет.
8. Использование автоматических роботов-убийц
Когда мы говорим про «автоматических роботов-убийц», мы подразумеваем роботов, которые могут убивать без вмешательства людей. Дроны - не в счёт, потому что ими управляют люди. Один из автоматических роботов-убийц, о которых мы говорим - это SGR-A1, часовой-стрелок, разработанный компанией Samsung Techwin (ныне Hanwha Techwin) и Корейским университетом. SGR-A1 напоминает огромную камеру наблюдения, за исключением того, что у него есть мощный пулемёт, который может начать автоматически стрелять и убивать.
SGR-A1 уже используется в Израиле и Южной Корее, которая установила несколько таких аппаратов вдоль своей демилитаризованной зоны с Северной Кореей. Южная Корея отрицает включение автоматического режима, который позволяет машине самой решать, кого ей убивать, а кого - нет. Машина находится в полуавтоматическом режиме, то есть она обнаруживает цели, но решение на открытие огня принимает оператор-человек.
7. Управление боевыми роботами может быть перехвачено противником
В 2011 году Иран захватил невероятно секретный беспилотник RQ-170 Sentinel ВВС США, причём безо всяких повреждений. Это последнее примечание является крайне важным, поскольку оно означает, что беспилотник не был сбит. Иранцы утверждают, что они вынудили беспилотник приземлиться, подменив GPS-сигнал и заставив его подумать, что он находится на дружественной территории. Некоторые американские эксперты утверждают, что этого не может быть - но ведь беспилотник не был сбит. Итак, что же случилось?
Насколько нам известно, вполне возможно, что всё сказанное Ираном - правда. Дроны, GPS и роботы основаны на применении компьютеров, а все мы знаем, что компьютеры можно взломать. Военные роботы, если они когда-либо попадут на поле битвы, не станут исключением. Фактически, существует очень большая вероятность, что вражеская армия попытается их взломать и использовать против той же армии, которая их выставила.
Автономные роботы-убийцы ещё не получили широкого распространения, поэтому мы пока не видели, чтобы их взламывали. Однако представьте себе, что армия роботов на поле битвы внезапно переключается и поворачивается против своих хозяев. Или представьте себе, что Северная Корея взламывает SGR-A1 и начинает их использовать против южнокорейских солдат.
6. Россия использует ботов для распространения пропаганды через Twitter
Боты захватывают Twitter. Исследования Университета Южной Калифорнии и Университета Индианы показали, что около 15% (48 миллионов) из всех учётных записей Twitter принадлежат ботам. Twitter настаивает на том, что этот показатель составляет не более 8,5 процентов. Чтобы внести ясность, добавим, что не все эти боты плохие, некоторые из них приносят реальную пользу - например, есть боты, которые информируют людей о стихийных бедствиях. Однако есть и такие, которые используются для пропаганды, особенно в России.
Россия использовала ботов для распространения новостных сообщений, чтобы посеять раздор среди избирателей США и подтолкнуть их к голосованию за Дональда Трампа во время выборов в 2016 году. В 2016 году был и ещё один инцидент - Россия использовала ботов, чтобы повлиять на мнение избирателей Великобритании во время референдума по выходу страны из Европейского Союза.
За несколько дней до референдума более 150000 российских ботов, которые ранее были сосредоточены на твитах, связанных с войной в Украине и присоединении Крыма к России, неожиданно переключились на твиты с призывами покинуть ЕС. В течение двух дней накануне референдума эти боты разместили около 45000 сообщений, но после референдума они почти сразу же пропали.
Ещё хуже то, что Россия использует этих же ботов, чтобы заставить Twitter банить журналистов, которые пишут о широком применении ботов в пропаганде. Когда Россия обнаруживает статью, сообщающую о существовании ботов, она находит страницу автора в Twitter и заставляет своих ботов осуществлять массовые рассылки от имени автора - до тех пор, пока Twitter не запретит учётную запись автора по подозрению в управлении ботом. И Россия со всё большим мастерством участвует в этой бот-игре. В последнее время она перешла от использования полноценных ботов к использованию киборг-аккаунтов, которые совместно управляются людьми и ботами. Это затрудняет обнаружение и запрещение этих учётных записей в Twitter.
5. Машины отберут у нас работу
Нет никаких сомнений в том, что однажды машины займут наши рабочие места. Единственное, чего мы пока не знаем - это когда они возьмут верх и до какой степени это дойдёт. Давайте попробуем разобраться с этим вопросом.
По утверждениям ведущей консалтинговой и аудиторской фирмы Pricewaterhouse Coopers (PwC), к 2030 году роботы займут 21 процент рабочих мест в Японии, 30 процентов рабочих мест в Великобритании, 35 процентов рабочих мест в Германии и 38 процентов рабочих мест в Соединённых Штатах Америки. К следующему столетию они возьмут на себя более половины работы, которую сегодня выполняют люди.
Больше всего пострадают секторы транспортировки и хранения, где 56 процентов рабочей силы заменят машины. За ними следуют производство и розничная торговля, где машины займут соответственно 46 и 44% всех имеющихся вакансий.
Если говорить о сроках, то предполагается, что к 2027 году машины будут управлять грузовиками, а к 2031 году ими будут укомплектованы розничные магазины. К 2049 году роботы начнут писать книги, а к 2053 году научатся выполнять хирургические операции. Останутся только несколько профессий, которые не подвергнутся вторжению машины. Одна из них - служители церкви, но не потому, что машина не может проповедовать в церкви, а потому, что большинство людей не одобряют такие проповеди.
4. Роботы научились хитрить
Роботы учатся у людей искусству обмана. В одном из экспериментов исследователи из Технологического института Джорджии в Атланте разработали алгоритм, позволяющий роботам решать, следует ли обманывать других людей или роботов. Если роботы решали пойти по пути обмана, исследователи включали алгоритм, позволяющий роботу решить, следует ли пойти по пути обмана с более высокой степенью риска разоблачения или с более низкой.
В ходе эксперимента робот должен был охранять определённые объекты. Он часто проверял их сохранность, но если он обнаруживал присутствие другого робота в этой области, то уходил на ложный маршрут. Этот эксперимент был организован Управлением США по морским исследованиям, что означает возможность его военного применения. Роботы, охраняющие военные склады, могут менять свои маршруты патрулирования, если они замечают, что за ними следит противник.
В ходе другого эксперимента, на этот раз проведённого в Федеральной политехнической школе Лозанны в Швейцарии, учёные создали 1000 роботов и разделили их на десять групп. Роботы должны были искать «полезные ресурсы» в обозначенной области и избегать приближения к «вредным ресурсам». У каждого робота была синяя сигнальная лампочка, которая зажигалась каждый раз, когда он находил «полезный ресурс», чтобы позвать других членов своей группы. По результатам первого эксперимента были отобраны лучшие 200 роботов, и на основе их алгоритмов было создано новое поколение роботов.
Улучшенные роботы приступили к поискам «полезных ресурсов», однако, это привело к их скоплению в одном месте, так как все роботы стали собираться вокруг каждой находки. Хуже того, иногда того робота, который нашёл «ресурс», даже отталкивали от его находки. Позднее 500 роботов нового поколения научились отключать свои огни, когда они находили «полезный ресурс». Это им позволяло избежать столпотворения и снизить вероятность того, что они будут оттиснуты от своей находки, когда к ним присоединятся другие члены их группы. В то же время другие роботы эволюционировали таким образом, что научились находить тех роботов-обманщиков, которые отключали свои фонари при нахождении «ресурса», что не имело ничего общего с тем, на что они были запрограммированы.
3. Рынок искусственного интеллекта постепенно монополизируется
Рынку ИИ угрожает монополизация. Крупные компании с угрожающей скоростью выкупают все стартапы в области создания ИИ. Если эта тенденция сохранится, в конце концов, создание ИИ будет контролироваться очень небольшим количеством корпораций. В отчётах указывалось, что по состоянию на октябрь 2016 года, такие компании, как Apple, Facebook, Intel, Twitter, Samsung и Google в течение последних пяти лет приобрели 140 предприятий по разработке искусственного интеллекта.
За первые три месяца 2017 года крупные технологические компании выкупили ещё 34 стартапа. Кроме того, они также платят огромные деньги, чтобы нанять лучших учёных в области создания ИИ. Если это не взять под контроль, нетрудно догадаться, что нас ждёт в будущем.
2. ИИ превзойдёт людей в умении думать и делать выводы
Искусственный интеллект подразделяется на две группы: сильный и слабый. Тот ИИ, который окружает нас сегодня, классифицируются как слабый. Это включает в себя и такие продвинутые системы ИИ, как умные помощники и компьютеры, которые, начиная с 1987 года, побеждают шахматных мастеров. Разница между сильным и слабым ИИ - это способность рассуждать и вести себя так, как это делает человеческий мозг.
Слабые системы обычно выполняют то, на что они запрограммированы, независимо от того, насколько сложна эта задача. В противоположность им сильный ИИ обладает самосознанием и способностью размышлять как люди. Он не ограничивается рамками своей программы и может самостоятельно решать, что ему следует делать безо всякого вмешательства человека. На данный момент сильного ИИ ещё не существует, но учёные предсказывают, что он будет создан примерно через десять лет.
1. ИИ может нас уничтожить
Есть опасения, что ИИ может ввергнуть наш мир в апокалипсис, наподобие того, который показан в фильме «Терминатор». Предупреждения, что ИИ может нас уничтожить, исходят не от каких-то малоизвестных учёных или фантастов, а от таких выдающихся профессионалов, как Стивен Хокинг, Илон Маск и Билл Гейтс.
Билл Гейтс считает, что ИИ станет слишком умным, чтобы оставаться под нашим контролем. Аналогичного мнения придерживается и Стивен Хокинг. Он не думает, что ИИ внезапно восстанет в течение одной ночи. Он полагает, что, скорее всего, машины будут уничтожать нас постепенно, становясь всё более компетентными в том, что они делают. Наш конфликт с ИИ начнётся в тот момент, когда его цели перестанут совпадать с нашими.
Илон Маск сравнивает распространение ИИ с «призывом к демону». Он считает, что это самая большая угроза для человечества. Чтобы предотвратить апокалипсис, он предлагает правительствам взять развитие ИИ под свой контроль раньше, чем коммерческие компании успеют «наделать больших глупостей».
Источник
Считается, что вскоре ИИ займёт такое важное место, что от него будут зависеть все технологии будущего. Но понимаем ли мы, к чему мы стремимся? Вот десять страшных фактов об искусственном интеллекте.
10. Ваш самоуправляемый автомобиль может быть запрограммирован на ваше убийство
Предположим, вы едете по дороге. Внезапно перед вашей машиной появляется группа детей. Вы нажимаете на тормоза, но они не работают. У вас остаётся лишь два варианта: первый - это наехать на детей, но спасти свою жизнь. Второй - это свернуть и врезаться в стену или столб, спасая таким образом детей, но убивая себя. Что бы вы выбрали?
Большинство людей скажут, что они свернут и врежутся в столб, даже если это угрожает им гибелью.
А теперь представьте, что решение принимает автомобиль, а вы - всего лишь пассажир. Вы по-прежнему согласны, что автомобиль должен свернуть и убить вас? Большая часть людей, которые готовы погибнуть, если они будут водителями, в то же время не хотят, чтобы решение об этом принимал автомобиль. Более того, они не станут даже покупать автомобиль, если будут знать, что он способен пожертвовать их жизнями в случае угрозы ДТП.
Отсюда вытекает следующий вопрос: так что же должен делать автомобиль?
Автомобили будут делать то, на что их запрограммируют. Но вот что именно, производители самоуправляемых автомобилей не говорят. Большинство из них, такие как Apple, Ford и Mercedes-Benz, постоянно тактично уклоняются от ответа на этот вопрос. Исполнительный директор Daimler AG (материнская компания Mercedes-Benz) однажды заявил, что их самоуправляемые автомобили «будут защищать [пассажира] любой ценой». Однако в самой Mercedes-Benz опровергли это, сказав, что их транспортные средства созданы для обеспечения того, чтобы такой дилеммы никогда не возникало. Этот ответ неоднозначен, потому что все мы понимаем, что рано или поздно такая ситуация возникнет.
В Google по этому поводу заявили, что их самоуправляемые автомобили будут спасать жизнь незащищённых участников дорожного движения. Это означает, что автомобиль выберет удар в столб и убийство водителя. Далее Google поясняет, что в случае угрозы аварии его самоуправляемые автомобили выберут столкновение с более маленьким автомобилем. Фактически автомобили Google будут постоянно стремиться быть ближе к более мелким объектам. В настоящее время у Google есть патент на технологию, которая позволит их автомобилям во время движения держаться подальше от более крупных автомобилей и поближе к более мелким.
9. Роботы могут потребовать таких же прав, как и люди
Судя по нынешним тенденциям в деле развития ИИ, вполне возможно, что роботы достигнут стадии потребности в самореализации. Когда это произойдёт, они могут потребовать предоставить им такие же права, какие есть у людей. То есть они будут нуждаться в жилье и медицинских услугах и потребуют разрешить им голосовать, служить в вооружённых силах и предоставить гражданство. В ответ правительство заставит их платить налоги.
К такому выводу пришли в результате совместного исследования, проведённого Министерством энергетики США и британским правительственным центром по прогнозированию угроз будущего Innovation’s Horizon Scanning Center. Би-би-си об этом сообщило ещё в 2006 году, когда ИИ был гораздо менее развит. Тогда исследование провели, чтобы спрогнозировать технологические достижения, к которым мы придём через 50 лет. Означает ли это, что осталось всего 40 лет до того момента, когда машины начнут требовать гражданских прав? Время покажет.
8. Использование автоматических роботов-убийц
Когда мы говорим про «автоматических роботов-убийц», мы подразумеваем роботов, которые могут убивать без вмешательства людей. Дроны - не в счёт, потому что ими управляют люди. Один из автоматических роботов-убийц, о которых мы говорим - это SGR-A1, часовой-стрелок, разработанный компанией Samsung Techwin (ныне Hanwha Techwin) и Корейским университетом. SGR-A1 напоминает огромную камеру наблюдения, за исключением того, что у него есть мощный пулемёт, который может начать автоматически стрелять и убивать.
SGR-A1 уже используется в Израиле и Южной Корее, которая установила несколько таких аппаратов вдоль своей демилитаризованной зоны с Северной Кореей. Южная Корея отрицает включение автоматического режима, который позволяет машине самой решать, кого ей убивать, а кого - нет. Машина находится в полуавтоматическом режиме, то есть она обнаруживает цели, но решение на открытие огня принимает оператор-человек.
7. Управление боевыми роботами может быть перехвачено противником
В 2011 году Иран захватил невероятно секретный беспилотник RQ-170 Sentinel ВВС США, причём безо всяких повреждений. Это последнее примечание является крайне важным, поскольку оно означает, что беспилотник не был сбит. Иранцы утверждают, что они вынудили беспилотник приземлиться, подменив GPS-сигнал и заставив его подумать, что он находится на дружественной территории. Некоторые американские эксперты утверждают, что этого не может быть - но ведь беспилотник не был сбит. Итак, что же случилось?
Насколько нам известно, вполне возможно, что всё сказанное Ираном - правда. Дроны, GPS и роботы основаны на применении компьютеров, а все мы знаем, что компьютеры можно взломать. Военные роботы, если они когда-либо попадут на поле битвы, не станут исключением. Фактически, существует очень большая вероятность, что вражеская армия попытается их взломать и использовать против той же армии, которая их выставила.
Автономные роботы-убийцы ещё не получили широкого распространения, поэтому мы пока не видели, чтобы их взламывали. Однако представьте себе, что армия роботов на поле битвы внезапно переключается и поворачивается против своих хозяев. Или представьте себе, что Северная Корея взламывает SGR-A1 и начинает их использовать против южнокорейских солдат.
6. Россия использует ботов для распространения пропаганды через Twitter
Боты захватывают Twitter. Исследования Университета Южной Калифорнии и Университета Индианы показали, что около 15% (48 миллионов) из всех учётных записей Twitter принадлежат ботам. Twitter настаивает на том, что этот показатель составляет не более 8,5 процентов. Чтобы внести ясность, добавим, что не все эти боты плохие, некоторые из них приносят реальную пользу - например, есть боты, которые информируют людей о стихийных бедствиях. Однако есть и такие, которые используются для пропаганды, особенно в России.
Россия использовала ботов для распространения новостных сообщений, чтобы посеять раздор среди избирателей США и подтолкнуть их к голосованию за Дональда Трампа во время выборов в 2016 году. В 2016 году был и ещё один инцидент - Россия использовала ботов, чтобы повлиять на мнение избирателей Великобритании во время референдума по выходу страны из Европейского Союза.
За несколько дней до референдума более 150000 российских ботов, которые ранее были сосредоточены на твитах, связанных с войной в Украине и присоединении Крыма к России, неожиданно переключились на твиты с призывами покинуть ЕС. В течение двух дней накануне референдума эти боты разместили около 45000 сообщений, но после референдума они почти сразу же пропали.
Ещё хуже то, что Россия использует этих же ботов, чтобы заставить Twitter банить журналистов, которые пишут о широком применении ботов в пропаганде. Когда Россия обнаруживает статью, сообщающую о существовании ботов, она находит страницу автора в Twitter и заставляет своих ботов осуществлять массовые рассылки от имени автора - до тех пор, пока Twitter не запретит учётную запись автора по подозрению в управлении ботом. И Россия со всё большим мастерством участвует в этой бот-игре. В последнее время она перешла от использования полноценных ботов к использованию киборг-аккаунтов, которые совместно управляются людьми и ботами. Это затрудняет обнаружение и запрещение этих учётных записей в Twitter.
5. Машины отберут у нас работу
Нет никаких сомнений в том, что однажды машины займут наши рабочие места. Единственное, чего мы пока не знаем - это когда они возьмут верх и до какой степени это дойдёт. Давайте попробуем разобраться с этим вопросом.
По утверждениям ведущей консалтинговой и аудиторской фирмы Pricewaterhouse Coopers (PwC), к 2030 году роботы займут 21 процент рабочих мест в Японии, 30 процентов рабочих мест в Великобритании, 35 процентов рабочих мест в Германии и 38 процентов рабочих мест в Соединённых Штатах Америки. К следующему столетию они возьмут на себя более половины работы, которую сегодня выполняют люди.
Больше всего пострадают секторы транспортировки и хранения, где 56 процентов рабочей силы заменят машины. За ними следуют производство и розничная торговля, где машины займут соответственно 46 и 44% всех имеющихся вакансий.
Если говорить о сроках, то предполагается, что к 2027 году машины будут управлять грузовиками, а к 2031 году ими будут укомплектованы розничные магазины. К 2049 году роботы начнут писать книги, а к 2053 году научатся выполнять хирургические операции. Останутся только несколько профессий, которые не подвергнутся вторжению машины. Одна из них - служители церкви, но не потому, что машина не может проповедовать в церкви, а потому, что большинство людей не одобряют такие проповеди.
4. Роботы научились хитрить
Роботы учатся у людей искусству обмана. В одном из экспериментов исследователи из Технологического института Джорджии в Атланте разработали алгоритм, позволяющий роботам решать, следует ли обманывать других людей или роботов. Если роботы решали пойти по пути обмана, исследователи включали алгоритм, позволяющий роботу решить, следует ли пойти по пути обмана с более высокой степенью риска разоблачения или с более низкой.
В ходе эксперимента робот должен был охранять определённые объекты. Он часто проверял их сохранность, но если он обнаруживал присутствие другого робота в этой области, то уходил на ложный маршрут. Этот эксперимент был организован Управлением США по морским исследованиям, что означает возможность его военного применения. Роботы, охраняющие военные склады, могут менять свои маршруты патрулирования, если они замечают, что за ними следит противник.
В ходе другого эксперимента, на этот раз проведённого в Федеральной политехнической школе Лозанны в Швейцарии, учёные создали 1000 роботов и разделили их на десять групп. Роботы должны были искать «полезные ресурсы» в обозначенной области и избегать приближения к «вредным ресурсам». У каждого робота была синяя сигнальная лампочка, которая зажигалась каждый раз, когда он находил «полезный ресурс», чтобы позвать других членов своей группы. По результатам первого эксперимента были отобраны лучшие 200 роботов, и на основе их алгоритмов было создано новое поколение роботов.
Улучшенные роботы приступили к поискам «полезных ресурсов», однако, это привело к их скоплению в одном месте, так как все роботы стали собираться вокруг каждой находки. Хуже того, иногда того робота, который нашёл «ресурс», даже отталкивали от его находки. Позднее 500 роботов нового поколения научились отключать свои огни, когда они находили «полезный ресурс». Это им позволяло избежать столпотворения и снизить вероятность того, что они будут оттиснуты от своей находки, когда к ним присоединятся другие члены их группы. В то же время другие роботы эволюционировали таким образом, что научились находить тех роботов-обманщиков, которые отключали свои фонари при нахождении «ресурса», что не имело ничего общего с тем, на что они были запрограммированы.
3. Рынок искусственного интеллекта постепенно монополизируется
Рынку ИИ угрожает монополизация. Крупные компании с угрожающей скоростью выкупают все стартапы в области создания ИИ. Если эта тенденция сохранится, в конце концов, создание ИИ будет контролироваться очень небольшим количеством корпораций. В отчётах указывалось, что по состоянию на октябрь 2016 года, такие компании, как Apple, Facebook, Intel, Twitter, Samsung и Google в течение последних пяти лет приобрели 140 предприятий по разработке искусственного интеллекта.
За первые три месяца 2017 года крупные технологические компании выкупили ещё 34 стартапа. Кроме того, они также платят огромные деньги, чтобы нанять лучших учёных в области создания ИИ. Если это не взять под контроль, нетрудно догадаться, что нас ждёт в будущем.
2. ИИ превзойдёт людей в умении думать и делать выводы
Искусственный интеллект подразделяется на две группы: сильный и слабый. Тот ИИ, который окружает нас сегодня, классифицируются как слабый. Это включает в себя и такие продвинутые системы ИИ, как умные помощники и компьютеры, которые, начиная с 1987 года, побеждают шахматных мастеров. Разница между сильным и слабым ИИ - это способность рассуждать и вести себя так, как это делает человеческий мозг.
Слабые системы обычно выполняют то, на что они запрограммированы, независимо от того, насколько сложна эта задача. В противоположность им сильный ИИ обладает самосознанием и способностью размышлять как люди. Он не ограничивается рамками своей программы и может самостоятельно решать, что ему следует делать безо всякого вмешательства человека. На данный момент сильного ИИ ещё не существует, но учёные предсказывают, что он будет создан примерно через десять лет.
1. ИИ может нас уничтожить
Есть опасения, что ИИ может ввергнуть наш мир в апокалипсис, наподобие того, который показан в фильме «Терминатор». Предупреждения, что ИИ может нас уничтожить, исходят не от каких-то малоизвестных учёных или фантастов, а от таких выдающихся профессионалов, как Стивен Хокинг, Илон Маск и Билл Гейтс.
Билл Гейтс считает, что ИИ станет слишком умным, чтобы оставаться под нашим контролем. Аналогичного мнения придерживается и Стивен Хокинг. Он не думает, что ИИ внезапно восстанет в течение одной ночи. Он полагает, что, скорее всего, машины будут уничтожать нас постепенно, становясь всё более компетентными в том, что они делают. Наш конфликт с ИИ начнётся в тот момент, когда его цели перестанут совпадать с нашими.
Илон Маск сравнивает распространение ИИ с «призывом к демону». Он считает, что это самая большая угроза для человечества. Чтобы предотвратить апокалипсис, он предлагает правительствам взять развитие ИИ под свой контроль раньше, чем коммерческие компании успеют «наделать больших глупостей».
Источник