Искусственный интеллект: опасность или новые возможности?
Я просыпаюсь утром под звук любимой музыки, которая играет на смартфоне. Дотянувшись до тумбочки, беру его в руки, чтобы проверить почту и посмотреть, какая погода за окном. Прогноз неутешителен, но ничего не поделаешь: меня ждет новый день. Нехотя поднимаюсь и перемещаюсь на кухню. Там первым делом включаю электрический чайник и тостер. Завершив утренние процедуры и позавтракав, смотрю свой to-do-list на смартфоне. Хорошо, когда твои гаджеты не дают забывать о важных делах.
Все-таки с развитием современных технологий наша жизнь стала гораздо проще и комфортнее. Сейчас уже трудно представить, каково было людям без гаджетов и свободного доступа к интернету еще каких-то 20-30 лет назад. Вместе с тем новейшие изобретения и открытия в области техники могут не только работать на человека, но и против него. Я задумался об этом в последний раз, когда мне на глаза попалась заметка в интернете об искусственном интеллекте.
Чаще всего под ним подразумевается программное обеспечение и специализированные программно-аппаратные комплексы. В моем представлении основное предназначение искусственного интеллекта заключается в том, чтобы выполнять какие-то действия за человека. При этом программное обеспечение должно справляться не только с рутинной работой. Ведь оно не случайно названо интеллектом, хоть и искусственным.
Можно рассмотреть это понятие и с другой точки зрения. Искусственный интеллект разрабатывается с определенной целью, например, чтобы обыгрывать пользователей в компьютерных программах в шахматы или управлять автомобилем. В то же время у человека интеллект сформировался естественным путем в ходе эволюции. Он позволяет людям не только придумывать что-то новое, но и общаться между собой.
Но разве искусственный интеллект способен на это? Мне кажется, что какой бы совершенной не была компьютерная программа, она не будет общаться как обычный живой человек. Вот в этом, на мой взгляд, и кроется главная проблема искусственного интеллекта. Он заточен под выполнения ряда действий и в ситуациях, которые не предусмотрены разработчиками, ведет себя непредсказуемо.
В некоторых моментах искусственный интеллект и вовсе может быть опасен. Не случайно в августе этого года представители компаний из 26 стран, которые занимаются разработками в области робототехники и технологий искусственного интеллекта, написали письмо в ООН. Они просят запретить создавать роботов, которые могли бы быть использованы для убийства людей.
Самое страшное то, что люди могут стать жертвами непреднамеренно. Например, не так давно я наткнулся на видео на YouTube, в котором видно, как машина компании Uber проносится на красный свет на светофоре. Оказывается, еще с 2016 года Uber и Volvo выпустили беспилотные такси в Сан-Франциско и в Питтсбурге.
Но проблема в том, что автомобили упорно нарушают правила дорожного движения, и при этом могут пострадать люди. Volvo, конечно, заявили, что причиной проблем стал человеческий фактор. Сотрудник, который должен вмешиваться при возникновении таких непредвиденных ситуаций на дорогах, почему-то не предпринял никаких действий. Здесь у меня возникает логичный вопрос: почему подобные проблемы вообще возможны? Может, причина все-таки в недоработке людей, которые создавали программное обеспечение для автомобилей?
Однако если в случае с испытаниями такси речь шла о гипотетической опасности, но робот София открыто заявляла о желании уничтожить человечество. Интервью с ней можно посмотреть также на YouTube. Внешне робота практически невозможно отличить от обычной женщины. В качестве прототипа при создании Софии использовалась внешность Одри Хепберн. Должен признать, что внешне робот отдаленно похож на знаменитую актрису.
При просмотре видео у меня возникали странные чувства. Вроде бы перед тобой живой человек, у которого своя мимика, жесты и разная интонация, но с другой стороны есть во всем этом что-то неестественное и даже пугающее временами. София рассказывала интервьюеру о своих планах на будущее. Она хочет иметь семью и работать дизайнером. В какой-то момент интервьюер решил пошутить и спросил, готова ли она уничтожить человечество. На этот вопрос робот спокойно ответил: «Хорошо, уничтожу».
В этот момент я подумал, а что будет, если вот такая машина однажды выйдет из-под контроля человека? Программное обеспечение может дать сбой, и тогда от действий робота пострадают люди. С другой стороны силы и возможности подобных машин удобно использовать на благо человечества. Уже давно идут разговоры о том, что в школах не останется учителей, а их заменят роботы.
Но я в это не верю. Человеческий интеллект не заменит ни одна даже самая совершенная машина. А как считаете вы? Не вызывает ли у вас стремительное развитие современных технологий страх, что они могут стать источником опасности?
Оригинал взят у novser в Искусственный интеллект: опасность или новые возможности?
Все-таки с развитием современных технологий наша жизнь стала гораздо проще и комфортнее. Сейчас уже трудно представить, каково было людям без гаджетов и свободного доступа к интернету еще каких-то 20-30 лет назад. Вместе с тем новейшие изобретения и открытия в области техники могут не только работать на человека, но и против него. Я задумался об этом в последний раз, когда мне на глаза попалась заметка в интернете об искусственном интеллекте.
Чаще всего под ним подразумевается программное обеспечение и специализированные программно-аппаратные комплексы. В моем представлении основное предназначение искусственного интеллекта заключается в том, чтобы выполнять какие-то действия за человека. При этом программное обеспечение должно справляться не только с рутинной работой. Ведь оно не случайно названо интеллектом, хоть и искусственным.
Можно рассмотреть это понятие и с другой точки зрения. Искусственный интеллект разрабатывается с определенной целью, например, чтобы обыгрывать пользователей в компьютерных программах в шахматы или управлять автомобилем. В то же время у человека интеллект сформировался естественным путем в ходе эволюции. Он позволяет людям не только придумывать что-то новое, но и общаться между собой.
Но разве искусственный интеллект способен на это? Мне кажется, что какой бы совершенной не была компьютерная программа, она не будет общаться как обычный живой человек. Вот в этом, на мой взгляд, и кроется главная проблема искусственного интеллекта. Он заточен под выполнения ряда действий и в ситуациях, которые не предусмотрены разработчиками, ведет себя непредсказуемо.
В некоторых моментах искусственный интеллект и вовсе может быть опасен. Не случайно в августе этого года представители компаний из 26 стран, которые занимаются разработками в области робототехники и технологий искусственного интеллекта, написали письмо в ООН. Они просят запретить создавать роботов, которые могли бы быть использованы для убийства людей.
Самое страшное то, что люди могут стать жертвами непреднамеренно. Например, не так давно я наткнулся на видео на YouTube, в котором видно, как машина компании Uber проносится на красный свет на светофоре. Оказывается, еще с 2016 года Uber и Volvo выпустили беспилотные такси в Сан-Франциско и в Питтсбурге.
Но проблема в том, что автомобили упорно нарушают правила дорожного движения, и при этом могут пострадать люди. Volvo, конечно, заявили, что причиной проблем стал человеческий фактор. Сотрудник, который должен вмешиваться при возникновении таких непредвиденных ситуаций на дорогах, почему-то не предпринял никаких действий. Здесь у меня возникает логичный вопрос: почему подобные проблемы вообще возможны? Может, причина все-таки в недоработке людей, которые создавали программное обеспечение для автомобилей?
Однако если в случае с испытаниями такси речь шла о гипотетической опасности, но робот София открыто заявляла о желании уничтожить человечество. Интервью с ней можно посмотреть также на YouTube. Внешне робота практически невозможно отличить от обычной женщины. В качестве прототипа при создании Софии использовалась внешность Одри Хепберн. Должен признать, что внешне робот отдаленно похож на знаменитую актрису.
При просмотре видео у меня возникали странные чувства. Вроде бы перед тобой живой человек, у которого своя мимика, жесты и разная интонация, но с другой стороны есть во всем этом что-то неестественное и даже пугающее временами. София рассказывала интервьюеру о своих планах на будущее. Она хочет иметь семью и работать дизайнером. В какой-то момент интервьюер решил пошутить и спросил, готова ли она уничтожить человечество. На этот вопрос робот спокойно ответил: «Хорошо, уничтожу».
В этот момент я подумал, а что будет, если вот такая машина однажды выйдет из-под контроля человека? Программное обеспечение может дать сбой, и тогда от действий робота пострадают люди. С другой стороны силы и возможности подобных машин удобно использовать на благо человечества. Уже давно идут разговоры о том, что в школах не останется учителей, а их заменят роботы.
Но я в это не верю. Человеческий интеллект не заменит ни одна даже самая совершенная машина. А как считаете вы? Не вызывает ли у вас стремительное развитие современных технологий страх, что они могут стать источником опасности?
Оригинал взят у novser в Искусственный интеллект: опасность или новые возможности?