Пятизаконие
Прогресс не стоит на месте. Уверен, сам создатель Трех Законов Робототехники был бы совсем не против этой инициативы.
Трёх придуманных Айзеком Азимовым правил робототехники уже недостаточно. Организация экономического сотрудничества и развития (международная экономическая организация развитых стран, признающих принципы представительной демократии и свободной рыночной экономики, то есть «Запад» в широком политическом смысле) по инициативе США утвердила пять правил разработки искусственного интеллекта:
1. Искусственный интеллект (далее ИИ) должен приносить пользу людям и нашей планете, содействуя экономическому росту, устойчивому развитию и повышению благосостояния всех групп населения.
2. Системы ИИ должны разрабатываться с соблюдением власти права, прав человека, демократических ценностей и этнокультурного многообразия, и должны включать в себя необходимые предохранители - например, возможность человеческого вмешательства в систему в случае необходимости - для обеспечения честного и справедливого общественного устройства.
3. Системы ИИ должны создаваться и работать в атмосфере прозрачности, ответственности и открытости, гарантирующей понимание людьми возможных результатов работы ИИ и возможность эти результаты оспаривать.
4. Системы ИИ должны быть надежными и безопасными в течении всего времени их существования, и возможные риски их использования должны постоянно оцениваться и контролироваться.
5. Организации и физические лица, разрабатывающие, устанавливающие и использующие системы ИИ, должны нести ответственность за их надлежащее функционирование в соответствии с вышеизложенными правилами.
Звучит вполне разумно, кстати. Хотя при попытках реализовать эти законы в "железе" или "софте" возникнет множество дополнительных вопросов и этических проблем. Впрочем, не меньше вопросов возникает и по отношению к "старым" азимовским Трем Законам. И Азимов сам это прекрасно понимал и использовал. Этому (вопросам и проблемам Трех законов), собственно, и посвящен как весь цикл рассказов "Я, робот", так и многие другие повести Айзека Азимова (ну хоть те же "Стальные пещеры", например).
PS Про искусственный фотосинтез там, по линку, - тоже очень интересно. То ли будущее стучится к нам в дверь, то ли мы стучимся в дверь будущего. Надо дожить.
This entry was originally posted there. Please comment here or, in the worst case, - there.