Сколько стоит машинное слабоумие ИИ
Внедрение Исскуственного Интеллекта (ИИ) во все сферы деятельности человека несет с собой издержки от свойственных ему недостатков. Главным пороком ИИ стало машинное слабоумие, в результате которого его решения неадекватны объективной реальности и приводят к тому или иному ущербу.
И вот глава Сбербанка Герман Греф заявил о потерянных миллиардах рублей из за "маленькой ошибки, закравшейся в алгоритм". Эта "маленькая ошибка" и есть машинное слабоумие, принципиально неустранимый дефект ИИ. Сбербанку он обошелся в миллиарды. В беспилотных автомобилях он приводит к смертям и авариям на дорогах. Поручи ему что-то еще более ответсвенное пропорционально увеличится и ущерб.
Машинное слабоумие ИИ вытекает из самих принципов его создания. Копирование человеческого сознания - это кроме всего прочего и копирование его ошибок. И если для человека способность ошибаться - это эволюционное достижение, то для ИИ - это функциональный дефект. На любое наперед неизвестное воздействие от среды обитания человеческий социум из-за способности ошибаться формирует целый вектор различных решений. Если воздействие носит катастрофический характер, то большинство социума вымирает. Но если кто-то при этом ошибется удачно, то выживет, и со временем численность популяции изначального социума восстановится.
Для ИИ способность ошибаться - это гарантия фатального ущерба. Соответственно, чтобы он приносил пользу, а не вред, то и создаваться должен совсем на других принципах, адекватных объективной реальности. А это в свою очередь подразумевает обладание его создателями принципиально новым, точным и адекватным знанием о реальности, недоступным в рамках научной парадигмы. Научные математические модели, в этом смысле, совершенно не пригодны.
В качестве попытки создания ИИ на новых принципах, в прямом эфире осуществляется проект создания Экомобиля с машинным интеллектом. Его успех или неуспех и покажет наглядно готово ли человечество по своим морально-нравственным качествам к созданию разумных машин или пока еще нет.
И вот глава Сбербанка Герман Греф заявил о потерянных миллиардах рублей из за "маленькой ошибки, закравшейся в алгоритм". Эта "маленькая ошибка" и есть машинное слабоумие, принципиально неустранимый дефект ИИ. Сбербанку он обошелся в миллиарды. В беспилотных автомобилях он приводит к смертям и авариям на дорогах. Поручи ему что-то еще более ответсвенное пропорционально увеличится и ущерб.
Машинное слабоумие ИИ вытекает из самих принципов его создания. Копирование человеческого сознания - это кроме всего прочего и копирование его ошибок. И если для человека способность ошибаться - это эволюционное достижение, то для ИИ - это функциональный дефект. На любое наперед неизвестное воздействие от среды обитания человеческий социум из-за способности ошибаться формирует целый вектор различных решений. Если воздействие носит катастрофический характер, то большинство социума вымирает. Но если кто-то при этом ошибется удачно, то выживет, и со временем численность популяции изначального социума восстановится.
Для ИИ способность ошибаться - это гарантия фатального ущерба. Соответственно, чтобы он приносил пользу, а не вред, то и создаваться должен совсем на других принципах, адекватных объективной реальности. А это в свою очередь подразумевает обладание его создателями принципиально новым, точным и адекватным знанием о реальности, недоступным в рамках научной парадигмы. Научные математические модели, в этом смысле, совершенно не пригодны.
В качестве попытки создания ИИ на новых принципах, в прямом эфире осуществляется проект создания Экомобиля с машинным интеллектом. Его успех или неуспех и покажет наглядно готово ли человечество по своим морально-нравственным качествам к созданию разумных машин или пока еще нет.