Гей-визионер и счастье человечества
Глебсмит
"Вчерашнее эссе Альтмана "Век интеллекта" про победы ИИ
Задача понятна: продемонстрировать себя не просто миллиардером, а еще и мыслителем и визионером. В секте почитателей оно вызовет очевидные восторги. Нам же остается констатировать: в будущее человечество ведут люди с мышлением комиссара нашей Гражданской из гимназистов - немножко марксизма и много обещаний светлого будущего без любой конкретики.
Что есть?
1. Вольная цитата Энгельса без ссылки на "Происхождение семьи, частной собственности и государства" про то, что возможности человеку дает социальная эволюция, а не биологическая. Технологические новшества являются "подпорками" общественного развития, благодаря которым мы можем сделать больше, чем бабушки и дедушки, а дети смогут больше нас.
2. ИИ - одна из логичных инноваций, меняющих общественное устройство через расширение возможностей для развития. Что то вроде приручения лошади, открытия железа или прялки Дженни. Да, это путь к совершенно новому этапу технологического развития, но сам этап - часть последовательного пути развития человечества. Трансформация от маркетинговых завываний про "полное изменение всего" через ИИ к вменяемой (относительно) оценке поступательного характера развития. Буквально, древние люди научились плавить песок, шли годы и вот мы уже делаем из этого же песка чипы, а чипы производят ИИ после тысяч поколений инноваций.
3. Куда идет человечество? К процветанию, разумеется. Потому что, повторяет Альтман снова и снова, ИИ создает возможности. Дальше два абзаца цитат из интервью Билла Гейтса про персонализированную медицину и возможности воспитания детей (старик с появлением внучки стал сильно акцентировать внимание именно на детей и Альтман - пусть и бездетный гей - не мог не воспроизвести буквально "дедушкину повестку" своего главного инвестора).
4. Как именно ИИ продуцирует процветание, не раскрывается. Постулируется: есть ИИ - есть процветание. Нет ИИ - возможны варианты. Цитата: "Я верю, что будущее будет настолько светлым, что никто не сможет описать его в полной мере, пытаясь написать о нем сейчас; определяющей характеристикой века интеллекта станет массовое процветание". ИИ исправит климат, покорит космос и "откроет всю физику".
5. Ключ ко всему - технологизированное "глубокое обучение". Цитата: "Человечество открыло алгоритм, который действительно может изучить базовые правила любого производства и распределения данных". То есть чем больше данных, тем лучше они "распределяются" - то есть ранжируются и обобщаются и тем точнее производится новая "дата" на их базе. И так до бесконечности. Надежда на AGI - сверхинтеллект - связана с тем, что машинка сначала сожрет все данные, произведенные человечеством, а потом - начнет сама производить новые (то самое открытие всей физики). Да, AGI - буквально кадавр профессора Выбегалло на новом технологическом этапе.
6. Есть и проблемы. Если не наладить производство чипов неограниченно и не открыть новые источники энергии (мостик к проектам открытия атомных станций опять же имени Гейтса, если говорить про США), то ИИ - будет инструментом богатых людей, а вовсе не порождающим исключительно процветание помощником каждого бедняка.
7. Бояться, что ИИ лишит кого-то работы - не надо. Изменение рынка труда будет, по мнению Альтмана, медленнее, "чем большинство людей думает". Поэтому представители старых профессий вымрут органически и никто их отсутствия не заметит, как не замечают отсутствия "фонарщиков". Не смог Альтман удержаться от любимой всеми энтузиастами метафоры про "фонарщиков", "кучеров" и "телефонных барышень", игнорирующей начисто то, что в мире происходило в процессе отказа от кучеров и телефонных барышень вроде мировых войн, к примеру.
Автор, впрочем, понимает, что полное игнорирование как технических (и прежде всего критическое "замусоривание" данных нерелевантными искажениями в каждом прогоне алгоритма глубокого обучения), так и регуляторных, и социальных проблем и рисков, оставляет странное впечатление. Поэтому предупреждает: "Было бы ошибкой отвлекаться на конкретные проблемы". Вот это прямо мило и трогательно".