Системы-то есть, но всё, что они делают, это ускоряют и улучшают сходимость при тренировке. То есть, это очень ограниченный класс задач... Это по духу ближе к оптимизируещей части оптимизирующего компилятора, чем к AI researcher, это даже не программист, это что-то вроде очень-очень умного генератора улучшенных оптимизирующих компиляторов.
Системы, которые ещё и учатся умению ставить задачи, крайне редки, хотя в последнее время начали чуть-чуть появляться, например "Enhanced POET: Open-Ended Reinforcement Learning through Unbounded Invention of Learning Challenges and their Solutions", https://arxiv.org/abs/2003.08536
Но это ещё совершенно не на ходу, насколько я знаю (хотя, кто их знает, что там у них может быть на ходу за кулисами, эта часть деятельности теперь тоже перебралась в OpenAI, по крайней мере, ключевые люди из этой группы).
Тем более, нет хороших систем такого рода, с которыми можно было бы неторпливо поговорить по английски о задачке, которую хорошо бы запрограммировать, а они бы набросали прототип (в этом смысле, прорыв, достигнутый GPT-3, очень важен, например это демо, которое не фейк, а на самом деле система так работает): https://twitter.com/matvelloso/status/1263193089310461952
Что касается непонимания нами этих систем, то это, пока что, временное явление. Все эти системы, пока что, гораздо проще, чем человеческий мозг, и в улучшении методов для понимания их внутреннего устройства и функционирования наблюдается довольно быстрый прогресс (начиная с DeepDream в 2015-ом году, и включая целое направление новых работ на эти темы).
Тот рубеж, про который говорил Виндж, он совсем другой природы - речь идёт о возникновении систем, гораздо более сложных и нетривиальных, чем человеческий мозг.
А ты не подменяешь словами "проще" и "сложнее ", слова "меньше" и "больше"? То есть нынешние системы сильно меньше человеческого мозга, и поэтому пока можно быть уверенными , что они проще. Но мы не можем быть уверены в том, что ещё при относительно небольшом росте размера (по крайней мере, недотягивающем до человека) уже может возникнуть нечто более сложное? Воспользовавшись классическим примером для этой области, истребитель пятого поколения с обратной стреловидностью крыла всё ещё меньше птички по числу деталей (включая транзисторы на чипах), но его умения уже лежат в иной сфере, для птички непостижимой.
Тут я с тобой вполне согласен - я просто упрощаю. И уже неочевидно, что мы, на самом деле, можем понять все тайны текущих систем без радикального усиления наших способностей.
Но суть "перехода Винджа" не в том, что мы не сможем понять эти системы без радикального усиления наших способностей. Это просто одно из свойств этого перехода, но это вовсе не его определение. Свойство непонимания и невозможности понять может возникнуть раньше, чем "переход Винджа".
Определение "перехода Винджа"- возникновение систем, на много порядков более умных, чем мы сейчас, и ключевой движок "перехода Винджа" - способность этих систем производить новые ещё более умные системы такого рода, всё более превышающая наши способности к производству таких систем.
Если двигаться по дорожке "получеловекообразных систем", то нужно говорить в терминах возможностей OpenAI и DeepMind добавлять полноценных искусственных сотрудников в свои команды (которым можно дать задачку, которые могут содержательно поучаствовать в обсуждении, предложить новую содержательную идею). Но, конечно, необязательно двигаться по дорожке "получеловекообразных систем", можно думать совсем в других терминах, например в стиле новых работ Ерика Дрекслера ("Reframing Superintelligence: Comprehensive AI Services as General Intelligence"): https://slatestarcodex.com/2019/08/27/book-review-reframing-superintelligence/
Системы, которые ещё и учатся умению ставить задачи, крайне редки, хотя в последнее время начали чуть-чуть появляться, например "Enhanced POET: Open-Ended Reinforcement Learning through Unbounded Invention of Learning Challenges and their Solutions", https://arxiv.org/abs/2003.08536
Но это ещё совершенно не на ходу, насколько я знаю (хотя, кто их знает, что там у них может быть на ходу за кулисами, эта часть деятельности теперь тоже перебралась в OpenAI, по крайней мере, ключевые люди из этой группы).
Тем более, нет хороших систем такого рода, с которыми можно было бы неторпливо поговорить по английски о задачке, которую хорошо бы запрограммировать, а они бы набросали прототип (в этом смысле, прорыв, достигнутый GPT-3, очень важен, например это демо, которое не фейк, а на самом деле система так работает): https://twitter.com/matvelloso/status/1263193089310461952
Что касается непонимания нами этих систем, то это, пока что, временное явление. Все эти системы, пока что, гораздо проще, чем человеческий мозг, и в улучшении методов для понимания их внутреннего устройства и функционирования наблюдается довольно быстрый прогресс (начиная с DeepDream в 2015-ом году, и включая целое направление новых работ на эти темы).
Тот рубеж, про который говорил Виндж, он совсем другой природы - речь идёт о возникновении систем, гораздо более сложных и нетривиальных, чем человеческий мозг.
Reply
Reply
Но суть "перехода Винджа" не в том, что мы не сможем понять эти системы без радикального усиления наших способностей. Это просто одно из свойств этого перехода, но это вовсе не его определение. Свойство непонимания и невозможности понять может возникнуть раньше, чем "переход Винджа".
Определение "перехода Винджа"- возникновение систем, на много порядков более умных, чем мы сейчас, и ключевой движок "перехода Винджа" - способность этих систем производить новые ещё более умные системы такого рода, всё более превышающая наши способности к производству таких систем.
Если двигаться по дорожке "получеловекообразных систем", то нужно говорить в терминах возможностей OpenAI и DeepMind добавлять полноценных искусственных сотрудников в свои команды (которым можно дать задачку, которые могут содержательно поучаствовать в обсуждении, предложить новую содержательную идею). Но, конечно, необязательно двигаться по дорожке "получеловекообразных систем", можно думать совсем в других терминах, например в стиле новых работ Ерика Дрекслера ("Reframing Superintelligence: Comprehensive AI Services as General Intelligence"): https://slatestarcodex.com/2019/08/27/book-review-reframing-superintelligence/
Reply
Leave a comment