привести к партнерскому "слиянию" биологического и искусственного мозга
В Nature machine intelligence вчера вышла очень интересная статья Li et al. "Discovering neural policies to drive behaviour by integrating deep reinforcement learning agents with biological neural networks", в которой на простой модели нематоды нащупываются новые методические пути эффективной интеграции живой нервной ткани с искусственным интеллектом. С помощью оптогенетики исследователи создали интерфейс между нервной системой нематоды и искусственным агентом, действующим на основании глубокого обучения с подкреплением. Полученная гибридная система "нематода - ИИ-агент" обучалась решению задачи по поиску цели. Оказалось, что ИИ-агенты очень гибко адаптировались к самым разным местам интеграции с нервной системой нематоды и эффективно выучивали специфичные относительно этих мест паттерны активации, чтобы направлять нематоду к цели. Далее было показано, что результаты обучения успешно генерализуются на новые среды, не предъявлявшиеся при обучении, причём нервная система нематоды и ИИ-агент достигают уровня именно кооперативно-партнерских вычислений, а не нематода просто подчиняется ИИ-контроллеру как мягкий управляемый робот.
Хочется, конечно, в духе визионерских мечтаний Курцвейла предположить, что это прообраз будущего усиления мозга человека внешними "нейроморфными ИИ-модулями экзокортекса", которое в итоге должно привести к партнерскому "слиянию" биологического и искусственного мозга, но физика нейроинтерфейсов "мозг человека - компьютер" просто катастрофически отстает от скорости развития "чистого" ИИ, и к 2045 году как году планируемой сингулярности шансов на ликвидацию этого отставания нет. Мечты такого рода отвлекают от чуть (только чуть) более перспективной стратегии достижения позитивного для людей сценария сингулярного перехода - это "superalignment", которым занимается команда Яна Лейке (перешедшая из OpenAI в Anthropic) и новая команда в OpenAI под руководством Джона Шульмана и Якуба Пачоцкого.
https://www.nature.com/articles/s42256-024-00854-2
https://t.me/agirussianews/1537