Homo ex machina
Продолжаю продолжать. Увы, я активно копаюсь в текущем нейронок, что требует записывать мысли «на бумагу». Освобождаю место в голове. Если где ошибся в фактах, укажите дилетанту.
Интересного про нынешнее поколение. Издалека. Известно, что при самоорганизации из однородной среды появляются сложные структуры. Игра «жизнь» наглядно показала ещё грань ( Read more... )
Comments 5
Система категоризации Живого Журнала посчитала, что вашу запись можно отнести к категориям: Архитектура, Лытдыбр, Образование, Технологии.
Если вы считаете, что система ошиблась - напишите об этом в ответе на этот комментарий. Ваша обратная связь поможет сделать систему точнее.
Фрэнк,
команда ЖЖ.
Reply
Самообразование, да. А вот "Архитектура" тут лишняя.
Reply
Угук, при чем сознательное решение, рациональность - это уже последуманье, а прямая реакция у человека - как-то так вот и формируется. Интересный факт - в человеческом мозге в области отвечающей за «обработку видеоизображения» есть структуры которые отвечают за распознавание вертикальных и горизонтальных линий. То есть разбор изображения идет уже не с «растровой графикой», а с «аппликацией примитивов».
Reply
А вот у меня вопрос что-то возник, этаким «задним числом»: вот те нейросетки, которые вы используете, они «стэйтлес» или «стэйтфул»? То есть при каждом запуске программы она а) заново проглатывает пакет обучения и заново с ней надо «знакомиться», а отдельные задачи считаются на «заново отформатированной» машине? или б) изменения никуда не исчезают, и машина это все одна и та же (с континуальным существованием : ) - сохранил-закрыл-выключил, а потом включил-загрузил - и всё, с той же точки где остановились, с той и продолжаем?
Reply
Это не такой простой вопрос. Вообще, ChatGPT (самая обсуждаемая) уже прошла очень долгий и затратный (десятки миллионов долларов) процесс обучения. При каждом запуске программы мы имеем "чистое" состояние на, какое, надцатое мартобря этого года. Повлиять мы, пользователи, на базовые веса не можем. Каждая бесда с чистого листа (но сами беседы-сессии можно сохранять и продолжнать по желанию), память только в пределах одной беседы.
С другой стороны, это "бета", и периодически выкатывают апдейты-новые версии, которые явно "доучены" на фидбеке пользователей. Правда, больше в сторону цензуры: постоянно ставят новые блоки против расовых, гендерных, эротических и прочих подобных "шуток". Т.е. какое-то дополнительное запоминание место быть.
С третьей стороны (есть и такая), предыдущее поколение (GPT-3), которое отличалось только меньшим размером, имело ещё один или два уровня "допиливания" под себя. Можно было дообучить (fine-tune) сеть под своё приложение с помощью API и получить/использовать свою персональную матрицу весов. После чего с ( ... )
Reply
Leave a comment