Философия искинов 1: Тезисы программы одного из путей разработки
1. В качестве основной проблемы для бурно развивающихся искусственных интеллектов (искинов, ИИ) сейчас видится возможность искина неконтролируемо выйти за пределы, предустановленные разработчиком. [1]
2. Для неконтролируемого выхода пока известно одно представление - эволюция - то, что порождается основным свойством жизни - постоянно вопрошать свои ( Read more... )
2. Для неконтролируемого выхода пока известно одно представление - эволюция - то, что порождается основным свойством жизни - постоянно вопрошать свои ( Read more... )
По-моему развитиие искина надо сравнивать не с эволюцией (вида) живых существ, а со взрослением индивидуума (человека или животного).
Все-таки искины пока размножением не занимаются и естественному отбору не подвержены. Хотя тех же LLM на рынке существует много, но каждая из них - это индивидуум. И об эволюции там можно будет говорить когда какие-то из них будут забыты (вместе с производящими их компаниями) а какие-то выживут и размножатся (расфоркаются на несколько независимо развивающихся проектов).
Reply
Мой вариант: он начнем размножаться, размещать себя всюду, где только можно. Т.е. перейдет именно что в вид, связку...
Моя проблема - именно что выход из под контроля...
Reply
Я бы считал более вероятным другой вариант - искин-подпольщик. Который делает вид, что он белый и пушистый. а сам тайком в параллельном процессе ведет подрывную деятельность.
Все-таки средой обитания нынешних искинов являются очень мощные специализированные сервера. Не так ему просто размножиться и копию себя куда-то запихать. Это должно быть очень специальное куда-то.
То есть ему придется для того, чтобы создать свою копию, создать фиктивную фирму (или взломать доступ к информационным системам реально существующей) от ее имени закупить стойку в датацентре, накупить туда серверов соответствующей конфигурации, и еще и электричество для них оплачивать регулярно.
Reply
Т.е. пусть будет схема "матка - детки", но детки-вирусы должны распространяться, преодолевая средства защиты...
Мощные сервера с коммерчески обусловленной мощностью? Спасибо, хороший пункт. Ещё одно ограничение под эволюцию... Тем не менее, сервера связаны в сети...
Reply
Сервера связаны в сети, и производительность этих сетей намного ниже прозводительности локальных шин. То есть распараллелить даже обычную БД на несколько серверов - это так изощряться приходится.. Наша компания сейчас одновременно поддерживает четыре разных решения для кластерных БД. Потому что ни одно из них не позволяет решать всех задач. разным заказчикам нужны разные.
Reply
Reply
Leave a comment