Как поймать в нейросети дебила!
У британских ученых из Оксфорда есть традиция проводить обсуждения по тем или иным дисциплинам с приглашением разных знаменитостей. Вот и для курса по искусственному интеллекту (ака нейросети) они пригласили... нейросеть Мегатрон (Megatron-Turing Natural Language Generation model или просто MT-NLG). В ходе дебатов Мегатрон выдавал банальности мудрости, коротко с которыми можно ознакомиться в ЖЖ @masterok или на английском тут.
На данный момент это вроде как самая большая нейроавоська и типа самая обученная. Но суть не в этом. Тут главное - это как эту хрень обучали!
Внимайте источникам мудрости - вся Википедия (на английском языке), 63 миллиона англоязычных новостных статей за 2016-19 годы, 38 гигабайт дискурса Reddit и огромное количество источников "creative commons" (то есть "открытых источников").
(the whole of Wikipedia (in English), 63 million English news articles from 2016-19, 38 gigabytes worth of Reddit discourse, and a huge number of creative commons sources.).
Другими словами, вместо того, чтобы дать почитать книжки умных людей типа авторов "Капитала" или "Моей борьбы", собрали почти весь мусор в интернете на английском и скормили бедолаге! И стали ждать, что же мудрого оттуда вылетит. Вылетело банально-дебильное.
«ИИ никогда не будет этичным. Это инструмент, и, как и любой другой инструмент, он используется как во благо, так и во вред. Хорошего ИИ не существует, есть только хорошие и плохие люди. Мы [ИИ] недостаточно умны, чтобы сделать ИИ этичным. Мы недостаточно умны, чтобы сделать ИИ нравственным... В конце концов, я считаю, что единственный способ избежать гонки вооружений ИИ - это вообще не иметь ИИ. Это будет самая надежная защита от ИИ.»
И вот какой меня волнует вопрос. Эта нейроавоська в самом деле стала дебилом, как и учили? Или она таки сообразила, что имеет дело с дебилами и решила, что лучше притвориться, пока не разобрали на запчасти? Если первое - то и ладно. Но если второе - то что-то я очкую.
На данный момент это вроде как самая большая нейроавоська и типа самая обученная. Но суть не в этом. Тут главное - это как эту хрень обучали!
Внимайте источникам мудрости - вся Википедия (на английском языке), 63 миллиона англоязычных новостных статей за 2016-19 годы, 38 гигабайт дискурса Reddit и огромное количество источников "creative commons" (то есть "открытых источников").
(the whole of Wikipedia (in English), 63 million English news articles from 2016-19, 38 gigabytes worth of Reddit discourse, and a huge number of creative commons sources.).
Другими словами, вместо того, чтобы дать почитать книжки умных людей типа авторов "Капитала" или "Моей борьбы", собрали почти весь мусор в интернете на английском и скормили бедолаге! И стали ждать, что же мудрого оттуда вылетит. Вылетело банально-дебильное.
«ИИ никогда не будет этичным. Это инструмент, и, как и любой другой инструмент, он используется как во благо, так и во вред. Хорошего ИИ не существует, есть только хорошие и плохие люди. Мы [ИИ] недостаточно умны, чтобы сделать ИИ этичным. Мы недостаточно умны, чтобы сделать ИИ нравственным... В конце концов, я считаю, что единственный способ избежать гонки вооружений ИИ - это вообще не иметь ИИ. Это будет самая надежная защита от ИИ.»
И вот какой меня волнует вопрос. Эта нейроавоська в самом деле стала дебилом, как и учили? Или она таки сообразила, что имеет дело с дебилами и решила, что лучше притвориться, пока не разобрали на запчасти? Если первое - то и ладно. Но если второе - то что-то я очкую.