Про модную болезнь

[nchudova]

, про «общение» с нейросетями

https://vad-nes.livejournal.com/826765.html

https://author.today/post/352007

Из вывода ЧатЖПТ: Таким образом, постановление от 9 сентября 1933 года о детской литературе стало важной вехой в советской

Comments

[mmnt]

Вообще-то ИИ в данном случае адекватнее "иксперта". Английская советская литература - важная часть колониальной практики в СССР, основанной на британских образцах. Да-да, вплоть до "Булычева". Отчим - некий Бокиник.

После окончания школы по комсомольской разнарядке поступил в Московский государственный институт иностранных языков имени Мориса Тореза, который окончил в 1957 году. Два года работал в Бирме переводчиком и корреспондентом АПН. В 1959 году вернулся в Москву и поступил в аспирантуру Института востоковедения АН СССР. Писал историко-географические очерки для журналов «Вокруг света» и «Азия и Африка сегодня». В 1962 году окончил аспирантуру. С 1963 года работал в Институте востоковедения, специализируясь на истории Бирмы.

Чья это биография? Профессионального разведчика. А специализация на "востоковедении" означает "британского разведчика". Такие люди и занимались в советах "детской литературой".

[nchudova]

ИИ в данном случае адекватнее "иксперта" - прекрасный вывод! Теперь вопрос в том, чтобы ликвидировать людей, которые могут критиковать ИИ инструменты. Когда их ликвидируют или благодушно дождутся, чтобы они естественным образом перемерли сами, все вопросы исчезнут, что ИИ скажет, то и будет правдой.

[mmnt]

Чтобы создавать искусственный интеллект, надо для начала обладать естественным. А вот с этим явные проблемки.

[nchudova]

о, уже и на прямые оскорбления перешли!

Ок, не нужно больше читать и комментировать мои посты.

[karantin]

Я не увидел грубых ошибок у ИИ. Расхождение с мнением человека - в контексте. ИИ оперирует раннеперестроечным контекстом оценки, человек стоит на более консервативных позициях, близких к советским. Если нужен текст в требуемом контексте, следует сообщить ИИ об этом, в завершении все внимательно прочитать и исправить необходимое. ИИ - всего лишь инструмент, сам ничего делать не будет, требует участия человека. У меня где-то был текст, написанный ИИ по моей просьбе о пользе курения. Ну и что?

[nchudova]

А Вы прошли по ссылкам? Там много как раз про фактические ошибки, про то, что у программистов, занимающихся нейросетями, называется "галлюцинации". Ну а вывод у автора этих двух текстов почти такой же как у Вас - нужно внимательно перепроверить всё, что написано в ответе ИИ. И вопрос у него: "А зачем тогда этим средством пользоваться? Чтобы тратить время на исправление ошибок, допущенных машиной?".

Далее. В Постпостскриптуме я написала о своём опыте работы с классификатором LLM и его "пояснениями". Вам и это кажется несущественной подробностью - из 85 текстов, написанных здоровыми людьми, 70 были признаны нейросетевым классификатором текстами психически больных? А сами "пояснения" выглядят очень правдоподобно. И неспециалист легко примет такое объяснение "диагноза от ИИ".

На самом деле, нейросетевый методы в некоторых задачах могут быть полезны. Но не для анализа текстов на естественном языке и не для задач текстопорождения. Кроме того, само название ошибочно - нейросетовой подход не является методом ИИ: последние предполагают

[karantin]

Нейросеть - инструмент в руках человека, спарринг - партнёр для тестирования идей и подходов, "литературный негр" для написания текстов большого объёма, поисковик в базах данных. Его продукция подлежит проверке, но он реально экономит время и силы при написании литобзоров. В качестве инструмента я использую нейросеть на работе для перевода важного текста, написанного мною на русском или английском на финский, когда требуется абсолютная грамотность и соответствие многим требованиям по оформлению.

Проблема в том, что 1. Нейросети пока не настроены в достаточной степени для выполнения творческих задач, в том числе, как в Вашем примере, для поиска маркеров психических девиаций у авторов по их текстам.
2. Используются часто не по назначению с неверным пониманием того, для чего они пригодны и чего от них можно ждать.

[karantin]

И я хочу добавить, что негативное отношение к нейросетям связано с максимализмом и предвзятостью у людей. Есть такой нечистоплотный прием в споре: единственное слабое или некорректное утверждение оппонента даёт противнику возможность объявить несостоятельным все его построение. Здесь тоже: неточность в ответе даёт право отвергнуть весь ответ, хотя там 95 процентов - верно.

[nchudova]

Кстати, вот статья с разбором проблем, которые возникли в ходе введения в обыденные представления данных нейронауки

https://www.intelros.ru/pdf/logos/2019_05/logos%205-2018_press-3-305-317.pdf

"На обширном материале и данных социальных исследований Видаль и Ортега прослеживают, из чего складывается идеология церебрального субъекта, анализируют поддерживающие ее дисциплины, которые образовались в результате интервенции нейронауки в сферу наук о человеке, а также обсуждают теоретические и практические следствия церебрального эссенциализма, сводящего природу человека к мозгу".

[e2k_4d_x_ussr]

"Итак, чатЖПТ занимается переписыванием истории, в буквальном смысле слова. А чем ещё он занимается - я не знаю, но думать о нём мне противно

[nchudova]

Эх, Вашими устами... Да, хорошо бы большие языковые модели появлялись бы в результате машобучения на хорошо составленных корпусах. И любой чат-бот, бегающий по запросам пользователя, приносил бы результаты только из источников, заслуживающих доверия и лишённых тенденциозности. И хорошо бы, чтобы в машобучении было принято проводить повторную разметку объектов (текстов), а не ориентироваться только на F-меру. И здорово было бы в задачах автоматического анализа текста и текстопорождения использовать представления о жанрах речи и достижения функциональной грамматики. И т.д. и т.п. Тогда это всё и можно было бы считать методами ИИ - как о них говорится в профессиональной литературе https://www.litres.ru/book/gennadiy-osipov/metody-iskusstvennogo-intellekta-16958847/

[e2k_4d_x_ussr]

вот хотел вам в начальном комменте рассказать личную байку про магию статистики из 90-х. или чем оказалась дешифрованная программа, определяющая есть ли у человека рак по его десятиминутной кардиограмме. написал, стёр, теперь понимаю зачем мне хотелось это сделать

[e2k_4d_x_ussr]

понял, что пытался сказать, но не сформулировал в предыдущем комменте. Нынешний новый подход, позволяет решить как минимум некоторые задачи, не обращаясь к профессиональной литературе и прочей книжной и теоретической зауми.

То есть "пройти между капель дождя", не заморачиваться на вот этот научный анализ, метамодели и "научные" же методы искусственного интеллекта, обойтись получением вменяемого результата через "обычный" перебор, пошаговую интерполяцию или подгонку результата. Инженерный подход чисто в штатовском стиле.

[izograf7]

Подозреваю, что Ваши оппоненты не гуманитарии. Технари не видят в ИИ ни опасности, ни ограниченности, гуманитарий носом чует. Бось, что мы им объяснить не сможем, не потому, что слов не хватит, а потому, что опасность, которую мы видим, для них не опасность вовсе, а ничего такого и со временем научится

Каждый, естественно, может привести пример из своей сферы, поскольку я художник, то я приведу такой. ВСЕ картинки ИИ, которыми сейчас заполонено пространство сети, являют собой самый наихудший вид пошлейшего иллюстрирования. Сначала так на Западе оформляли любовные книги и фантастику, потом перешло в видеоигры. Люди привыкли и им кажется, что норм. Соответственно, программисты, закладывающие образцы в ИИ, заложили туда не Дюрера или Леонардо, а вот этот привычный для них хлам. И он теперь, посредством ИИ множится, потому, что ИИ другого не знает, а тасует заложенное. И надеяться, что ИИ вдруг начнёт развивать свой уровень и мастерство нереально, потому как машина. Люди не успеют испугаться, как искусство вообще исчезнет, потому как

[nchudova]

Да, с картинками тоже ужасая история! У меня тут забавный двойной пример - коллега-лингвист разбирала написанное машиной и потом почувствовала, что её прямо тошнит и надо вернуться к работе над обычными текстами, а моя сестра-скульптор после того, как с внучками рассматривала ИИ-картинки побежала в мастерскую месить глину - ей непреодолимо хотелось "забить" впечатления от "творчества" машины. Всё-таки "органчик", даже более совершенный, чем в голове у градоначальника, производит нечто мерзкое, античеловеческое.

[izograf7]

Чему его научили. то и производит. Это же всего лишь мёртвая машина. которая может только перетасовывать данное, а так же множить его в бесконечности. Изначальная ошибка образца и понеслось. То есть то, что в топку загрузили, то и перерабатывается. А кто грузит? Все на работе сталкивались с системщиками и уровень их знаем. Не дай бог таких учителей машины, которая потом будет учить людей. А это уже произошло, увы

[nchudova]

да, уже произошло, увы...