Не верьте ИИ. Он лжет!
Я уже давно подозревала это, начитавшись рассказов о чайных плантациях на Алтае и гидроэлектростанции в центре Москвы, она же "в сердце Большой Волги" или что-то в этом роде (так была интерпретирована ГЭС-2). Но то, что я прочитала в ЖЖ Леонида Каганова изумило даже после этого. Изумило настолько, что не могу молчать
( Read more... )
Я несколько раз тестировала эту версию чата GPT, всегда получалась чушь. Судя по отзывам нескольких человек и тестам, проведенным с их помощью, следующая версия (платная) уже намного точнее, хотя там тоже некоторые косяки встречаются. Кроме того, как говорят, эту сеть нужно обучать и тренировать на своих задачах, тогда она научится выдавать максимально близкий к нужному результат. Но как это делается, я не знаю.
Reply
Все пишут о том, почему программа ошибается и как это улучшить. Только меня ужасает, почему если программа не справляется, она выдает домыслы за факты?
Reply
Такое задание, я думаю...
Reply
А в чем смысл??
Reply
Reply
Очень многие думают по-другому ((
Reply
Мне кажется, про то, что это генераторы текстов, а не источники достоверной информации, уже много где писали. Но, возможно, это в моём пузыре так.
Reply
А что такое "генератор текстов"? Сорри, можно меня в ссылку ткнуть.
По поводу пузыря. У меня все началось с неправленных текстов ИИ, присланных на конкурс. При этом, когда я стала возмущаться, мне ответил коллега:
Если используется нормальный ИИ, то он пишет лучше большинства людей, по крайней мере, в плане структуры изложения, логики и аргументации. И уже используется в работе многих райтеров и сммщиков... По крайней мере, мой и многих знакомых опыт работы с ИИ вполне положительный. Но надо работать, как с ассистентом, а не рассчитывать, что он сам всё додумает и готовенькое выдаст.
Reply
Вот тут немного про алгоритмы сказано https://aws.amazon.com/ru/what-is/gpt/
Некорректно пытаться искать у ИИ человеческую логику. Надо понимать, что задача эти программ - именно сгенерить контент (текст или изображение). Если надо, чтобы контент был правильным - надо либо платить разработчикам, либо самостоятельно заниматься обучением и добавлять ограничения. Но прыгать с высокой башни с бумажными крыльями не стоит.
Reply
Я искренне не понимаю, в чем ценность генерации контента, который чем-то похож на "человеческий", но не претендует на то, чтобы иметь отношение к действительности.
Reply
Кто-то уже научился использовать ИИ в своей работе. Для них, значит, есть ценность. Для разработчиков интерес именно в том, чтобы научить программу обрабатывать информацию. Со временем, вероятно, достоверность повысится. Или нет, или так и нужен будет специалист, контролирующий, что там нагенерилось.
В отличие от человека ИИ не может выйти в реальный мир и посмотреть, как оно на самом деле.
Для психологов, наверное, ценность в том, что все люди сейчас участвуют в эксперименте о жизни в быстро менющемся мире.
Reply
Мне кажется, что и разработчики и пользователи ценят в ИИ не просто генерацию контента, но контента, приближающегося к человеческой логике и степени достоверности. Или даже превосходящей. Ну пусть медленно приближающегося, но стремящегося к этому.
И как бывшего психолога меня интересует то, как стирается грань между тем, что существует на самом деле и продукцией ИИ. Мне кажется, скоро реальность станет анахронизмом...
Reply
Строго говоря, разработчики сами призывают не принимать выдаваемое программой за окончательную информацию. Это пока не более, чем эксперименты по созданию ИИ, которые далеки от завершения. Публика жаждет чуда и педалирует мысль, что ИИ якобы уже все задачи научился решать.
Программа за факты не выдает ничего, она подбирает из миллионов блоков доступной ей информации то, что ей кажется похожим, по определенному набору ключевых слов. Расшифровка рукописного текста дело очень кропотливое и серьезное, ей занимаются программы совсем иного уровня, и они начали понемногу делать успехи. Но эти программы в публичном доступе не лежат и едва ли в скором будущем там появятся. А ЧатGPT это игрушка на потеху публике, его ни в коем случае нельзя принимать всерьез.
Он мне уже и про отрезанную голову Вронского рассказывал, и какие-то дикие версии истории Герасима и Муму, и несуществующего французского писателя изобрел. А коллеги в свое время получили от него инструкции по кастрации колбы Эрленмейера и спариванию самоваров с целью дальнейшего ( ... )
Reply
Во-первых, не так уж плохо эта программа распознает текст. Имя и отчество распознано правильно, а вот на фамилии программа пошла вразнос, хотя она написана довольно разборчиво. Даже число букв не совпадает совсем. Ну а дальнейшее вообще не имеет ничего общего с текстом.
Я бы с удовольствием не воспринимала всё это всерьез, если бы не сталкивалась все чаще с результатами работы ИИ, который возможно работает лучше, но похоже, руководствуется примерно теми же принципами, что эта программа.
Reply
Из open source могу рекомендовать программу Tesseract, "из коробки" распознаёт печатный текст, но можно и для рукописного подготовить тренировочный набор.
Reply
так и этот распознает! Первую фразу ИИ распознал больше, чем наполовину.
Reply
Leave a comment