Искусственный Идиот - ChatGPT выдумывает источники
Никитин рассказал "скрытую возможность" ИИ ChatGPT, который оказался доступен ему и его коллегам - по темам, в которых мало загруженной инфы (типа той биологии, которой занимается Никитин с коллегами), ИИ ВЫДУМЫВАЕТ "источники", на которые ссылается в своих завиральных ответах. Вплоть до того, что выдумывает это в ответ самому автору этой несуществующей статьи - с 41:05:
https://www.youtube.com/watch?v=2nWdZdYtz84&t=2465
/ 56:08
Мы могли жить на Марсе? Зарождение жизни на Земле и эволюция. Михаил Никитин и Сила Идеи
Сила Идеи, 30 тыщ просмотров, 21 янв. 2024- 14,7 тыс. подписчиков
[Spoiler (click to open)]
Как зародилась жизнь на земле? Что предшествовало большому взрыву и что было дальше? Откуда взялись мы с Вами? Сегодня обсуждаем животрепещущие темы, отвечаем на самые популярные вопросы о происхождении жизни на земле и развеиваем мифы
Сегодня у меня в гостях Михаил Никитин, биолог
Внутренности:
0:00 Анонс
1:30 Какой был климат на в момент зарождения жизни
3:08 Где зародилась жизнь
5:37 Почему фаст-фуд для нас вкусный?
10:05 Что в нас осталось от первых живых организмов
13:30 Сколько прошло времени с появления первой клетки
17:00 Как появлялись первые животные
22:18 Удача, что на Земле есть жизнь
25:50 Мы могли бы жить на Марсе
26:55 Где ещё может быть жизнь?
32:15 Маск сможет колонизировать Марс?
41:05 ИИ это нерадивый студент
51:41 Михаил раскрывает тайну своей футболки
О чём ещё мы поговорили с Михаилом:
- Жизнь - Как появилась жизнь на земле? Зарождение жизни сложный процесс? Эволюция и Михаил Никитин
- Происхождение жизни - Как появилась жизнь на других планетах? Жизнь на Марсе существует? Земля и планета Земля
- Эволюция человека - О чём говорит теория эволюции? Космос и экзопланеты это ключевая ветвь развития? Почему исчезли динозавры?
- Джеймс Уэбб - Телескоп и спутники. Как устроены Уран и Нептун? Звезды далеко? О чем говорил Опарин?
- Астрофизика - Илон Маск колонизирует Марс? Джон Холдейн прав? Чем отличается ДНК от РНК? Как произошел большой взрыв?
Биолог интервью - Как биолог смотрит на происхождение жизни на земле? Искусственный интеллект и чат GPT
Про что канал «Сила идеи»?
Здесь я, Александр Сила
Часть про ИИ мне показалась самой интересной в этом выступлении Никитина - остальное он рассказывал и раньше. А вот по ИИ - это важное сообщение о том, насколько вообще можно доверять ЧатуГПТ, к которому организовали публичный доступ. Не понятно, к какому из конкретных реализаций. Но понятно, что как минимум в какой-то из реализаций, если не во всех, если это невозможно убрать настройками - существует проблема: существенно некорректное поведение. Это уже не выдумывание новых знаний (где человек мог бы принять ответ ИИ как вариант, который стоит проверить), а их фальсификация (где заранее понятно, что ничего проверять не надо - потому как выдуманного источника не существует).
Хотя, ту же самую инфу ИИ мог бы подать так: что "если бы у такого то автора была бы такая-то статья с такими-то тезисами, то…" и дальше то, что ИИ выдумал. В таком сообщении нет прямого вранья, а есть какие-то предположения. Тут автор, которому ИИ приписал возможность написания такой статьи - он может подумать и таки написать эту статью. Или не написать. Но другие люди не будут обмануты ИИ тем, что он выдумал факт, которого не существовало.
https://www.youtube.com/watch?v=2nWdZdYtz84&t=2465
/ 56:08
Мы могли жить на Марсе? Зарождение жизни на Земле и эволюция. Михаил Никитин и Сила Идеи
Сила Идеи, 30 тыщ просмотров, 21 янв. 2024- 14,7 тыс. подписчиков
[Spoiler (click to open)]
Как зародилась жизнь на земле? Что предшествовало большому взрыву и что было дальше? Откуда взялись мы с Вами? Сегодня обсуждаем животрепещущие темы, отвечаем на самые популярные вопросы о происхождении жизни на земле и развеиваем мифы
Сегодня у меня в гостях Михаил Никитин, биолог
Внутренности:
0:00 Анонс
1:30 Какой был климат на в момент зарождения жизни
3:08 Где зародилась жизнь
5:37 Почему фаст-фуд для нас вкусный?
10:05 Что в нас осталось от первых живых организмов
13:30 Сколько прошло времени с появления первой клетки
17:00 Как появлялись первые животные
22:18 Удача, что на Земле есть жизнь
25:50 Мы могли бы жить на Марсе
26:55 Где ещё может быть жизнь?
32:15 Маск сможет колонизировать Марс?
41:05 ИИ это нерадивый студент
51:41 Михаил раскрывает тайну своей футболки
О чём ещё мы поговорили с Михаилом:
- Жизнь - Как появилась жизнь на земле? Зарождение жизни сложный процесс? Эволюция и Михаил Никитин
- Происхождение жизни - Как появилась жизнь на других планетах? Жизнь на Марсе существует? Земля и планета Земля
- Эволюция человека - О чём говорит теория эволюции? Космос и экзопланеты это ключевая ветвь развития? Почему исчезли динозавры?
- Джеймс Уэбб - Телескоп и спутники. Как устроены Уран и Нептун? Звезды далеко? О чем говорил Опарин?
- Астрофизика - Илон Маск колонизирует Марс? Джон Холдейн прав? Чем отличается ДНК от РНК? Как произошел большой взрыв?
Биолог интервью - Как биолог смотрит на происхождение жизни на земле? Искусственный интеллект и чат GPT
Про что канал «Сила идеи»?
Здесь я, Александр Сила
Часть про ИИ мне показалась самой интересной в этом выступлении Никитина - остальное он рассказывал и раньше. А вот по ИИ - это важное сообщение о том, насколько вообще можно доверять ЧатуГПТ, к которому организовали публичный доступ. Не понятно, к какому из конкретных реализаций. Но понятно, что как минимум в какой-то из реализаций, если не во всех, если это невозможно убрать настройками - существует проблема: существенно некорректное поведение. Это уже не выдумывание новых знаний (где человек мог бы принять ответ ИИ как вариант, который стоит проверить), а их фальсификация (где заранее понятно, что ничего проверять не надо - потому как выдуманного источника не существует).
Хотя, ту же самую инфу ИИ мог бы подать так: что "если бы у такого то автора была бы такая-то статья с такими-то тезисами, то…" и дальше то, что ИИ выдумал. В таком сообщении нет прямого вранья, а есть какие-то предположения. Тут автор, которому ИИ приписал возможность написания такой статьи - он может подумать и таки написать эту статью. Или не написать. Но другие люди не будут обмануты ИИ тем, что он выдумал факт, которого не существовало.