Следующий акт цирка с конями вокруг искусственного интеллекта типа LLM/БЯМ
Предыдущие серии:
2023-03-31 Скандальное письмо против развития ИИ. С чего вдруг Маск и Ко стали цифровыми луддитами? Ищем корни.
https://alex-rozoff.livejournal.com/659972.html
2023-04-05 Что сказал Юдковский о людоедском ИИ: huetata around "Pause Giant AI Experiments: An Open Letter"
https://alex-rozoff.livejournal.com/661259.html
2024-05-25 Куда уехал цирк: этот искусственный интеллект (LLM) сломался, несите новый (KAN).
https://alex-rozoff.livejournal.com/786381.html
2024-05-29 Цифровой цирк вокруг т.н. "искусственного интеллекта" GPT дошел до точки тошноты.
https://alex-rozoff.livejournal.com/787345.html
Теперь очередной цирковой акт:
Группа из 9 нынешних и бывших сотрудников OpenAI опубликовала открытое письмо с призывом защитить информаторов в индустрии ИИ. Они утверждают, что OpenAI ставит прибыль и рост выше безопасности и этики, что создает потенциальные угрозы для человечества. Сотрудники готовы дать показания против компании, если им обеспечат защиту.* Текст письма предсказуемый:
[цитирую выборочно в переводе] Мы - нынешние и бывшие сотрудники передовых компаний, занимающихся искусственным интеллектом, и мы верим в потенциал технологии искусственного интеллекта, способной принести беспрецедентную пользу человечеству. Мы также понимаем серьезные риски, связанные с этими технологиями. Эти риски варьируются от дальнейшего углубления существующего неравенства до манипуляций и дезинформации, до потери контроля над автономными системами ИИ, что потенциально может привести к исчезновению человечества. Пока за этими корпорациями не будет эффективного государственного надзора, нынешние и бывшие сотрудники являются одними из немногих, кто может привлечь их к ответственности перед обществом. Тем не менее, широкие соглашения о конфиденциальности не позволяют нам озвучивать наши опасения, за исключением тех самых компаний, которые, возможно, не решают эти проблемы. Обычных мер защиты информаторов недостаточно, поскольку они сосредоточены на незаконной деятельности, тогда как многие из рисков, которые нас беспокоят, еще не регулируются. Некоторые из нас обоснованно опасаются различных форм возмездия, учитывая историю подобных случаев в отрасли. Мы не первые, кто сталкивается с этими проблемами или говорит об этом.**
Простой трюк. Сначала надуть финансовый пузырь - а затем спровоцировать государственный контроль, чтобы сказать, будто пузырь лопнул из-за этого.
Капитализм - это приватизация прибылей и обобществление убытков.
...Такие дела...
----------------------------------------
*) https://hightech.plus/2024/06/05/bivshie-sotrudniki-openai-schitayut-chto-ee-deyatelnost-ugrozhaet-chelovechestvu
**) https://righttowarn.ai
2023-03-31 Скандальное письмо против развития ИИ. С чего вдруг Маск и Ко стали цифровыми луддитами? Ищем корни.
https://alex-rozoff.livejournal.com/659972.html
2023-04-05 Что сказал Юдковский о людоедском ИИ: huetata around "Pause Giant AI Experiments: An Open Letter"
https://alex-rozoff.livejournal.com/661259.html
2024-05-25 Куда уехал цирк: этот искусственный интеллект (LLM) сломался, несите новый (KAN).
https://alex-rozoff.livejournal.com/786381.html
2024-05-29 Цифровой цирк вокруг т.н. "искусственного интеллекта" GPT дошел до точки тошноты.
https://alex-rozoff.livejournal.com/787345.html
Теперь очередной цирковой акт:
Группа из 9 нынешних и бывших сотрудников OpenAI опубликовала открытое письмо с призывом защитить информаторов в индустрии ИИ. Они утверждают, что OpenAI ставит прибыль и рост выше безопасности и этики, что создает потенциальные угрозы для человечества. Сотрудники готовы дать показания против компании, если им обеспечат защиту.* Текст письма предсказуемый:
[цитирую выборочно в переводе] Мы - нынешние и бывшие сотрудники передовых компаний, занимающихся искусственным интеллектом, и мы верим в потенциал технологии искусственного интеллекта, способной принести беспрецедентную пользу человечеству. Мы также понимаем серьезные риски, связанные с этими технологиями. Эти риски варьируются от дальнейшего углубления существующего неравенства до манипуляций и дезинформации, до потери контроля над автономными системами ИИ, что потенциально может привести к исчезновению человечества. Пока за этими корпорациями не будет эффективного государственного надзора, нынешние и бывшие сотрудники являются одними из немногих, кто может привлечь их к ответственности перед обществом. Тем не менее, широкие соглашения о конфиденциальности не позволяют нам озвучивать наши опасения, за исключением тех самых компаний, которые, возможно, не решают эти проблемы. Обычных мер защиты информаторов недостаточно, поскольку они сосредоточены на незаконной деятельности, тогда как многие из рисков, которые нас беспокоят, еще не регулируются. Некоторые из нас обоснованно опасаются различных форм возмездия, учитывая историю подобных случаев в отрасли. Мы не первые, кто сталкивается с этими проблемами или говорит об этом.**
Простой трюк. Сначала надуть финансовый пузырь - а затем спровоцировать государственный контроль, чтобы сказать, будто пузырь лопнул из-за этого.
Капитализм - это приватизация прибылей и обобществление убытков.
...Такие дела...
----------------------------------------
*) https://hightech.plus/2024/06/05/bivshie-sotrudniki-openai-schitayut-chto-ee-deyatelnost-ugrozhaet-chelovechestvu
**) https://righttowarn.ai