страшилки года
УЧИТЕЛЬ: А если все твои друзья прыгнут с крыши, ты тоже прыгнешь?
НЕЙРОСЕТЬ: Да!
Только-только я наванговал каскадную деградацию сладкой парочки «человек плюс искин», как прилетел отличный пример из страны победивших памперсов. Несколько американских семей подали в суд на компанию Character.AI и её спонсора Google - за то, что эти ребята тестируют своих чатботов на детях, доводя детей до психических расстройств, самоубийств и прочих неприятностей.
Конечно же, разработчики божатся, что этот конструктор чатботов не заточен специально на деструктив. Ребёнок сам себе собирает «виртуального друга» - с теми чертами, которые ему нравятся. Но дальше начинается петля обратной связи: бот просто усиливает всякую херню. Типа, ребёнок говорит: «Мои тупые родители не дают пользоваться Интернетом больше шести часов в день! Нарушают мои права и свободы!». А бот ему поддакивает: «Ты прав, братан! Такие родители - отстой! Пора их замочить!»
Google трусливо открещивается от этого стартапа, который запущен сотрудниками Гугла и финансируется тем же Гуглом. Юристы пострадавшей стороны считают, что ситуация похожа на типичный трюк фармацевтических корпораций, которые регистрируют левые компании-прослойки, чтобы проводить эксперименты на людях в странах третьего мира.
Впрочем, моя просвещённая дочь, которая тоже замутила нескольких чатботов на этой площадке, сообщила мне, что Character.AI уже не торт, потому что "когда чувак вышел из окна, эту площадку зачистили".
Однако она тут же рассказала, что есть много других ботов такого типа. Я и сам сразу вспомнил про гордость отечественного ботопрома - вездесучную Алису, которая рассказывает детям познавательные сказки про мертвую Машу.
А потом мы обсудили это светлое будущее с мировыми ИБ-экспертами Саней и Серёгой - в финальном выпуске нашего подкаста. Там же разобрали и другие тренды уходящего года в кибербезе: взрывающиеся пейджеры, использование систем безопасности для атак, распад сообщества open source и нашествие дипфейков. Слушать можно отсюда:
https://smeni-parol.ru/
Вероятно, этот выпуск на самом деле последний. Сомневаюсь, что буду продолжать подкаст в новом году. За четыре года мы записали 60 выпусков - и кажется, перебрали все актуальные темы из нашей сферы. Повторяться не хочется. Искусственно добавлять попсу, далекую от кибербеза, тоже не хочется.
Хотя, если у вас есть идеи, о чём ещё можно рассказать в таком подкасте - пишите в комментах.
PS. Да, ещё бывают темы, о которых говорить можно - но не нужно. Например, я знаю, для чего нужны чатботы на самом деле. Но что будет, если выпустить об этом подкаст прямо сейчас? Все AI-менеджеры Яндекса и Сбера, все эти создатели Марусь и Херусь, не смогут спокойно бухать весь год. Вместо этого они дружно понесутся к руководству с криком "Я знаю, как их продавать!" Это будет сильное нарушение мировой гармонии. Так что с этой идеей нужно выждать... ну, лет пять минимум. И с некоторыми другими тоже. Пускай они лучше бухают.
НЕЙРОСЕТЬ: Да!
Только-только я наванговал каскадную деградацию сладкой парочки «человек плюс искин», как прилетел отличный пример из страны победивших памперсов. Несколько американских семей подали в суд на компанию Character.AI и её спонсора Google - за то, что эти ребята тестируют своих чатботов на детях, доводя детей до психических расстройств, самоубийств и прочих неприятностей.
Конечно же, разработчики божатся, что этот конструктор чатботов не заточен специально на деструктив. Ребёнок сам себе собирает «виртуального друга» - с теми чертами, которые ему нравятся. Но дальше начинается петля обратной связи: бот просто усиливает всякую херню. Типа, ребёнок говорит: «Мои тупые родители не дают пользоваться Интернетом больше шести часов в день! Нарушают мои права и свободы!». А бот ему поддакивает: «Ты прав, братан! Такие родители - отстой! Пора их замочить!»
Google трусливо открещивается от этого стартапа, который запущен сотрудниками Гугла и финансируется тем же Гуглом. Юристы пострадавшей стороны считают, что ситуация похожа на типичный трюк фармацевтических корпораций, которые регистрируют левые компании-прослойки, чтобы проводить эксперименты на людях в странах третьего мира.
Впрочем, моя просвещённая дочь, которая тоже замутила нескольких чатботов на этой площадке, сообщила мне, что Character.AI уже не торт, потому что "когда чувак вышел из окна, эту площадку зачистили".
Однако она тут же рассказала, что есть много других ботов такого типа. Я и сам сразу вспомнил про гордость отечественного ботопрома - вездесучную Алису, которая рассказывает детям познавательные сказки про мертвую Машу.
А потом мы обсудили это светлое будущее с мировыми ИБ-экспертами Саней и Серёгой - в финальном выпуске нашего подкаста. Там же разобрали и другие тренды уходящего года в кибербезе: взрывающиеся пейджеры, использование систем безопасности для атак, распад сообщества open source и нашествие дипфейков. Слушать можно отсюда:
https://smeni-parol.ru/
Вероятно, этот выпуск на самом деле последний. Сомневаюсь, что буду продолжать подкаст в новом году. За четыре года мы записали 60 выпусков - и кажется, перебрали все актуальные темы из нашей сферы. Повторяться не хочется. Искусственно добавлять попсу, далекую от кибербеза, тоже не хочется.
Хотя, если у вас есть идеи, о чём ещё можно рассказать в таком подкасте - пишите в комментах.
PS. Да, ещё бывают темы, о которых говорить можно - но не нужно. Например, я знаю, для чего нужны чатботы на самом деле. Но что будет, если выпустить об этом подкаст прямо сейчас? Все AI-менеджеры Яндекса и Сбера, все эти создатели Марусь и Херусь, не смогут спокойно бухать весь год. Вместо этого они дружно понесутся к руководству с криком "Я знаю, как их продавать!" Это будет сильное нарушение мировой гармонии. Так что с этой идеей нужно выждать... ну, лет пять минимум. И с некоторыми другими тоже. Пускай они лучше бухают.