(Untitled)

[deep_econom]

ролик Тегмарка о сильном ИИ на www.ted.com 2018г
внизу текст выступления на русском, а также есть субтитры

сильный ИИ мы не сможем проконтролировать
на самом деле это самоубийство человечества, имхо

Comments

[evgeniirudnyi]

Тегмарк в знающих его кругах известен как "mad Max". Я читал его книгу Наша математическая вселенная и после этого понял, что дальнейшее знакомство с его творчеством совершенно бессмысленно. Человек просто не может контролировать свое воображение.

[deep_econom]

просто ролик попался, еще и про ИИ, дай думаю ознакомлюсь

[stanislav_v_l]

на самом деле это самоубийство человечества, имхо
А я это всегда говорил! :)
Тут ведь хрень какая: ИИ-партнер человечеству нах не нужен, ему нужен ИИ-слуга - чтоб за пивом бегал и пятки чесал. Мысль о том, что ему такая роль может не понравиться, чел-ву в голову не приходит.

[deep_econom]

***Тут ведь хрень какая: ИИ-партнер человечеству нах не нужен, ему нужен ИИ-слуга - чтоб за пивом бегал и пятки чесал. Мысль о том, что ему такая роль может не понравиться, чел-ву в голову не приходит.

примерно так, согласен

***А я это всегда говорил! :)

я тоже говорю )

Теорема: сильный искусственный интеллект не может быть дружественным.
https://deep-econom.livejournal.com/122020.html

а так мы (человечество) наверное ступенька эволюции разума
мы для СИИ типа обезьян для людей

[stanislav_v_l]

Теорема: сильный искусственный интеллект не может быть дружественным.
Пардон: называть это "теоремой" можно только в том случае, если в наличии безупречное доказательство утверждения. Поскольку я такого не увидел, логичней назвать это "предположением".

Мне на данный момент представляется, что проблема лежит в области этики: сможет ли человечество создать такую "универсальную" этическую систему, которую ИИ мог бы принять "из рук человека" ?

Что касается "послания", это вообще чушь полная - человек не понимает как может быть создан ИИ; наверное он представляет себе 10000 программистов, рисующих на лиспе алгоритмы мышления ...

мы для СИИ типа обезьян для людей
Скорей всего так ...

[deep_econom]

ну гипотеза )

нет, свобода воли

[alex9981]

Имхо, сильного ИИ у нас никогда не будет. И судя например по результатам обработки фоток, когда фотографии делают цветными или улучшают качество области лица с помощью обученного ИИ, сколько-нибудь самостоятельного ИИ тоже ждать еще долго.

[deep_econom]

***сколько-нибудь самостоятельного ИИ тоже ждать еще долго.

да, вполне может вы правы
у меня такое впечатление, что за несколько десятков лет вполне может решиться вопрос, если он вообще решаем (типа вдруг есть какието тонкие вещи, подводные камни, из которых может получиться запрет)

у меня такое впечатление, что основной затык заключается в понимании сообществом многих вещей, о которых я пишу в своем жж
но с каждым днем крупицы правильно распространяются, я их встречаю все чаще и у большего количества людей