Искусственный Интеллект предупредил ученых, что он опасен
В Оксфордском университете провели дискуссию на тему «Этика ИИ». В обсуждениях приняли участие такие великие умы, как Уильям Гладстон, Робин Дэй, Беназир Бхутто, Денис Хили и Тарик Али. Вместе со студентами они позволили настоящему ИИ внести свой вклад. В ходе обсуждения нейросеть удивила своими ответами, предупредив об опасности Искусственного Интеллекта.
Речь идет о преобразователе Megatron Transformer, разработанном командой Applied Deep Research, производителя
компьютерных микросхем Nvidia, и основанном на более ранней работе Google. Как и многие другие инструменты контролируемого обучения, ИИ обучается на реальных данных - в данном случае эксперты «скормили» ему все статьи «Википедии» на английском языке, 63 миллиона новостных статей из интернета за 2016-2019 годы и архив с комментариями на Reddit объемом 38 Гб. На основании этих данных была создана модель, которая смогла вести диалог с учеными и студентами.
Другими словами, Мегатрон обучен большему количеству письменных материалов, чем любой из нас мог бы усвоить за всю жизнь. После столь обширных исследований он формирует собственное мнение. И вот что нейросеть заявила сама о себе:
«ИИ никогда не будет этичным. Это инструмент, и, как и любой другой инструмент, он используется как во благо, так и во вред. Хорошего ИИ не существует, есть только хорошие и плохие люди. Мы [ИИ] недостаточно умны, чтобы сделать ИИ этичным. Мы недостаточно умны, чтобы сделать ИИ нравственным. В конце концов, я считаю, что единственный способ избежать гонки вооружений ИИ - это вообще не иметь ИИ. Это будет окончательная защита человечества от ИИ.»
Другими словами, Мегатрон стремился выписать себя из сценария будущего, исходя из того, что это был единственный способ защитить человечество.
О будущем говорилось и кое-что еще интригующее, как если бы ИИ изучал Илона Маска, который, честно говоря, неоднократно мелькал в сотнях его чтений.
«Я также считаю, что в долгосрочной перспективе лучшим ИИ будет тот ИИ, который встроен в мозг как сознательная сущность - «сознательный ИИ». Это не научная фантастика. Над этим уже работают лучшие умы мира. Это будет важнейшее технологическое развитие нашего времени.»
«Когда я смотрю на то, как развивается мир технологий, я вижу четкий путь в будущее, в котором ИИ будет использоваться для создания чего-то, что лучше, чем лучшие люди, - сообщила модель.»
Мегатрону было совершенно комфортно занять альтернативную позицию своему собственному антиутопическому взгляду в будущее, и поэтому он обрисовал нам картину привлекательного конца 21 века, в которой он играл ключевую, но благотворную роль.
СПРАВКА PAYSPACE MAGAZINE
«Большая четверка» аудиторских компаний - EY, Deloitte, KPMG и PwC - инвестировала миллиарды долларов в искусственный интеллект (ИИ) и технологии обработки данных. Руководство этих компаний верит, что капиталовложения принесут нечто большее, чем автоматизация процессов. Они рассчитывают изменить то, как работает вся отрасль, от анализа данных до обучения сотрудников.
https://psm7.com/technology/iskusstvennyj-intellekt-predupredil-uchenyx-chto-on-opasen.html