Можно ли вообще контролировать искусственный интеллект?
Американский журналист и эксперт по обороне, телепродюсер и писатель Джей Нельсон Так-младший в своей лекции «ИИ - самый серьезный вызов для человечества» в Стамбуле в 2018 году отметил наиболее опасные тенденции в применении искусственного интеллекта (ИИ).
В предыдущем материале мы привели рассказ Джея Така о военном применении ИИ и том, что Пентагон активно хочет предоставить ему право на убийство и даже заложил принципиальную возможность для этого как минимум в один свой дрон, несмотря на то что технология, мягко говоря, не вполне надежна.«ИИ совершает ошибки и, если вы позволите ему принимать решение об убийстве, становится очень страшно», - подчеркнул эксперт.
По словам Така, опасно то, что мы совершенно не можем проконтролировать решения ИИ или даже понять, почему он их принял.
«Путин сказал, что тот, кто управляет искусственным интеллектом, управляет миром, Джей Так говорит, что никто не может управлять искусственным интеллектом. Это не просто инструмент, который мы разработали, как молоток или пила, или обычный компьютер, который работает на нас, - пояснил журналист. - Это то, что мыслит само. Искусственный интеллект пишет свое собственное программное обеспечение. Я разговаривал со многими ведущими мировыми разработчиками искусственного интеллекта и все они говорят, что к тому времени, когда вы начнете обновление номер пять, шесть или семь, мы не можем сказать вам, что произошло, мы не можем сказать вам, как программное обеспечение дошло до этой точки. И еще они говорят, что мы не можем встроить закладку, черный ход, куда мы могли бы постучать и сказать: „Что ты там натворил?“ Это невозможно сделать».
Возможные последствия такой принципиальной невозможности предотвратить ошибку вызывают сильное беспокойство и у самих разработчиков ИИ.
«ИИ развивается сам по себе, он автономен, и когда он начинает планировать наши города, и когда он начинает запускать наши военные машины, может произойти много вещей, которые заставляют нас очень нервничать. Вот почему десять тысяч людей, которые занимаются разработкой искусственного интеллекта, подписали петиции в ООН, утверждая, что мы должны держать искусственный интеллект подальше от военных», - добавил он, оговорив, что от военных просто петициями не отобьешься.
Особенно хорош искусственный интеллект в сфере миниатюризации. Это важно для медицинских разработок, но не менее важно и для военных. В частности, среди разрабатываемых военными разработок есть своеобразные «теннисные мячи» - маленькие и очень дешевые сенсоры, которые планируется разбрасывать тысячами с дронов, чтобы они собирали разнородную информацию о местности, которая потом будет складываться в очень подробную картину территории и того, что на ней происходит - и всё без участия человека. Кроме того, уже существуют разные виды миниатюрных дронов-шпионов и дронов-убийц, способных проникнуть в здания и места, труднодоступные для солдат.
«Поскольку многие из вас думают, что если ИИ выйдет из-под контроля, то это просто компьютер, мы просто выдернем вилку из розетки и никаких проблем. Беда в том, что искусственный интеллект или компьютер сегодня больше не просто коробка. Если у вас есть четырнадцатилетний подросток и он скачивает видео, его программа собирает данные о производительности многих и многих других компьютеров, чтобы помочь вам скачать его в сети. Все в облаке и есть загруженные копии, резервные копии всего искусственного. Они распространяются по всему миру как яйца насекомых и в мире не существует способа стереть их или остановить их», - нарисовал мрачную картину спикер.
Джей Так закончил свое выступление словами Илона Маска: «Искусственный интеллект - наша самая большая угроза, им мы вызываем дьявола».
Источник