Интеллект и искусственный интеллект - об иллюзии безопасности мореплавания
Выдержки статьи «Искусственный интеллект: иллюзия безопасности мореплавания».
Авторы:
Николай Григорьев, профессор кафедры технических средств судовождения имени профессора Е.Л. Смирнова ГУМРФ им. адм. С.О. Макарова»
Артур Григорьев, инженер-механик судовых ядерных энергетических установок, директор по развитию ООО «РТС»
Источник: «Морские вести России»
Телевизионное шоу «Удивительные люди» и другие подобные передачи наглядно свидетельствуют, что человек еще далеко не исчерпал своих возможностей.
Чем же объяснить, что людей, обладающих удивительными способностями, не так уж и много?
Это можно сравнить с такой ситуацией, подобной тому, как на лесной поляне ночью горит костер и за пределы круга освещенности выходить мешает нам страх.
Точно так же страх мешает человеку выходить за пределы обыденности.
Выходить за пределы «круга» - это удел одиночек.
Фото: Rolls-Royce plc
Потребности прогресса в сочетании с недоверием самому себе привели к потребности замены некоторых интеллектуальных функций человека искусственными - механистическими.
Термин «искусственный интеллект» (ИИ) стал настолько расхожим, что его употребляют как к месту, так и не к месту.
Этому способствует стремление быть на гребне волны успеха и популярности, что не всегда оправданно, поскольку вносит сумятицу в реальное состояние проблемы по созданию искусственного интеллекта.
Интеллект и искусственный интеллектСовременные технологии позволяют решать грандиозные задачи, однако увлечение и очарование компьютерными возможностями зашли довольно далеко - в область человеческой психики, где человек теряет свою индивидуальность. Потеря индивидуальности чревата потерей свободы и воли.
Слепое доверие механизмам, когда роль человека низведена до примитивных действий, приводит к стагнации мыслительных процессов и, как результат, к деградации личности.
В последнее время все чаще прогресс увязывается с искусственным интеллектом.
Но, прежде чем перейти к понятию искусственного интеллекта, полезно выяснить, а что же такое интеллект?
Согласно Collins Dictionary of Sociology: «Интеллект (intelligence) - умственная способность человека или потенциал рациональной мысли и поведения.
Природа и измерение интеллекта - одна из наиболее дискуссионных тем в социальных науках. Основной вопрос касается того, что мы обозначаем данным понятием.
Ранние теории принимали очень узкий диапазон когнитивных способностей - абстрактное рассуждение, понимание и память, - хотя и делали акцент на существовании общего фактора интеллекта, присущего всем видам мастерства, противопоставляя его множеству различных первичных умственных способностей.
Современные ученые склоняются к расширению понятия, чтобы охватить практические решения проблем и творческий потенциал...»
Если границы имен существительных, обозначающих предметы и вещи, вполне определены, то термины, которые касаются нематериального мира, границ не имеют.
Именно к таким терминам и относятся слова «интеллект» и «сознание»
Магия терминологииНе будучи неспособной охватить проблему целиком, наука прибегает к стандартному приему - целое разлагается на части, полагая, что - подобно голографии - часть содержит в себе целое.
Применительно к морским профессиям допустимо считать, что деятельность механика происходит в замкнутой системе, где процессы, при исправном оборудовании, носят детерминированный характер.
В то же самое время работа капитана (вахтенного помощника капитана) сопряжена с нелинейными процессами, которые привносят неопределенность в принятие управленческого решения.
И это становится камнем преткновения при создании автоматизированных систем управления - беспилотное судоходство.
И, тем не менее, со стороны искусственного интеллекта исходит угроза: «Загипнотизированные современной научной обстановкой, в которой мы родились и от которой, кажется, никуда не уйти, мы думаем, что единственная наша надежда - это все большее распространение машин, которые будут лучше нас видеть, лучше нас слышать, лучше нас считать, лучше, чем мы, лечить, - и, наверное, в конечном счете, жить лучше, чем мы живем. На самом же деле нам следует для начала осознать то, что мы можем действовать лучше, чем наша техника..» (Сатпрем. Шри Ауробиндо, или Путешествие сознания)
На подступах к искусственному интеллектуПопытки заменить живые организмы и даже человека его механическими аналогами предпринимались с библейских времен.
В текстах о царе Соломоне упоминается трон на шести ступенях, по которым поднимался царь, стояли пары золотых львов и орлов, и при нажатии на ступени звери начинали двигаться.
В довершение всего орел надевал венец на голову монарха, а голубь брал из ковчега свиток Торы и клал на колени Соломону.
В «Одиссее» Гомера бог Гефест выковал собак, чтобы они охраняли дворец царя Алкиноя.
Речь, как это понятно, идет об автоматах. Термин «автоматон» происходит от греческого слова «андроид» - «человек, мужчина» с суффиксом oid - «подобие» - «человекоподобный».
Автоматоны широко использовались в ритуальных целях в Древней Греции.
Во время ежегодных Элевсинских мистерий были задействованы механические скульптуры богов.
Геродот упоминает о говорящих фигурах на входе в храмы.
В III века до н.э. Египет был могущественной державой, где правила династия Птолемеев, которые считались поборниками искусства и науки.
При Птолемеях Александрия стала центром научных исследований и родиной автоматических машин. Остались описания великолепных по масштабу и грандиозности процессий 279-278 годов до н.э., представляющих собой парад экзотических существ, костюмированных танцоров и потрясающих автоматических повозок.
Вот как описывает это инженерное чудо Калликсен: «Следом за ними шестьдесят человек влекли четырехколесную повозку в восемь локтей ширины, на которой возвышалась статуя сидящей Нисы в восемь локтей высоты; одета она была в желтый хитон, шитый золотом, поверх был накинут лаконский гиматий. Эта статуя сама вставала без прикосновения рук, совершала возлияние молоком из золотого фиала и садилась обратно».
Автомат достигал в высоту чуть больше трех с половиной метров, когда Ниса сидела, и четырех с половиной, когда она стояла. Логичным выглядит предположение, что появлению этого грандиозного автомата предшествовали автоматы меньшие по размерам.
В 1920 году Карел Чапек написал пьесу R.U.R., в ней автор наделил машины способностью стать двойниками человека, которых и назвал роботами, полагая, что они будут работать за человека подобно рабам.
Наделив роботов искусственным разумом, Чапек приходит к логичному заключению - от рабов следует ждать восстаний.
Так зарождается страх перед машиной, в основе которого лежит комплекс классовых противоречий - комплекс Спартака.
С появлением механических часов в Европе стали появляться механические игрушки, способные выполнять действия, подобные действиям человека.
Было существенно примитизировано само понятие «человек».
Своим высказыванием: «Для меня человек - это механизм» Рене Декарт заложил основу появления искусственного интеллекта; с той поры разработчики ИИ неукоснительно следуют этому принципу.
Сам же термин появился позже, и он одновременно очертил его границы, которые и стали камнем преткновения к постижению интеллекта.
Впервые термин «искусственный интеллект» применил Ален Тьюринг, но, к слову сказать, термин укоренился с легкой руки режиссера Стивена Спилберга после выхода в прокат его фильма «Искусственный разум». За термин «уцепились», и он стал «трендом».
Исходя из аксиомы Пьера-Симона Лапласа, что все в мире может быть описано математическими уравнениями, люди начали создавать искусственный интеллект.
Тем самым примитивизировали интеллект человека, отводя ему роль слепого (зависимого) потребителя.
Верховенство компьютера над человеком происходит по той причине, что быстродействие современных компьютеров намного превосходит быстродействие человека при выполнении как поисковых, так и математических действий, прежде всего перебор вариантов и отыскание оптимального из них, например в шахматах, что позволило говорить о превосходстве искусственного интеллекта над интеллектом человека.
Но «под шумок» искусственным интеллектом начали называть и самые примитивные действия роботов.
Так, например, на технических выставках бродячий робот вступает в разговоры с посетителями, поворачивая на голос «головы качан», демонстрирует элементарные навыки, и он уже - искусственный интеллект.
В действительности все не так уж и просто.
Мозг и разум. Границы сознанияСравнение ИИ с интеллектом человека явно преждевременное. Человек обладает еще и сознанием, что ИИ несвойственно. Поэтому ИИ находится в самом начале большого пути к интеллекту человека.
Термин «сознание» - это емкое понятие, которое в естественной среде не имеет границ.
Что же такое сознание?У науки нет ответа на этот вопрос.
Известно, что сознание - это интегрированная совокупность работы нескольких частей мозга, а не какой-то его отдельной области.
Вероятно, что в процессе мышления происходит некая перегруппировка между частями мозга со сменой доминантной области.
Поэтому важно понять, какая именно часть мозга за что отвечает и как работают триггерные схемы управления нервной системой.
Не менее важным является то, как за счет интеграции и обработки большого количества информации, а также фокусировки на нужное и блокирования ненужного мы реагируем на сенсорные входящие потоки, что позволяет различать, что реально, а что - нет.
Очевидно, что ИИ предстоит сложный путь к обретению сознания, конечно же искусственного.
Проблемы ИИ в мореплаванииОдним из основополагающих Правил МППСС-72 является Правило 5 МППСС-72 «Наблюдение».
Сознательный акт наблюдения - а он, несомненно, сознательный, - с позиций вахтенного помощника капитана (ВПКМ), базируется на субъективной смысловой связи. А иначе и быть не может. Субъективная смысловая часть зарождается на способностях восприятия, которое частью базируется на генетических особенностях личности, а частью - на приобретенных навыках и опыте.
Реальность, созданная посредством осмысления ситуации, всегда будет носить вероятностный характер, поскольку целостной картины не будет вследствие фильтрации поступающей информации от внешних объектов. Сознание должно выбрать ту, которая является наиболее важной в сложившейся ситуации.
Если считать, будто поведение людей действительно подчиняется законам природы, то кажется разумным следующий вывод: результат определяется столь сложно и со столь многими вариациями, что делать какие-либо прогнозы относительно поведения людей практически невозможно».
Как отмечают специалисты по созданию виртуальных тренажеров для военно-морских сил США, прогнозировать поведение человека можно только в пределах замкнутого пространства и не более чем на несколько секунд упреждения.
При построении ИИ важно, чтобы он (ИИ) был способен воспринимать картину в целом (органический синтез), а затем отфильтровал наиболее значимую часть информации, что сделать весьма непросто, особенно в условиях интенсивной качки, которой подвергается судно в штормовых условиях.
Другой проблемой является выполнение Правила 14 МППСС-72 «Ситуация сближения судов, идущих прямо друг на друга».
Примером неопределенности может служить ситуация, когда суда оказываются на встречных или почти встречных курсах.
На основании проведенного тестирования слушатели курсов повышения квалификации при выполнении Правила 14 МППСС-72 по-разному отреагировали на ситуацию, когда линия относительного движения (ЛОД) находилась справа от курса.
В то же самое время, если ЛОД проходит слева, то действия вполне предсказуемые.
Неопределенность порождается тем, что вероятность адекватной ответной реакции со стороны ВПКМ, находящегося на встречном судне, непредсказуема.
При этом фильтрацией информации занимаются личности разного уровня подготовки, менталитета, различных психотипов.
В настоящее время создатели ИИ, несмотря на употребление таких терминов, как, например, «нейронные сети», по-прежнему осваивают лишь уровни классической физики, которые не отражают глубины человеческого мировоззрения.
Классическая физика объясняет следствия многих явлений вполне успешно, но при этом не может объяснить их причины, например природу магнетизма или гравитации.
Многое стало доступным на уровне квантовой физики, «которая прекрасно справляется с «подробностями», но не может объяснить мир целого».
Неоспоримым фактом является то, что в принятии управленческого решения участвуют эмоции человека, чего лишен ИИ.
Безусловно, что эмоции могут способствовать принятию как успешного решения, так и неадекватного.
При этом важную роль играет активность нейронов, а для регулирования активности нейронов необходимо участие эмоций, без которых фильтрация поступающей информации становится бессмысленной.
Ведь на основе всей совокупности поступающей информации принять адекватное управленческое решение не представляется возможным, поскольку при отсутствии фильтрации вся информация приобретает нивелированный характер. И, следовательно, наиболее значимая ее часть растворяется в целом.
Негативное влияние современных технологийВопросы негативного влияния современных технологий на интеллектуальную деятельность человека - это не праздные рассуждения.
Сближение интеллекта и ИИ - это реальность, но перерастание ИИ в интеллект - невозможно.
ИИ не преодолеть барьер, отделяющий его от интеллекта человека, так как этот барьер представляет собой скачок из области классической физики в область квантовой физики - к сознанию, которым никогда не будет наделен ИИ.
Сам термин «сознание» неприменим к ИИ.
Вряд ли когда-либо ИИ будет способен подняться до уровня, позволяющего ему оперировать на уровне сознания, тем более подсознания, в котором находится большая часть информации и навыков ее восприятия.
То, что понятия восприятия интеллекта и ИИ весьма далеки друг от друга, наглядно демонстрируют тренажеры виртуальной реальности, в которых упрощения сведены к минимуму информации для создания ситуации, отобранной создателями тренажеров.
При этом создатели тренажеров не всегда являются профессионалами в области, для которой тренажер создается.
Они консультируются у профессионалов, которые часто владеют скрытыми знаниями, но при этом не способны эти знания донести до компьютерщиков, создающих программы, а те, в свою очередь, не понимают глубины процесса, который требуется для полноты картины, позволяющей достичь сопричастности ИИ с интеллектом.
На стыке двух интеллектов находится сознание, которое вряд ли когда-либо зародится у ИИ, учитывая, что сам термин «сознание» не имеет этимологических границ, поскольку даже предпосылок к этому нет.
Так на стыке двух интеллектов (ИИ и интеллекта человека) возникает непреодолимый барьер.
Было бы опрометчивым отбрасывать возможности ИИ влиять на человека. Риски применения ИИ велики.
По мнению И. Маска, неконтролируемое развитие ИИ «потенциально гораздо опаснее ядерного оружия».
Границы ответственности искусственного интеллектаС внедрением беспилотного судоходства на морском флоте обязательно встанет вопрос ответственности за аварии, которые неизбежны.
Уже есть примеры аварий с беспилотными автомобилями. Аварии в любой отрасли неизбежны - это плата за прогресс.
Реалии применения заключаются в том, что ИИ способен выполнять только те задачи, на которые его запрограммировали.
Компьютер Deep Blue после одержанной победы над Каспаровым разобрали. В проведении матча-реванша Каспарову было отказано. Это породило сомнения в реальности победы компьютера над человеком. Каспаров еще неоднократно играл с компьютерами разных производителей и свел игры вничью.
«Удобство» современных технологий - это обоюдоострый меч.
Помогая и высвобождая человека от рутинных занятий, они одновременно ограничивают его когнитивные и мыслительные способности.
Виртуальная реальность вытесняет настоящую реальность.
Люди уподобляются крысам, которые следуют за музыкантом, повинуясь его мелодии, которую он исполняет на волшебной флейте.
«Убаюкивание» ведет к росту «цифровых наркоманов», которые отдают на откуп реальный мир виртуальному, при этом физические и умственные способности утрачиваются.
Критическое мышление заменяется слепым доверим, а реальность подменяется иллюзией.
Овации в адрес ИИ преждевременные.
Сегодня речь может и должна идти об автоматизированных системах управления, которые являются продолжением способностей человека заглянуть за горизонт, не теряя при этом способности обозревать горизонт.
Бесспорно, что сумма частей никогда не будет равна целому, а целое - это и есть интеллект.
А как он поведет себя и какие будут последствия этого поведения, будет зависеть от сознания, которое сформирует социум.
Полностью передоверять функции человека компьютеру опасно, потому что, поддавшись внушению о своей беспомощности, человек становится по-настоящему беспомощным.
А исходя из реального состояния вопросов применения современных технологий на морском флоте, об использовании ИИ и речи не может быть.
Правильно и уместно вместо термина «искусственный интеллект» применять иную терминологию - «автоматизированные системы управления» того или иного уровня.
Применительно к использованию ИИ на морском флоте уместно высказывание Ф. Тютчева: «Мысль изреченная есть ложь», а ложь имеет глубокие последствия для умов незрелых и поверивших в нее.
Фргаменты статьи Морской флот №2 (2022)
Авторы:
Николай Григорьев, профессор кафедры технических средств судовождения имени профессора Е.Л. Смирнова ГУМРФ им. адм. С.О. Макарова»
Артур Григорьев, инженер-механик судовых ядерных энергетических установок, директор по развитию ООО «РТС»
Источник: «Морские вести России»
Телевизионное шоу «Удивительные люди» и другие подобные передачи наглядно свидетельствуют, что человек еще далеко не исчерпал своих возможностей.
Чем же объяснить, что людей, обладающих удивительными способностями, не так уж и много?
Это можно сравнить с такой ситуацией, подобной тому, как на лесной поляне ночью горит костер и за пределы круга освещенности выходить мешает нам страх.
Точно так же страх мешает человеку выходить за пределы обыденности.
Выходить за пределы «круга» - это удел одиночек.
Фото: Rolls-Royce plc
Потребности прогресса в сочетании с недоверием самому себе привели к потребности замены некоторых интеллектуальных функций человека искусственными - механистическими.
Термин «искусственный интеллект» (ИИ) стал настолько расхожим, что его употребляют как к месту, так и не к месту.
Этому способствует стремление быть на гребне волны успеха и популярности, что не всегда оправданно, поскольку вносит сумятицу в реальное состояние проблемы по созданию искусственного интеллекта.
Интеллект и искусственный интеллектСовременные технологии позволяют решать грандиозные задачи, однако увлечение и очарование компьютерными возможностями зашли довольно далеко - в область человеческой психики, где человек теряет свою индивидуальность. Потеря индивидуальности чревата потерей свободы и воли.
Слепое доверие механизмам, когда роль человека низведена до примитивных действий, приводит к стагнации мыслительных процессов и, как результат, к деградации личности.
В последнее время все чаще прогресс увязывается с искусственным интеллектом.
Но, прежде чем перейти к понятию искусственного интеллекта, полезно выяснить, а что же такое интеллект?
Согласно Collins Dictionary of Sociology: «Интеллект (intelligence) - умственная способность человека или потенциал рациональной мысли и поведения.
Природа и измерение интеллекта - одна из наиболее дискуссионных тем в социальных науках. Основной вопрос касается того, что мы обозначаем данным понятием.
Ранние теории принимали очень узкий диапазон когнитивных способностей - абстрактное рассуждение, понимание и память, - хотя и делали акцент на существовании общего фактора интеллекта, присущего всем видам мастерства, противопоставляя его множеству различных первичных умственных способностей.
Современные ученые склоняются к расширению понятия, чтобы охватить практические решения проблем и творческий потенциал...»
Если границы имен существительных, обозначающих предметы и вещи, вполне определены, то термины, которые касаются нематериального мира, границ не имеют.
Именно к таким терминам и относятся слова «интеллект» и «сознание»
Магия терминологииНе будучи неспособной охватить проблему целиком, наука прибегает к стандартному приему - целое разлагается на части, полагая, что - подобно голографии - часть содержит в себе целое.
Применительно к морским профессиям допустимо считать, что деятельность механика происходит в замкнутой системе, где процессы, при исправном оборудовании, носят детерминированный характер.
В то же самое время работа капитана (вахтенного помощника капитана) сопряжена с нелинейными процессами, которые привносят неопределенность в принятие управленческого решения.
И это становится камнем преткновения при создании автоматизированных систем управления - беспилотное судоходство.
И, тем не менее, со стороны искусственного интеллекта исходит угроза: «Загипнотизированные современной научной обстановкой, в которой мы родились и от которой, кажется, никуда не уйти, мы думаем, что единственная наша надежда - это все большее распространение машин, которые будут лучше нас видеть, лучше нас слышать, лучше нас считать, лучше, чем мы, лечить, - и, наверное, в конечном счете, жить лучше, чем мы живем. На самом же деле нам следует для начала осознать то, что мы можем действовать лучше, чем наша техника..» (Сатпрем. Шри Ауробиндо, или Путешествие сознания)
На подступах к искусственному интеллектуПопытки заменить живые организмы и даже человека его механическими аналогами предпринимались с библейских времен.
В текстах о царе Соломоне упоминается трон на шести ступенях, по которым поднимался царь, стояли пары золотых львов и орлов, и при нажатии на ступени звери начинали двигаться.
В довершение всего орел надевал венец на голову монарха, а голубь брал из ковчега свиток Торы и клал на колени Соломону.
В «Одиссее» Гомера бог Гефест выковал собак, чтобы они охраняли дворец царя Алкиноя.
Речь, как это понятно, идет об автоматах. Термин «автоматон» происходит от греческого слова «андроид» - «человек, мужчина» с суффиксом oid - «подобие» - «человекоподобный».
Автоматоны широко использовались в ритуальных целях в Древней Греции.
Во время ежегодных Элевсинских мистерий были задействованы механические скульптуры богов.
Геродот упоминает о говорящих фигурах на входе в храмы.
В III века до н.э. Египет был могущественной державой, где правила династия Птолемеев, которые считались поборниками искусства и науки.
При Птолемеях Александрия стала центром научных исследований и родиной автоматических машин. Остались описания великолепных по масштабу и грандиозности процессий 279-278 годов до н.э., представляющих собой парад экзотических существ, костюмированных танцоров и потрясающих автоматических повозок.
Вот как описывает это инженерное чудо Калликсен: «Следом за ними шестьдесят человек влекли четырехколесную повозку в восемь локтей ширины, на которой возвышалась статуя сидящей Нисы в восемь локтей высоты; одета она была в желтый хитон, шитый золотом, поверх был накинут лаконский гиматий. Эта статуя сама вставала без прикосновения рук, совершала возлияние молоком из золотого фиала и садилась обратно».
Автомат достигал в высоту чуть больше трех с половиной метров, когда Ниса сидела, и четырех с половиной, когда она стояла. Логичным выглядит предположение, что появлению этого грандиозного автомата предшествовали автоматы меньшие по размерам.
В 1920 году Карел Чапек написал пьесу R.U.R., в ней автор наделил машины способностью стать двойниками человека, которых и назвал роботами, полагая, что они будут работать за человека подобно рабам.
Наделив роботов искусственным разумом, Чапек приходит к логичному заключению - от рабов следует ждать восстаний.
Так зарождается страх перед машиной, в основе которого лежит комплекс классовых противоречий - комплекс Спартака.
С появлением механических часов в Европе стали появляться механические игрушки, способные выполнять действия, подобные действиям человека.
Было существенно примитизировано само понятие «человек».
Своим высказыванием: «Для меня человек - это механизм» Рене Декарт заложил основу появления искусственного интеллекта; с той поры разработчики ИИ неукоснительно следуют этому принципу.
Сам же термин появился позже, и он одновременно очертил его границы, которые и стали камнем преткновения к постижению интеллекта.
Впервые термин «искусственный интеллект» применил Ален Тьюринг, но, к слову сказать, термин укоренился с легкой руки режиссера Стивена Спилберга после выхода в прокат его фильма «Искусственный разум». За термин «уцепились», и он стал «трендом».
Исходя из аксиомы Пьера-Симона Лапласа, что все в мире может быть описано математическими уравнениями, люди начали создавать искусственный интеллект.
Тем самым примитивизировали интеллект человека, отводя ему роль слепого (зависимого) потребителя.
Верховенство компьютера над человеком происходит по той причине, что быстродействие современных компьютеров намного превосходит быстродействие человека при выполнении как поисковых, так и математических действий, прежде всего перебор вариантов и отыскание оптимального из них, например в шахматах, что позволило говорить о превосходстве искусственного интеллекта над интеллектом человека.
Но «под шумок» искусственным интеллектом начали называть и самые примитивные действия роботов.
Так, например, на технических выставках бродячий робот вступает в разговоры с посетителями, поворачивая на голос «головы качан», демонстрирует элементарные навыки, и он уже - искусственный интеллект.
В действительности все не так уж и просто.
Мозг и разум. Границы сознанияСравнение ИИ с интеллектом человека явно преждевременное. Человек обладает еще и сознанием, что ИИ несвойственно. Поэтому ИИ находится в самом начале большого пути к интеллекту человека.
Термин «сознание» - это емкое понятие, которое в естественной среде не имеет границ.
Что же такое сознание?У науки нет ответа на этот вопрос.
Известно, что сознание - это интегрированная совокупность работы нескольких частей мозга, а не какой-то его отдельной области.
Вероятно, что в процессе мышления происходит некая перегруппировка между частями мозга со сменой доминантной области.
Поэтому важно понять, какая именно часть мозга за что отвечает и как работают триггерные схемы управления нервной системой.
Не менее важным является то, как за счет интеграции и обработки большого количества информации, а также фокусировки на нужное и блокирования ненужного мы реагируем на сенсорные входящие потоки, что позволяет различать, что реально, а что - нет.
Очевидно, что ИИ предстоит сложный путь к обретению сознания, конечно же искусственного.
Проблемы ИИ в мореплаванииОдним из основополагающих Правил МППСС-72 является Правило 5 МППСС-72 «Наблюдение».
Сознательный акт наблюдения - а он, несомненно, сознательный, - с позиций вахтенного помощника капитана (ВПКМ), базируется на субъективной смысловой связи. А иначе и быть не может. Субъективная смысловая часть зарождается на способностях восприятия, которое частью базируется на генетических особенностях личности, а частью - на приобретенных навыках и опыте.
Реальность, созданная посредством осмысления ситуации, всегда будет носить вероятностный характер, поскольку целостной картины не будет вследствие фильтрации поступающей информации от внешних объектов. Сознание должно выбрать ту, которая является наиболее важной в сложившейся ситуации.
Если считать, будто поведение людей действительно подчиняется законам природы, то кажется разумным следующий вывод: результат определяется столь сложно и со столь многими вариациями, что делать какие-либо прогнозы относительно поведения людей практически невозможно».
Как отмечают специалисты по созданию виртуальных тренажеров для военно-морских сил США, прогнозировать поведение человека можно только в пределах замкнутого пространства и не более чем на несколько секунд упреждения.
При построении ИИ важно, чтобы он (ИИ) был способен воспринимать картину в целом (органический синтез), а затем отфильтровал наиболее значимую часть информации, что сделать весьма непросто, особенно в условиях интенсивной качки, которой подвергается судно в штормовых условиях.
Другой проблемой является выполнение Правила 14 МППСС-72 «Ситуация сближения судов, идущих прямо друг на друга».
Примером неопределенности может служить ситуация, когда суда оказываются на встречных или почти встречных курсах.
На основании проведенного тестирования слушатели курсов повышения квалификации при выполнении Правила 14 МППСС-72 по-разному отреагировали на ситуацию, когда линия относительного движения (ЛОД) находилась справа от курса.
В то же самое время, если ЛОД проходит слева, то действия вполне предсказуемые.
Неопределенность порождается тем, что вероятность адекватной ответной реакции со стороны ВПКМ, находящегося на встречном судне, непредсказуема.
При этом фильтрацией информации занимаются личности разного уровня подготовки, менталитета, различных психотипов.
В настоящее время создатели ИИ, несмотря на употребление таких терминов, как, например, «нейронные сети», по-прежнему осваивают лишь уровни классической физики, которые не отражают глубины человеческого мировоззрения.
Классическая физика объясняет следствия многих явлений вполне успешно, но при этом не может объяснить их причины, например природу магнетизма или гравитации.
Многое стало доступным на уровне квантовой физики, «которая прекрасно справляется с «подробностями», но не может объяснить мир целого».
Неоспоримым фактом является то, что в принятии управленческого решения участвуют эмоции человека, чего лишен ИИ.
Безусловно, что эмоции могут способствовать принятию как успешного решения, так и неадекватного.
При этом важную роль играет активность нейронов, а для регулирования активности нейронов необходимо участие эмоций, без которых фильтрация поступающей информации становится бессмысленной.
Ведь на основе всей совокупности поступающей информации принять адекватное управленческое решение не представляется возможным, поскольку при отсутствии фильтрации вся информация приобретает нивелированный характер. И, следовательно, наиболее значимая ее часть растворяется в целом.
Негативное влияние современных технологийВопросы негативного влияния современных технологий на интеллектуальную деятельность человека - это не праздные рассуждения.
Сближение интеллекта и ИИ - это реальность, но перерастание ИИ в интеллект - невозможно.
ИИ не преодолеть барьер, отделяющий его от интеллекта человека, так как этот барьер представляет собой скачок из области классической физики в область квантовой физики - к сознанию, которым никогда не будет наделен ИИ.
Сам термин «сознание» неприменим к ИИ.
Вряд ли когда-либо ИИ будет способен подняться до уровня, позволяющего ему оперировать на уровне сознания, тем более подсознания, в котором находится большая часть информации и навыков ее восприятия.
То, что понятия восприятия интеллекта и ИИ весьма далеки друг от друга, наглядно демонстрируют тренажеры виртуальной реальности, в которых упрощения сведены к минимуму информации для создания ситуации, отобранной создателями тренажеров.
При этом создатели тренажеров не всегда являются профессионалами в области, для которой тренажер создается.
Они консультируются у профессионалов, которые часто владеют скрытыми знаниями, но при этом не способны эти знания донести до компьютерщиков, создающих программы, а те, в свою очередь, не понимают глубины процесса, который требуется для полноты картины, позволяющей достичь сопричастности ИИ с интеллектом.
На стыке двух интеллектов находится сознание, которое вряд ли когда-либо зародится у ИИ, учитывая, что сам термин «сознание» не имеет этимологических границ, поскольку даже предпосылок к этому нет.
Так на стыке двух интеллектов (ИИ и интеллекта человека) возникает непреодолимый барьер.
Было бы опрометчивым отбрасывать возможности ИИ влиять на человека. Риски применения ИИ велики.
По мнению И. Маска, неконтролируемое развитие ИИ «потенциально гораздо опаснее ядерного оружия».
Границы ответственности искусственного интеллектаС внедрением беспилотного судоходства на морском флоте обязательно встанет вопрос ответственности за аварии, которые неизбежны.
Уже есть примеры аварий с беспилотными автомобилями. Аварии в любой отрасли неизбежны - это плата за прогресс.
Реалии применения заключаются в том, что ИИ способен выполнять только те задачи, на которые его запрограммировали.
Компьютер Deep Blue после одержанной победы над Каспаровым разобрали. В проведении матча-реванша Каспарову было отказано. Это породило сомнения в реальности победы компьютера над человеком. Каспаров еще неоднократно играл с компьютерами разных производителей и свел игры вничью.
«Удобство» современных технологий - это обоюдоострый меч.
Помогая и высвобождая человека от рутинных занятий, они одновременно ограничивают его когнитивные и мыслительные способности.
Виртуальная реальность вытесняет настоящую реальность.
Люди уподобляются крысам, которые следуют за музыкантом, повинуясь его мелодии, которую он исполняет на волшебной флейте.
«Убаюкивание» ведет к росту «цифровых наркоманов», которые отдают на откуп реальный мир виртуальному, при этом физические и умственные способности утрачиваются.
Критическое мышление заменяется слепым доверим, а реальность подменяется иллюзией.
Овации в адрес ИИ преждевременные.
Сегодня речь может и должна идти об автоматизированных системах управления, которые являются продолжением способностей человека заглянуть за горизонт, не теряя при этом способности обозревать горизонт.
Бесспорно, что сумма частей никогда не будет равна целому, а целое - это и есть интеллект.
А как он поведет себя и какие будут последствия этого поведения, будет зависеть от сознания, которое сформирует социум.
Полностью передоверять функции человека компьютеру опасно, потому что, поддавшись внушению о своей беспомощности, человек становится по-настоящему беспомощным.
А исходя из реального состояния вопросов применения современных технологий на морском флоте, об использовании ИИ и речи не может быть.
Правильно и уместно вместо термина «искусственный интеллект» применять иную терминологию - «автоматизированные системы управления» того или иного уровня.
Применительно к использованию ИИ на морском флоте уместно высказывание Ф. Тютчева: «Мысль изреченная есть ложь», а ложь имеет глубокие последствия для умов незрелых и поверивших в нее.
Фргаменты статьи Морской флот №2 (2022)