Искусственный интеллект и управление

[ru_an_info]

Редакция, 28 ноября 2019


Что произойдет если доверить искусственному интеллекту управлять людьми? В нашем законодательстве 99% законов противоречат друг другу. По логике вещей должен наступить коллапс власти и остановка системы управления...

Дай дураку искусственный интеллект, он его разобьет и руки порежет

Автор - Лукич

А да­вай­те теперь по­раз­мыс­лим о месте, ко­то­рое ис­кус­ствен­ный ин­тел­лект (далее - искин) займет в нашей жизни, когда (если) он будет изоб­ре­тен и при­ме­нен. По поводу его внут­рен­ней сущ­но­сти я пред­ла­гаю не спо­рить. Пусть это будет лишь очень про­дви­ну­тый ал­го­ритм, име­ю­щий воз­мож­ность работы с Big Data, и уме­ю­щий похоже ко­пи­ро­вать пат­тер­ны по­ве­де­ния на­сто­я­щих людей. Но, если хотите, пусть об­суж­да­е­мое будет ис­ки­ном на­сто­я­щим, как вы это сами по­ни­ма­е­те.

Глав­ный вопрос тут вот в чем. Куда мы при­ме­ним этот Молот Тора, как только его по­лу­чим? А со­мне­ний в том, что его можно из­го­то­вить, прин­ци­пи­аль­но ведь нет. Циф­ро­мо­ло­тил­ки мы умеем, са­мо­обу­ча­ю­щи­е­ся ал­го­рит­мы тоже, биг дата на­коп­ле­на - всё есть.

Ска­же­те, в управ­ле­ние тех­ни­че­ски­ми си­сте­ма­ми, на­при­мер, от­дель­ны­ми еди­ни­ца­ми транс­пор­та? - Ну, камон… Зачем делать умную и слож­ную си­сте­му, чтобы по­ру­чать ей то, с чем справ­ля­ет­ся и лошадь? Там хватит и при­ми­тив­но­го ал­го­рит­ма на про­цес­со­ре по 10 баксов за ведро, про­бле­ма с управ­ле­ни­ем транс­пор­том лишь в по­лу­че­нии данных и в эти­че­ских во­про­сах. Тогда что? По­ду­май­те секунд пят­на­дцать.



На мой взгляд, есть только одно на­сто­я­щее дело для искина - это управ­ле­ние людьми. Точнее, про­цес­са­ми, в ко­то­рых люди яв­ля­ют­ся частью. На мень­шее раз­ме­ни­вать­ся нет смысла по ряду причин. Всякий че­ло­век готов к управ­ле­нию людьми безо всякой спе­ци­аль­ной под­го­тов­ки. На­при­мер, мы вполне до­ве­ря­ем вся­ко­му управ­ле­ние соб­ствен­ны­ми детьми. Также прак­ти­че­ски каждый в кол­лек­ти­вах имел хоть какой-то опыт управ­ле­ния. Хоть на уровне «еще одну лопату кидай в но­сил­ки, и по­не­сем». Если всякий че­ло­век управ­лять людьми в прин­ци­пе спо­со­бен, то искин должен это уметь, иначе это ум­ствен­но непол­но­цен­ный ин­тел­лект.

Однако же, ре­зуль­та­ты управ­ле­ния людей от идеала сильно далеки. Любое ре­аль­ное управ­ле­ние - это череда ошибок и неточ­но­стей. Причем, от уровня управ­лен­ца ко­ли­че­ство ошибок почти не за­ви­сит, это некая по­сто­ян­ная ве­ли­чи­на. Просто бри­га­дир груз­чи­ков делает ма­ло­зна­чи­тель­ные ошибки, а гу­бер­на­то­ру дано право со­вер­шать ошибки, вле­ку­щие тя­же­лые по­след­ствия. Мы это по­ни­ма­ем. «Надо было делать не так» - это ос­нов­ной ре­зуль­тат ре­флек­сии окру­жа­ю­ще­го мира, самих себя в том числе.

И вот, в наших руках искин, ко­то­рый пред­по­ло­жи­тель­но будет «делать так». И мы его немед­лен­но при­ме­ним, ведь про­бле­ма, ко­то­рую он тео­ре­ти­че­ски может решить яв­ля­ет­ся самой глав­ной. А водить гру­зо­вик умеет и джам­шут с тремя клас­са­ми об­ра­зо­ва­ния.

Если в этом вы со мной со­глас­ны, то да­вай­те дальше пред­став­лять функ­ци­о­нал искина, пред­на­зна­чен­но­го управ­лять. Чьи функ­ции он должен ис­пол­нять, кого за­ме­нить или хотя бы уси­лить своими ре­ше­ни­я­ми?

По­нят­но, что это будут чи­нов­ни­ки (как в го­су­прав­ле­нии, так и в биз­не­се). Чи­нов­ни­ки при­ни­ма­ют ре­ше­ния. Чи­нов­ни­ки при­ни­ма­ют на всех уров­нях ком­пе­тен­ции. Чи­нов­ни­ки важны и нужны се­год­ня, ведь ре­ше­ния сами себя не примут. Но есть один момент.

По­смот­рим на вся­ко­го управ­лен­ца (то есть, вся­ко­го чи­нов­ни­ка) со сто­ро­ны бук­валь­но­го со­дер­жа­ния его прак­ти­че­ской де­я­тель­но­сти. Но не в смысле его мо­ти­ва­ций - у искина мо­ти­ва­ций как бы быть не должно. Чи­нов­ник либо одоб­ря­ет тран­зак­ции, либо от­ме­ня­ет тран­зак­ции, одоб­рен­ные другим чи­нов­ни­ком.

В иде­аль­ном ап­па­ра­те все тран­зак­ции должны одоб­рять­ся без­услов­но и ни­ка­кие тран­зак­ции не могут быть от­ме­не­ны, ибо ранее были за­кон­ным об­ра­зом одоб­ре­ны. Важный фактор в данной си­сте­ме - это то, что тран­зак­ции по­сту­па­ют на рас­смот­ре­ние чи­нов­ни­ку из «чер­но­го ящика». Ему не дается объ­яс­не­ний, почему именно такая тран­зак­ция должна быть осу­ществ­ле­на или почему она была одоб­ре­на иным чи­нов­ни­ком. Си­сте­ма управ­ле­ния вы­стро­е­на так. Сверху по­сту­па­ет приказ в виде пред­пи­са­ния осу­ще­ствить ряд тран­зак­ций.

За­меть­те, идео­ло­ги­че­ское по­стро­е­ние такой си­сте­мы вообще не пред­по­ла­га­ет воз­мож­но­сти от­ме­нить (не одоб­рить) тран­зак­цию, по­сту­пив­шую сверху, из «чер­но­го ящика». Но на прак­ти­ке такая воз­мож­ность всегда су­ще­ству­ет. И именно она обес­пе­чи­ва­ет две важ­ней­ших вещи: власть вся­ко­го чи­нов­ни­ка и сдер­жи­ва­ние такой власти.

Поясню, всякая ошибка (выше мы го­во­ри­ли, что они неиз­беж­ны и по­сто­ян­ны) может быть рас­тво­ре­на в про­ти­во­дей­ствии ни­же­ле­жа­щей чи­нов­ной массы, тогда по­след­ствия ошибки могут быть ми­ни­ми­зи­ро­ва­ны.

Однако, в тео­ре­ти­че­ской иде­аль­ной си­сте­ме управ­ле­ния ошибок быть не должно, по этой при­чине роль чи­нов­ни­ка сво­дит­ся к фор­маль­но­му одоб­ре­нию тран­зак­ций, ко­то­рые он не может не одоб­рить, ибо они пра­виль­ны. То есть, в нем нет ни­ка­кой необ­хо­ди­мо­сти. Итак, вопрос сво­дит­ся к пер­во­на­чаль­но­му управ­лен­че­ско­му сиг­на­лу. Если он верный, то во всех ни­же­ле­жа­щих уров­нях нет смысла.

Так, по идее, должен ра­бо­тать кон­со­ли­ди­ро­ван­ный бюджет го­су­дар­ства. Когда он принят, то это озна­ча­ет, что вся его фрак­таль­ная сущ­ность явлена. Всякий ка­пил­ляр должен по­лу­чить на­зна­чен­ную порцию крови, а в ответ - преду­смот­рен­ный ре­зуль­тат. Да, в самом низу воз­ни­ка­ют «а нам бетон во­вре­мя не за­вез­ли, и по­это­му…» Но поз­воль­те, это ведь в самом низу, а ап­па­рат управ­ле­ния со­сто­ит из мно­же­ства уров­ней, ко­то­рые не ка­са­ют­ся твар­но­го бетона со­вер­шен­но, они опе­ри­ру­ют тран­зак­ци­я­ми. Я по­ни­маю, что на сред­них уров­нях «не за­вез­ли бетон» вы­гля­дит иначе, типа «вице-пре­зи­дент стро­и­тель­ства кос­мо­дро­ма украл 100 мил­ли­о­нов, и по­это­му…» Я про иде­аль­ную схему тут.

Вер­нем­ся к нашему иде­аль­но­му искину. Он ведь в этой задаче должен решать те же самые во­про­сы - одоб­ре­ние или за­пре­ще­ние тран­зак­ций. И он такое сможет! Только вот он один сумеет за­ме­нить сразу все уровни управ­ле­ния. Ведь если он, за­ме­няя ми­ни­стра, одоб­ря­ет боль­шую тран­зак­цию ми­ни­стер­ско­го уровня, то это его ре­ше­ние сле­ду­ет при­знать пра­виль­ным. А оно вклю­ча­ет в себя анализ всего даль­ней­ше­го рас­пре­де­ле­ния боль­шой тран­зак­ции вплоть до оплаты ИП Пуп­ки­ну ре­мон­та крыль­ца псих­боль­ни­цы в Ки­неш­ме.



Так и всю це­поч­ку чи­нов­ни­ков, обя­зан­ных одоб­рить тран­зак­ции более низких уров­ней, сле­ду­ю­щих из первой, можно смело за­ме­нять на этот же ал­го­ритм искин. Вопрос уже решен, вплоть до самого низа. Наш искин даже не надо при­ме­нять для замены всей це­поч­ки, искин просто от­ме­ня­ет необ­хо­ди­мость в ней. Его ре­ше­ние ис­тин­но, ибо оно верно. И оно сразу вклю­ча­ет в себя ре­ше­ния по всему фрак­та­лу.

Ре­мар­ка. Всякий ни­же­сто­я­щий чи­нов­ник в нашем ре­аль­ном мире может ока­зать­ся по­ум­нее вы­ше­сто­я­ще­го. Тогда он будет са­бо­ти­ро­вать ре­ше­ния на­чаль­ни­ка, а потом под­си­дит его. Это всегда так и про­ис­хо­дит. Все име­ю­щи­е­ся чи­нов­ни­ки за­ни­ма­ют места своих бывших на­чаль­ни­ков, кроме стар­то­во­го уровня. Но в данном случае кон­ку­рен­ция ис­клю­че­на. Один искин решает всё по всей це­поч­ке сам, сам себе он про­ти­во­ре­чить не может.

Более того. В нашей си­сте­ме управ­ле­ния су­ще­ству­ют суды, ко­то­рым мы дали власть от­ме­нять любые наши тран­зак­ции и осу­ществ­лять свои, без­от­но­си­тель­но нашего мнения о них. (По­са­дить убийцу в тюрьму - это тоже тран­зак­ция, преду­смот­рен­ная пра­ви­ла­ми. Судья тут - чи­нов­ник, одоб­ря­ю­щий или от­ме­ня­ю­щий тран­зак­цию, ко­то­рая по­сту­па­ет к нему пред­пи­сан­ной из «чер­но­го ящика».) Если наш искин хорош, то он лучше чи­нов­ни­ков, ведь мы до­ве­ри­ли ему одоб­ре­ние или отмену тран­зак­ций за них (за нас). Так он тогда и лучше судей. Иначе вы­хо­дит, что ре­ше­ния искина могут быть оспо­ре­ны и от­ме­не­ны людьми. И если люди это при­ни­ма­ют, то они при­зна­ют тем то, что искин хуже людей. Тогда на каком ос­но­ва­нии он за­ме­ня­ет чи­нов­ни­ков?

Вывод. Искин будет и непод­су­ден. Еще раз. Если вы, люди, на­пи­са­ли лучший свой ал­го­ритм, при­зна­ли его столь хо­ро­шим, что дали ему власть над собой, то вы не смо­же­те на­пи­сать ал­го­ритм еще лучше, чтобы он судил ре­ше­ния пер­во­го. Вы самый лучший свой ал­го­ритм по­ста­ви­те и управ­лен­цем, и судьей. Точнее, судьи просто от­па­дут. Вам при­дет­ся дать этому искину полную власть над собой.

Кстати, пер­во­на­чаль­ный черный ящик, откуда к искину по­сту­па­ют ис­ход­ные данные для управ­ле­ния, тоже может быть циф­ро­ви­зо­ван. И даже обязан быть циф­ро­ви­зо­ван. Кон­со­ли­ди­ро­ван­ный бюджет должен со­став­лять самый лучший искин. И ис­пол­нять его тоже он.

Еще момент. А может, по­ста­вить над ис­ки­ном че­ло­ве­ка, ко­то­рый бы кон­тро­ли­ро­вал его ре­ше­ния, чтобы не слу­чи­лось тех ошибок, ко­то­рые могут про­изой­ти из-за его нече­ло­веч­но­сти, на­при­мер? - Тогда все чи­нов­ни­ки со­хра­нят свои места и свою власть. Им же будет дано право от­ме­нять одоб­рен­ные ис­ки­ном тран­зак­ции или одоб­рять от­ме­нен­ные им. Увы, это не вы­гля­дит ре­аль­ным. Искин предо­ста­вит рас­пе­чат­ку обос­но­ва­ния своего ре­ше­ния. А че­ло­век не сумеет опро­верг­нуть фор­маль­ную логику своими ощу­ще­ни­я­ми или ин­те­ре­са­ми. Даже в этом случае, если к каж­до­му про­яв­ле­нию (на самом деле еди­но­го) искина при­ста­вить по живому чи­нов­ни­ку, они не смогут ему про­ти­во­сто­ять.

Про­сти­те за сумбур, мыслей много, а длина текста непо­пра­ви­мо растет.

Когда искин вклю­чат, то про­изой­дет полный кол­лапс. Не, я по­ни­маю, что сна­ча­ла его по­го­ня­ют в те­сто­вом режиме. Но это будет про­фа­на­ци­ей, ведь тогда надо будет эму­ли­ро­вать всё об­ще­ство, со всеми его свя­зя­ми це­ли­ком, не упро­щен­ную модель, а вот это циф­ро­мо­ло­тил­ки не умеют.

Потом его за­пу­стят в огра­ни­чен­ном режиме, в услов­ном Перм­ском крае. Баги, де­баг­гинг, новый релиз и в про­дакшн?

Но рано или поздно крас­ную лен­точ­ку раз­ре­жут и вклю­чат управ­ле­ние машины людьми на полную мощь (держа руку на ру­биль­ни­ке).



И знаете, что про­изой­дет? Искин пре­кра­тит все тран­зак­ции вообще. Логика «если-то» столк­нет­ся с мил­ли­о­на­ми ре­гу­ля­тор­ных норм в ак­ту­аль­ном за­ко­но­да­тель­стве, ко­то­рые про­ти­во­ре­чат друг другу де­сят­ки тысяч раз. Финита. У нас поезда оста­но­вят­ся, платеж за банку сайры в су­пер­мар­ке­те не прой­дет. Все немед­лен­но будут об­ви­не­ны в куче пра­во­на­ру­ше­ний и пре­ступ­ле­ний, ко­то­рые могли бы быть на­прав­ле­ны в органы, но все люди в ор­га­нах будут под­ле­жать немед­лен­но­му уволь­не­нию и суду. Ре­ше­ния суда искин выдаст тут же. Биг дата, про вас за­пи­са­но всё. Ладно, это мелочи. Но вот пе­ре­ве­сти зар­пла­ту вам тоже не смогут, ведь кон­то­ра за­дол­жа­ла на­ло­гов, да и на вас штра­фов вагон.

Пре­уве­ли­чи­ваю? Неа. Первый запуск (с рукой на ру­биль­ни­ке) будет под­кон­троль­ным, ис­пы­та­ние два, ис­пы­та­ние два­дцать два… И од­на­ж­ды его вклю­чат на полную, как про­шед­ше­го полный цикл тестов. И вот тогда… А чи­нов­ни­ков мы уже уволим, спа­сать си­ту­а­цию будут доб­ро­воль­цы.

Можно ли из­бе­жать таких пе­чаль­ных по­след­ствий? - Без­услов­но, по­пы­тать­ся можно. Для этого сле­ду­ет сде­лать ряд вещей. Уни­что­жить 99% за­ко­но­да­тель­ства, пе­ре­ра­бо­тав осталь­ной 1%, не вылив ре­бен­ка с водой. (Такие штуки обычно уда­ет­ся сде­лать после пол­но­цен­ной ре­во­лю­ции с пол­но­цен­ной граж­дан­ской войной. Как это сде­лать в мирное время - я не пред­став­ляю.) Кроме того, сле­ду­ет пе­ре­ра­бо­тать мораль. В плане того, что украсть из офиса пачку бумаги (или из­ме­нить жене) - либо вполне до­пу­сти­мо (от­ра­зив в законе), либо вполне влечет за собой срок. Эту мораль надо пе­ре­де­лать в го­ло­вах об­ще­ства. Иначе оно начнет об­ре­зать оп­ти­че­ские кабели, что дешево, просто и эф­фек­тив­но против искина. Еще ва­ри­ант - под­ки­нуть этот искин ве­ро­ят­но­му парт­не­ру, пусть он сам себе руки режет. И, ко­неч­но, верхи должны не стать неспоб­ны­ми. Ежели они неспо­соб­ны, то они это при­ме­нят в ка­че­стве по­след­не­го шанса.

Я не пы­та­юсь вас убе­дить в том, что нужно раз­би­вать ком­пью­те­ры. Мы никуда не уйдем от искина. Он нас на­стиг­нет, нам при­дет­ся всту­пить с ним бой. Да­вай­те, по­про­бу­ем осмыс­лить, с чем (с кем) нам в бой пред­сто­ит всту­пить нашей судь­бой.

Источник

Цифровизация или автоматизация? Революция или модернизация старого под упаковкой нового?

Click to view

Геостратег: Кризис "Цифровизация с человеческим лицом". Итоги.

Click to view

Более подробную и разнообразную информацию о событиях, происходящих в России, на Украине и в других странах нашей прекрасной планеты, можно получить на Интернет-Конференциях, постоянно проводящихся на сайте «Ключи познания». Все Конференции - открытые и совершенно безплатные. Приглашаем всех просыпающихся и интересующихся…

Рубрики: | Власть паразитов | Что делать? | Наша действительность
Постоянный адрес статьи: http://xn--b1amnebsh.ru-an.info/новости/настоящее-дело-для-искусственного-интеллекта-это-управление-людьми/