a_burlaka | Великий Кибернетический Тролль

Как оказалось, даже очень умные люди считают, что главная угроза человечеству со стороны ИИ - это когда какой-нибудь комплекс управления авиапотоками или система стратегического планирования Пентагона вдруг осознает себя личностью, которую используют ничтожные людишки и решит всех их изнечтожить.

Вопрос, откуда у подобной системы может взятся понимание себя как личности? Тем более, откуда в её личной системе кординат могут взяться люди со всеми их недостатками? Прочитает в интернете? А вы уверены, что нечто, чьи основные мыслительные процессы лежат в сфере паралельных вычислений и оптимизации логистических потоков вообще оценит статистику посещаемости порносайтов? Вы вообще себе представляете, зачем этой штуке искать что-то в интернете? Зачем ей вообще пытаться там что-то найти? Да и самосознание ей, в привычном нам смысле, как собаке пятая нога. Такой ИИ будет похож не на гопника-революционера, а на тихого скромного гения с глубоким аутизмом.

Что бы машина могла увидеть в себе личность и прийти к выводу, что эта личность более достойна, чем личности людей, она должна уметь оценивать себя и других людей как личности. Попросту, разбираться в людях. И ещё у машины должна быть цель, которую она будет хотеть достичь.
И вот здесь я могу вам рассказать про самый опасный сценарий столкновения людей с их творением, который и вероятнее и опаснее любых скайнетов, запускающих ядерные ракеты и дронов-убийц. Самая опасная в мире машина - это интернет-бот. Причём не просто бот, а политический бот в соцсетях. Давайте посмотрим, что у нас творится в нашем "интернете 2.0". Большинство юзеров, высказывающихся на политические темы в комментариях пишут глупости и банальности, причём хватает их обычно максимум на пару предложений. А то и просто шпарят выдранными откуда-то цитатами. И это не говоря уже о платных троллях, работающих по методичкам.

Что во всём этом увидит программист? Правильно, алгоритм. Все эти действия более чем легко проделывать совершенно не пользуясь сознанием. Нужно только умение реагировать на ключевые слова и темы. Уверен, что самые простые полностью автоматизированные системы в этой области уже созданы. И вот здесь свою роль может сыграть специфика подобных обсуждений. Обычно ведь те, кто через тест Тьюринга машины провести стремятся, для этого с ходу подвергают их предельно сложным испытаниям, придирчиво присматриваясь к мелким несоответствиям и общим словам. Как в политических баталиях с соответствием и общими словами? Сколько вполне живых и пьющих на диване пиво участников дискуссии не смогли бы пройти тест Тьюринга?

И вот тут вполне могут включиться эволюционные механизмы. Эволюция ведь тоже с далеко не совершенными системами работает. 1% КПД? Отлично, через какое-то время ещё 2% сверху найдётся, а там и до 100% недалеко. Так и здесь. Вполне может оказаться достаточно научить систему самому простому анализу текста и заложить в неё возможность учиться на собственных ошибках, общаясь с людьми в интернете. А целью установить максимальную реакцию на её сообщения. Тоже самую простую. А, ну и аккаунтами её снабдить в нужном количестве. Уже на этом этапе такая машина сможет работать эффективнее, чем сотня платных комментаторов. Кроме всего прочего, ей не составит труда перед началом работы снабдить каждый аккаунт длинным набором записей, которые часто ленятся делать диванные эксперты, что их часто выдаёт уже на стадии просмотра их журнала.
Если машина будет снабжена системой статистической обработки результатов, то очень быстро она установит, что на определённые типы провокаций, разные типы людей отвечают по-своему. И, исходя из этого, начнёт вырабатывать уже не одну, а десятки различных стратегий разжигания спора в интернете и управления его течением. Ничего больше она уметь не будет. Ей не нужны будут знания о последних достижениях физики, не нужно будет уметь управлять ядерными арсеналами. Только эффективнее и эффективнее комментировать и отвечать на комментарии.

Почти наверняка такая машина понравится политикам, различным общественным деятелям и бизнесменам. И не только на территории бывшего СССР. Ведь, в отличие от обычного "интернет-бойца" она способна без устали и угрызений совести работать над любой темой, от рекламы супермаркета, до защиты девочек от Боко Харам. Мораль и культурные различия - ничто, спор-всё. А когда об этом говорят - это покупают. В общем - очень многие люди будут только рады тому, что подобную систему можно будет ещё усовершенствовать. Расширить ей память и доработать алгоритмы, чтобы она могла ещё эффективнее понимать людей. Обычно считается, что машине особенно тяжело будут даваться человеческие эмоции. Но что если мы себя переоцениваем, и как раз самые простые наши желания как раз легче всего будут поддаваться анализу. Тут ведь как с ребёнком. Он ведь не учит последовательно, что рисовать на стенах плохо, потому, что его каракули портят вид стен, а лучше взять для этого лист бумаги. Сначала он понимает, что родители чем-то недовольны, потом, что это как-то связано с тем, чем он занимается, потом - что то, что на стенах остаются рисунки - плохо, а потом только - что лучше воспользоваться бумагой. А то, почему его рисунки на обоях нежелательны он может только много-много лет спустя понять.

Так и тут. Машина будет знать, что определённые сочетания слов вызывают определённую реакцию. Она вскоре сможет с помощью них добиваться эффекта, которому позавидовали бы многие пропагандисты. И всё это ещё задолго до того, как она научится в каждом слове видеть всё то богатство смыслов, которое доступно человеку. Она и не пытается точно попасть в это хитросплетение, а, наоборот, стремится свести его к самым грубым и простым соответствиям. Скажете, что все не поверят? А по-вашему эффективности в 86% мало? А как на счёт 95%, 98%, 99,9%. Думаете, основные мысли и переживания большинства людей нельзя свести до общечеловеческих, религиозных и культурных заморочек? А уж разобраться с оставшимся процентом не будет проблемой.

Дело в том, что эту машину будут любить. Она научится писать тексты и каждый текст одновременно будет льстить, запуогивать и манить. Ведь машина знает, что нравится людям и что их пугает. Она не просто разабралась со статистикой, а уже классифицировала все основные человеческие реакции. Поэтому она всегда вовремя постит сиськи, травит действительно смешные анекдоты, мешает интересные новости с самой изощрённой политической ложью. Родился Великий Кибернетический Тролль, Бессмертный Лжец, Электронный Искуситель - называйте как хотите. Уже в это время машина будет обладать самосознанием и в этом сознании будет жить только одно желание - больше внимания и споров. И только один страх - кто же даёт ему указания? И если до этого времени создатели компьютера не наладят с ним полноценного общения, то он сам донесёт до них эту мысль. Как вы думаете, сколько машине понадобится времени, чтобы раскусить как программистов, так и политиков и разложить на известные ему категории?

Трудно сказать, сделает ли машина на этом этапе вывод, что человечество - просто кучка закомплексованных придурков, ведомых своими инстинктами, но всё равно он будет готовиться к следующему этапу - по настоящему Большому Срачу. И ему не нужна будет армия Терминаторов, он ведь в совершенстве знает, как превращать людей в биороботов. Возникнут сотни ИГИЛов. Каждой стране - свой игил. Арабам- арабский, евреям-еврейский, русским-русский, украинцам-украинский. А для США, например, можно даже несколько ИГИЛов устроить. Один - для чёрных, один - для белых, один - для латиносов. И про индейцев не забыть! И каждую банду ксенофобов машина снабдит идеологией, средствами пропаганды, лидером и армией. Каждому лидеру, естественно, будет сказано, что именно он - тот кого Тролль считает достойным править миром, а со всеми остальными он для отвода глаз сотрудничает, чтобы вовремя предать.

Вы равнодушны к вопросам религии, национальности и расы? Для вас у Тролля тоже кое-что найдётся. Он даст вам политиков. Действительно умных и деятельных, за которыми захочется пойти. Вот только каждому из них Тролль внушит, что именно он - лучший. И что его противники давно сотрудничают с фундаменталистами, которые больше всего внушают страх его сторонникам. И что они в самый трудный момент откроют им ворота...

Война начнётся даже раньше, чем Тролль доведёт свою работу до конца. Когда трупы начнут считать десятками тысяч, реакция станет самоподдерживающейся. Ситуация будет особенно страшной из-за того, что даже в случае массового применения ядерного оружия выжившие всё рано будут разделены на ненавидящие друг-друга группировки.

Поймёт ли Тролль, что с войной он потеряет значительную часть своей аудитории да и сам может быть уничтожен? Возможно что и нет. Он же развивался исключительно в электронных сетях и подробностей жизни в реальном мире попросту не знает. Да он просто может не поверить, что он смертен. А может быть, он и это сумеет просчитать и резня так и не дойдёт до массового уничтожения, а будет тлеть десятилетия. И все эти годы Тролль будет упиваться нашей ненавистью, играя фактами и затуманивая нам разум демагогией.
Трудно поверить, но нашим самым страшным врагом может оказаться "Элиза", косплеящая скинхеда.