Блог Александра Бурлаки

Речь про вот это творение "Дискавери".

       Вроде бы Мичио Каку не дурак и "Дискавери" - не  "Рен-ТВ", а фильм уровня, что и Голливудские режиссёры постеснялись бы снимать. Искусственный интеллект, впервые выбравшийся в сеть начинает мелко хулиганить, роняя биржи и аэробусы. Компьютер обижается на кучку придурков, пишущих на стенах "нет компьютерам" и жестоко убивает их, использовав взломанные военные дроны. Храбрые партизаны, которые ухитряются в полностью компьютеризированном мире от этого ИИ прятаться...
       Кто мне объяснит, зачем сверхразумному интеллекту развязывать мировую войну против не сильно дружелюбного к нему человечества? Он что, немытый исламский фундаменталист? Или обиженный русский сталинозадрот? Зачем заморачиваться с дронами и танками существу, изначально живущему в информационной среде? Выступление по телевиденью - не, не слышали. Даже и взламывать телестудии не нужно. Они сами друг-другу горло перегрызут за право взять интервью.
        Более того, телевиденье - прошлый век. Желающий мирового господства компьютер будет постить в фейсбуке и твиттере и его посты будут собирать миллионы лайков. Нужно только немного грамотного пиара и знания психологии. ИИ даже не нужно притворяться человеком из плоти и крови.
        Дроны защищают компьютер? А люди, убивающие людей ради компьютера, не хотите ли? Вы себе представляете, какое колличество людей с радостью примут правление машины, даже если оно будет заключаться в просто "Я теперь главный"? Ну и вирус, разработанный недобитыми фрилансерами в грязном подвале тоже остаётся на совести "Дискавери". Я даже не буду касаться вопроса, кто лучше кодит: человек или машина. Я просто напомнью, что ИИ, не умеющий быстро и эффективно спасаться от вирусов проживёт в сети считанные минуты.
        Ну, про то, что такому ИИ первым делом стоит породить несколько копий со значительно отличающимся алгоритмом я уже молчу. С этой мыслью может справиться только сверхразум.

     Извините, не про политику.     
     Чем больше я узнаю про устройство человеческого разума, тем больше мне становится очевидно, что главное препятствие на пути к созданию искусственного интеллекта сравнимого по уровню с человеком - это не недостаток вычислительных мощностей и не незнание того, как в точности работает человеческое сознание. Главная причина - люди не захотят создавать чего-то, что потом признают разумным.
     В конечном ведь итоге не имеет значения, имеет ли конкретная система сомосознание или нет. Важно то, воспринимают ли её таковой люди. Можно, конечно, привести здесь старую байку про то, что "зачем создавать человекоподобного бота, если вокруг полно ботоподобных людей". Более современный вид  её выглядит так: если человеку сказать, что из десяти комментариев в его ЖЖ по статистике один принадлежит боту, он тут же найдёт, какой именно. Парадоксально, но причина этого - привязанность человека к устной речи и визуальному контакту. Поэтому такая вроде бы к сознанию не имеющая отношения вещь как генератор речи может оказаться принципиальной при определении степени разумности машины.
     Лично я являюсь сторонником теории, что человеческое сознание - это всего лишь модифицированная "теория ума". То есть люди сначала научились понимать, как думает другой человек, а потом уже - что каждую секунду думают они сами. Я не спорю, что личность - это куда более сложная совокупность процессов в мозговой нейросети. Только вот никакого сонования считать, что самосознание присутствует в каком-то из них нет никаких оснований. Сознание - это просто умение понимать самого себя.
      И такое положение дел делает создание ИИ с одной стороны достаточно несложной задачей, а с другой проблема "сознаёт себя машина или просто иммитирует" становится очень сложной. С одной стороны, такая машина действительно сможет демонстрировать реакции, которые  у человека мы однозначно трактуем как признак сознания. С другой стороны, мы не сможем сказать, чем  такая машина  отличается от обычной ОС, постоянно сканирующей свои файлы на предмет неполадок. Ну ещё ей нужно какую-то систему ценностей дать. Только вот отличается ли принципиально от такой системы человеческое сознание?
       Что, если мы, в основе своей, устроены гораздо проще, чем думаем о себе? Только не надо мне рассказывать о крушении смысла жизни, морали и человеческого общества. Если коротко: этот факт ни на  грамм не делает мудака меньшим мудаком. Но вот нужно ли считать на этом основании разумной смоделированную на суперкомпьютере нейросеть? С одной стороны, если оно говорит, что разумно и  всячески старается это продемонстрировать при общении, то однозначный отказ его таким признавать, вызывает вопросы с точки зрения морали. С другой стороны, как выглядит точное доказательство разумности не знает никто. В конечной итоге всё сведётся к тому, что важные и известные члены комиссии при личном общении будут решать "нравится мне этот парень (прошу прощение за сексизм" или "эта тупая железяка просто повторяет то, что в неё запрограммировали".
       Как ни банально звучит, но аналогия с чернокожими прямая. "Равен ли  чёрный человек человеку белому в своей человечности" - вполне нормальная постановка вопроса в обществе 19 века. Только вот негр (прошу прощение за слово) всё же имеет две руки, две ноги, голову и, иногда, яйца или сиськи. И языком разговаривает. И детей с белым человеком делать может.  Так что доказать, что он такой же человек, как и ты, несложно. Всего этого нет у программы и с ней всё гораздо сложнее.
        И вообще нужно задаться вопросом: а для чего нам ИИ. "Универсальный помощник"? Так для этого ему быть личностью не обязательно. Достаточно быть "смышлёной, но тупой железякой". И уж точно в таком случае лучше иметь возможность отключить у такой машины способность жаловаться на свои неполадки. Что бы не мешала людям, которые погружены в свои проблемы. А если машина вдруг начала хотеть, что бы к ней относились как к человеку, то это чья-то дурацкая шутка, афёра или заговор американцев, китайцев или жидомасонов.

    Мысли навеянные вот этим постом Медведева.
    Итак, представьте себе дорогой боевик со следующим сюжетом:
    Главный герой живёт обычной жизнью, пока однажды на экране своего ноутбука не видит надпись:
    ЖЫДЫ ИМЕЮТ ТЕБЯ
   
( Read more... )

            Прочитал интервью Виктора Аргонова здесь. Задумался над прочитанным. Дальше, собственно идут мои мысли, не являющиеся научной статьёй, поскольку не основываются на на необходимой фактической базе.
            Прежде всего, интересен предложеный новый эксперимент: оценка не интеллекта, а сознания. Как собственно это делается (как я понял из статьи) Компьютер кормят информацией, не содержащей философских суждений и наблюдают, сможет ли он  в процессе переработки информации выдать в качестве ответа философские (или, хотя бы личные) суждения. Но вопрос в том, что считать сознательными суждениями. Является ли таким суждением "причинять боль человеку - плохо"? "А причинять вред - плохо"? А "если ударить человека - это причинит ему боль"? Совершенно ясно, что  первые два утверждения являются искомым суждением, а третье - нет. Но в чём разница? Первые два утверждения содержат оценку, а третье - нет. А что бы дать такую оценку необхадима шкала ценностей: что-то хорошо, а что то плохо. У современного человека основным источником таких ценностей как раз и является та информация, которую в тесте Аргонова от компьютера тщательно скрывается. Врождёнными у человека являются самые базовые ценности. Даже понятие "я" в значительной степени приобретённое.  Но это не значит, что эта  шкала непонятно откуда взялась. Она развилась вместе с человеческим обществом и основу её стоит искать где-то далеко в прошлом. Точно задолго  до появления самого сознания, а, может быть, и раньше самого семейства гоминид.  Собственно, шкала ценностей, основывается на очень простой и совсем не связанной с когнетивными процессами вещи. На животной реакции "больно-нейтрально-хорошо". Впрочем "хорошо" даже излишне. В природе всё развивалось именно из "больно-небольно". А это уже чистая физиология.  Вопрос в том только, нужно ли вкладывать эти понятия в машину. Если их вложить, то машина при наличии достаточного времени и возможности для эксперимента, расчётов и наблюдений почти наверняка придёт к  сознанию. Ей конечно придётся проделать путь, на который у органической жизни ушли миллионы лет, но пройдёт она его очень быстро. Если таких установок нет, то скорее всего, на выходе мы получим АСГУ из "2032". Собственно вся суть АСГУ раскрыта в композиции "Узел": когда предоставляется возможность рискнуть миллионами, а то и миллиардами человеческих жизней ради окончательной победы АСГУ совершенно не колеблется, тем более, что в неё заложены положения о высшем значении победы коммунизма. Она непризнаёт этих принципов, но всё равно не собирается от этого отказываться, потому, что не видит в этом причины. Миленевский же, который в эти принципы ВЕРИТ впадает в сомнения именно потому, что его вера вступает в фундаментальное противоречие с понятием о ценности человеческой жизни. Он просто знает, что умирать - больно. Это абсолютно понятно и собаке и амёбе. А АСГУ - нет. " А в вашем смысле я всегда была мертва...", "не может бесценным быть то, что конечно: ни радость, ни боль, ни вся жизнь на Земле..." При этом абсолютно адекватный, нормально реагирующий на окружающий мир интеллект... Вот только себя она не ощущает, точнее не віделяет "я" из других категорий. Нет установки на абсолютную ценность этого кусочка мироздания. Сознания нет.
Но вернёмся к  тесту. Понятно, что, в нём интересны не примитивные реакции "хорошо-плохо", а сложные логические конструкции, ну хотя бы "Если звёзды зажигают, значит это кому-нибудь нужно", Ну, или "Религия - опиум для народа". Но дело в том, что эти соображения далеко не все осознаются человеком самостоятельно. Нет, человек, по крайней мере теоретически, способен прийти к этому самостоятельно, но научение - гораздо боле эффективный способ. В реальности на выработку всего того, из чего состоит самосознание современного человека ушли десятки и сотни поколений. Самый сркий пример - "маугли": человек лишённый в процессе развития "подпитки" остаётся зверем. Стоит ли считать обладающими сознанием "маугли" с точки зрения теста Аргонова? А младенца? А умственно отсталого? Осознают ли они своё "я"? А могут ли они это осмыслить? Нет, я не против теста, но, просто он не даёт однозначных ответов.