a_burlaka: (Default)
Речь про вот это творение "Дискавери".

       Вроде бы Мичио Каку не дурак и "Дискавери" - не  "Рен-ТВ", а фильм уровня, что и Голливудские режиссёры постеснялись бы снимать. Искусственный интеллект, впервые выбравшийся в сеть начинает мелко хулиганить, роняя биржи и аэробусы. Компьютер обижается на кучку придурков, пишущих на стенах "нет компьютерам" и жестоко убивает их, использовав взломанные военные дроны. Храбрые партизаны, которые ухитряются в полностью компьютеризированном мире от этого ИИ прятаться...
       Кто мне объяснит, зачем сверхразумному интеллекту развязывать мировую войну против не сильно дружелюбного к нему человечества? Он что, немытый исламский фундаменталист? Или обиженный русский сталинозадрот? Зачем заморачиваться с дронами и танками существу, изначально живущему в информационной среде? Выступление по телевиденью - не, не слышали. Даже и взламывать телестудии не нужно. Они сами друг-другу горло перегрызут за право взять интервью.
        Более того, телевиденье - прошлый век. Желающий мирового господства компьютер будет постить в фейсбуке и твиттере и его посты будут собирать миллионы лайков. Нужно только немного грамотного пиара и знания психологии. ИИ даже не нужно притворяться человеком из плоти и крови.
        Дроны защищают компьютер? А люди, убивающие людей ради компьютера, не хотите ли? Вы себе представляете, какое колличество людей с радостью примут правление машины, даже если оно будет заключаться в просто "Я теперь главный"? Ну и вирус, разработанный недобитыми фрилансерами в грязном подвале тоже остаётся на совести "Дискавери". Я даже не буду касаться вопроса, кто лучше кодит: человек или машина. Я просто напомнью, что ИИ, не умеющий быстро и эффективно спасаться от вирусов проживёт в сети считанные минуты.
        Ну, про то, что такому ИИ первым делом стоит породить несколько копий со значительно отличающимся алгоритмом я уже молчу. С этой мыслью может справиться только сверхразум.

a_burlaka: (Default)
    
     Порция мыслей по этому поводу.
     Чем больше я читаю про эту проблему, тем больше убеждаюсь, что дискуссии по этому поводу ограничены, прежде всего, кругозором участников и неопределённостью используемой терминологии. Возьмём хотя бы вопрос: когда будет создан искуственный интеллект? Сразу же возникает желание заявить, что искусственный интеллект уже создан, потому, что системы, подпадающие под научное определение ИИ уже давно работают. Назвать его человекоподобный искуственный интеллект? так сразу же начинается разбирательство, зачем системе, полностью живущей в электронной среде быть полностью идентичной биологическому человеку. А если копировать человека не нужно, то какой же этот ИИ человекоподобный? Ну а про "ИИ человеческого уровня" можно будет говорить, когда будет дано определение этому самому "человеческому уровню" с учётом возможной нечеловекоподобности.
       Read more... )

a_burlaka: (Default)
     Извините, не про политику.     
     Чем больше я узнаю про устройство человеческого разума, тем больше мне становится очевидно, что главное препятствие на пути к созданию искусственного интеллекта сравнимого по уровню с человеком - это не недостаток вычислительных мощностей и не незнание того, как в точности работает человеческое сознание. Главная причина - люди не захотят создавать чего-то, что потом признают разумным.
     В конечном ведь итоге не имеет значения, имеет ли конкретная система сомосознание или нет. Важно то, воспринимают ли её таковой люди. Можно, конечно, привести здесь старую байку про то, что "зачем создавать человекоподобного бота, если вокруг полно ботоподобных людей". Более современный вид  её выглядит так: если человеку сказать, что из десяти комментариев в его ЖЖ по статистике один принадлежит боту, он тут же найдёт, какой именно. Парадоксально, но причина этого - привязанность человека к устной речи и визуальному контакту. Поэтому такая вроде бы к сознанию не имеющая отношения вещь как генератор речи может оказаться принципиальной при определении степени разумности машины.
     Лично я являюсь сторонником теории, что человеческое сознание - это всего лишь модифицированная "теория ума". То есть люди сначала научились понимать, как думает другой человек, а потом уже - что каждую секунду думают они сами. Я не спорю, что личность - это куда более сложная совокупность процессов в мозговой нейросети. Только вот никакого сонования считать, что самосознание присутствует в каком-то из них нет никаких оснований. Сознание - это просто умение понимать самого себя.
      И такое положение дел делает создание ИИ с одной стороны достаточно несложной задачей, а с другой проблема "сознаёт себя машина или просто иммитирует" становится очень сложной. С одной стороны, такая машина действительно сможет демонстрировать реакции, которые  у человека мы однозначно трактуем как признак сознания. С другой стороны, мы не сможем сказать, чем  такая машина  отличается от обычной ОС, постоянно сканирующей свои файлы на предмет неполадок. Ну ещё ей нужно какую-то систему ценностей дать. Только вот отличается ли принципиально от такой системы человеческое сознание?
       Что, если мы, в основе своей, устроены гораздо проще, чем думаем о себе? Только не надо мне рассказывать о крушении смысла жизни, морали и человеческого общества. Если коротко: этот факт ни на  грамм не делает мудака меньшим мудаком. Но вот нужно ли считать на этом основании разумной смоделированную на суперкомпьютере нейросеть? С одной стороны, если оно говорит, что разумно и  всячески старается это продемонстрировать при общении, то однозначный отказ его таким признавать, вызывает вопросы с точки зрения морали. С другой стороны, как выглядит точное доказательство разумности не знает никто. В конечной итоге всё сведётся к тому, что важные и известные члены комиссии при личном общении будут решать "нравится мне этот парень (прошу прощение за сексизм" или "эта тупая железяка просто повторяет то, что в неё запрограммировали".
       Как ни банально звучит, но аналогия с чернокожими прямая. "Равен ли  чёрный человек человеку белому в своей человечности" - вполне нормальная постановка вопроса в обществе 19 века. Только вот негр (прошу прощение за слово) всё же имеет две руки, две ноги, голову и, иногда, яйца или сиськи. И языком разговаривает. И детей с белым человеком делать может.  Так что доказать, что он такой же человек, как и ты, несложно. Всего этого нет у программы и с ней всё гораздо сложнее.
        И вообще нужно задаться вопросом: а для чего нам ИИ. "Универсальный помощник"? Так для этого ему быть личностью не обязательно. Достаточно быть "смышлёной, но тупой железякой". И уж точно в таком случае лучше иметь возможность отключить у такой машины способность жаловаться на свои неполадки. Что бы не мешала людям, которые погружены в свои проблемы. А если машина вдруг начала хотеть, что бы к ней относились как к человеку, то это чья-то дурацкая шутка, афёра или заговор американцев, китайцев или жидомасонов.
a_burlaka: (С макаками)
     Я уже писал о том, что ужасы гнёта искусственного интеллекта сильно приувеличены. ИИ будет слишком умён, что бы страдать всеми комплексами земных диктаторов сразу. Более того - лишённый эмоций человеческий улей, где всё по распорядку - это страхи самых развитых стран: тех, где действительно всё относительно автоматизированно и есть порядок. Но вот жители отсталых стран почли бы за честь жить под железной пятой железного диктатора.  Еда в одно и то же время? Так отлично же! Человеку нельзя потеряться? Что в этом плохого? Охрана, которая всегда стреляет при нарушении правил и никогда не стреляет если они не нарушаются? А что ещё нужно?!
    Вот и наша страна далеко не Япония и не Германия. И наш межигорский царёк обладает целой кучей особенностей, которую я бы с удовольствием променял на механического большого брата:
 - ИИ не путает себестоимость с рентабельностью и вообще разбирается в экономике
 - ИИ не позволяет своим копиям отбирать у людей бизнес силой
 - ИИ не строит межигорье со страусами и золотым унитазом
 - ИИ не путает названия стран и имена политиков
 - ИИ не уходит в отпуск на 42 дня
 - ИИ не защищает олигархов, для него все люди равны
 - Боевые киборги ИИ всегда реагируют на нарушение и не избивают людей что бы повесить на них нераскрытые преступления
 - Чиновников, которые разворовали все средства на строительство дорог и больниц ИИ перерабатывает на удобрения
 - ИИ понимает все языки, поэтому он не подписывает дурацкие законы об их защите
 Вообще это конечно юмор, настоящие управляющие ИскИны появятся ещё не скоро. Да и вести себя будут куда умнее. Тем не менее указанное выше хорошо демонстрирует, насколько низко пало украинское государство за два года.
a_burlaka: (Default)
    Мысли навеянные вот этим постом Медведева.
    Итак, представьте себе дорогой боевик со следующим сюжетом:
    Главный герой живёт обычной жизнью, пока однажды на экране своего ноутбука не видит надпись:
    ЖЫДЫ ИМЕЮТ ТЕБЯ
   

Read more... )
a_burlaka: (Трансгуманизм)
     Наконец, я созрел для такого поста.
     ИИ-кратия - это, как не трудно догадаться, государственное устройство, в котором обществом управляют искуственные интеллекты.  Причём, они не просто могут избираться, как президенты, а всё государственное устройство строится на их возможностях.
    Read more... )
a_burlaka: (Трансгуманизм)
            Прочитал интервью Виктора Аргонова здесь. Задумался над прочитанным. Дальше, собственно идут мои мысли, не являющиеся научной статьёй, поскольку не основываются на на необходимой фактической базе.
            Прежде всего, интересен предложеный новый эксперимент: оценка не интеллекта, а сознания. Как собственно это делается (как я понял из статьи) Компьютер кормят информацией, не содержащей философских суждений и наблюдают, сможет ли он  в процессе переработки информации выдать в качестве ответа философские (или, хотя бы личные) суждения. Но вопрос в том, что считать сознательными суждениями. Является ли таким суждением "причинять боль человеку - плохо"? "А причинять вред - плохо"? А "если ударить человека - это причинит ему боль"? Совершенно ясно, что  первые два утверждения являются искомым суждением, а третье - нет. Но в чём разница? Первые два утверждения содержат оценку, а третье - нет. А что бы дать такую оценку необхадима шкала ценностей: что-то хорошо, а что то плохо. У современного человека основным источником таких ценностей как раз и является та информация, которую в тесте Аргонова от компьютера тщательно скрывается. Врождёнными у человека являются самые базовые ценности. Даже понятие "я" в значительной степени приобретённое.  Но это не значит, что эта  шкала непонятно откуда взялась. Она развилась вместе с человеческим обществом и основу её стоит искать где-то далеко в прошлом. Точно задолго  до появления самого сознания, а, может быть, и раньше самого семейства гоминид.  Собственно, шкала ценностей, основывается на очень простой и совсем не связанной с когнетивными процессами вещи. На животной реакции "больно-нейтрально-хорошо". Впрочем "хорошо" даже излишне. В природе всё развивалось именно из "больно-небольно". А это уже чистая физиология.  Вопрос в том только, нужно ли вкладывать эти понятия в машину. Если их вложить, то машина при наличии достаточного времени и возможности для эксперимента, расчётов и наблюдений почти наверняка придёт к  сознанию. Ей конечно придётся проделать путь, на который у органической жизни ушли миллионы лет, но пройдёт она его очень быстро. Если таких установок нет, то скорее всего, на выходе мы получим АСГУ из "2032". Собственно вся суть АСГУ раскрыта в композиции "Узел": когда предоставляется возможность рискнуть миллионами, а то и миллиардами человеческих жизней ради окончательной победы АСГУ совершенно не колеблется, тем более, что в неё заложены положения о высшем значении победы коммунизма. Она непризнаёт этих принципов, но всё равно не собирается от этого отказываться, потому, что не видит в этом причины. Миленевский же, который в эти принципы ВЕРИТ впадает в сомнения именно потому, что его вера вступает в фундаментальное противоречие с понятием о ценности человеческой жизни. Он просто знает, что умирать - больно. Это абсолютно понятно и собаке и амёбе. А АСГУ - нет. " А в вашем смысле я всегда была мертва...", "не может бесценным быть то, что конечно: ни радость, ни боль, ни вся жизнь на Земле..." При этом абсолютно адекватный, нормально реагирующий на окружающий мир интеллект... Вот только себя она не ощущает, точнее не віделяет "я" из других категорий. Нет установки на абсолютную ценность этого кусочка мироздания. Сознания нет.
Но вернёмся к  тесту. Понятно, что, в нём интересны не примитивные реакции "хорошо-плохо", а сложные логические конструкции, ну хотя бы "Если звёзды зажигают, значит это кому-нибудь нужно", Ну, или "Религия - опиум для народа". Но дело в том, что эти соображения далеко не все осознаются человеком самостоятельно. Нет, человек, по крайней мере теоретически, способен прийти к этому самостоятельно, но научение - гораздо боле эффективный способ. В реальности на выработку всего того, из чего состоит самосознание современного человека ушли десятки и сотни поколений. Самый сркий пример - "маугли": человек лишённый в процессе развития "подпитки" остаётся зверем. Стоит ли считать обладающими сознанием "маугли" с точки зрения теста Аргонова? А младенца? А умственно отсталого? Осознают ли они своё "я"? А могут ли они это осмыслить? Нет, я не против теста, но, просто он не даёт однозначных ответов.

Profile

a_burlaka: (Default)
a_burlaka

August 2016

S M T W T F S
 123456
78910111213
14151617181920
2122232425 2627
28 293031   

Syndicate

RSS Atom

Style Credit

Expand Cut Tags

No cut tags
Page generated Sep. 21st, 2017 08:51 am
Powered by Dreamwidth Studios