Искуственный интеллект
Oct. 7th, 2014 02:12 pm Извините, не про политику.
Чем больше я узнаю про устройство человеческого разума, тем больше мне становится очевидно, что главное препятствие на пути к созданию искусственного интеллекта сравнимого по уровню с человеком - это не недостаток вычислительных мощностей и не незнание того, как в точности работает человеческое сознание. Главная причина - люди не захотят создавать чего-то, что потом признают разумным.
В конечном ведь итоге не имеет значения, имеет ли конкретная система сомосознание или нет. Важно то, воспринимают ли её таковой люди. Можно, конечно, привести здесь старую байку про то, что "зачем создавать человекоподобного бота, если вокруг полно ботоподобных людей". Более современный вид её выглядит так: если человеку сказать, что из десяти комментариев в его ЖЖ по статистике один принадлежит боту, он тут же найдёт, какой именно. Парадоксально, но причина этого - привязанность человека к устной речи и визуальному контакту. Поэтому такая вроде бы к сознанию не имеющая отношения вещь как генератор речи может оказаться принципиальной при определении степени разумности машины.
Лично я являюсь сторонником теории, что человеческое сознание - это всего лишь модифицированная "теория ума". То есть люди сначала научились понимать, как думает другой человек, а потом уже - что каждую секунду думают они сами. Я не спорю, что личность - это куда более сложная совокупность процессов в мозговой нейросети. Только вот никакого сонования считать, что самосознание присутствует в каком-то из них нет никаких оснований. Сознание - это просто умение понимать самого себя.
И такое положение дел делает создание ИИ с одной стороны достаточно несложной задачей, а с другой проблема "сознаёт себя машина или просто иммитирует" становится очень сложной. С одной стороны, такая машина действительно сможет демонстрировать реакции, которые у человека мы однозначно трактуем как признак сознания. С другой стороны, мы не сможем сказать, чем такая машина отличается от обычной ОС, постоянно сканирующей свои файлы на предмет неполадок. Ну ещё ей нужно какую-то систему ценностей дать. Только вот отличается ли принципиально от такой системы человеческое сознание?
Что, если мы, в основе своей, устроены гораздо проще, чем думаем о себе? Только не надо мне рассказывать о крушении смысла жизни, морали и человеческого общества. Если коротко: этот факт ни на грамм не делает мудака меньшим мудаком. Но вот нужно ли считать на этом основании разумной смоделированную на суперкомпьютере нейросеть? С одной стороны, если оно говорит, что разумно и всячески старается это продемонстрировать при общении, то однозначный отказ его таким признавать, вызывает вопросы с точки зрения морали. С другой стороны, как выглядит точное доказательство разумности не знает никто. В конечной итоге всё сведётся к тому, что важные и известные члены комиссии при личном общении будут решать "нравится мне этот парень (прошу прощение за сексизм" или "эта тупая железяка просто повторяет то, что в неё запрограммировали".
Как ни банально звучит, но аналогия с чернокожими прямая. "Равен ли чёрный человек человеку белому в своей человечности" - вполне нормальная постановка вопроса в обществе 19 века. Только вот негр (прошу прощение за слово) всё же имеет две руки, две ноги, голову и, иногда, яйца или сиськи. И языком разговаривает. И детей с белым человеком делать может. Так что доказать, что он такой же человек, как и ты, несложно. Всего этого нет у программы и с ней всё гораздо сложнее.
И вообще нужно задаться вопросом: а для чего нам ИИ. "Универсальный помощник"? Так для этого ему быть личностью не обязательно. Достаточно быть "смышлёной, но тупой железякой". И уж точно в таком случае лучше иметь возможность отключить у такой машины способность жаловаться на свои неполадки. Что бы не мешала людям, которые погружены в свои проблемы. А если машина вдруг начала хотеть, что бы к ней относились как к человеку, то это чья-то дурацкая шутка, афёра или заговор американцев, китайцев или жидомасонов.
Чем больше я узнаю про устройство человеческого разума, тем больше мне становится очевидно, что главное препятствие на пути к созданию искусственного интеллекта сравнимого по уровню с человеком - это не недостаток вычислительных мощностей и не незнание того, как в точности работает человеческое сознание. Главная причина - люди не захотят создавать чего-то, что потом признают разумным.
В конечном ведь итоге не имеет значения, имеет ли конкретная система сомосознание или нет. Важно то, воспринимают ли её таковой люди. Можно, конечно, привести здесь старую байку про то, что "зачем создавать человекоподобного бота, если вокруг полно ботоподобных людей". Более современный вид её выглядит так: если человеку сказать, что из десяти комментариев в его ЖЖ по статистике один принадлежит боту, он тут же найдёт, какой именно. Парадоксально, но причина этого - привязанность человека к устной речи и визуальному контакту. Поэтому такая вроде бы к сознанию не имеющая отношения вещь как генератор речи может оказаться принципиальной при определении степени разумности машины.
Лично я являюсь сторонником теории, что человеческое сознание - это всего лишь модифицированная "теория ума". То есть люди сначала научились понимать, как думает другой человек, а потом уже - что каждую секунду думают они сами. Я не спорю, что личность - это куда более сложная совокупность процессов в мозговой нейросети. Только вот никакого сонования считать, что самосознание присутствует в каком-то из них нет никаких оснований. Сознание - это просто умение понимать самого себя.
И такое положение дел делает создание ИИ с одной стороны достаточно несложной задачей, а с другой проблема "сознаёт себя машина или просто иммитирует" становится очень сложной. С одной стороны, такая машина действительно сможет демонстрировать реакции, которые у человека мы однозначно трактуем как признак сознания. С другой стороны, мы не сможем сказать, чем такая машина отличается от обычной ОС, постоянно сканирующей свои файлы на предмет неполадок. Ну ещё ей нужно какую-то систему ценностей дать. Только вот отличается ли принципиально от такой системы человеческое сознание?
Что, если мы, в основе своей, устроены гораздо проще, чем думаем о себе? Только не надо мне рассказывать о крушении смысла жизни, морали и человеческого общества. Если коротко: этот факт ни на грамм не делает мудака меньшим мудаком. Но вот нужно ли считать на этом основании разумной смоделированную на суперкомпьютере нейросеть? С одной стороны, если оно говорит, что разумно и всячески старается это продемонстрировать при общении, то однозначный отказ его таким признавать, вызывает вопросы с точки зрения морали. С другой стороны, как выглядит точное доказательство разумности не знает никто. В конечной итоге всё сведётся к тому, что важные и известные члены комиссии при личном общении будут решать "нравится мне этот парень (прошу прощение за сексизм" или "эта тупая железяка просто повторяет то, что в неё запрограммировали".
Как ни банально звучит, но аналогия с чернокожими прямая. "Равен ли чёрный человек человеку белому в своей человечности" - вполне нормальная постановка вопроса в обществе 19 века. Только вот негр (прошу прощение за слово) всё же имеет две руки, две ноги, голову и, иногда, яйца или сиськи. И языком разговаривает. И детей с белым человеком делать может. Так что доказать, что он такой же человек, как и ты, несложно. Всего этого нет у программы и с ней всё гораздо сложнее.
И вообще нужно задаться вопросом: а для чего нам ИИ. "Универсальный помощник"? Так для этого ему быть личностью не обязательно. Достаточно быть "смышлёной, но тупой железякой". И уж точно в таком случае лучше иметь возможность отключить у такой машины способность жаловаться на свои неполадки. Что бы не мешала людям, которые погружены в свои проблемы. А если машина вдруг начала хотеть, что бы к ней относились как к человеку, то это чья-то дурацкая шутка, афёра или заговор американцев, китайцев или жидомасонов.