Искусственный разум. Как его найти?

            Прочитал интервью Виктора Аргонова здесь. Задумался над прочитанным. Дальше, собственно идут мои мысли, не являющиеся научной статьёй, поскольку не основываются на на необходимой фактической базе.
            Прежде всего, интересен предложеный новый эксперимент: оценка не интеллекта, а сознания. Как собственно это делается (как я понял из статьи) Компьютер кормят информацией, не содержащей философских суждений и наблюдают, сможет ли он  в процессе переработки информации выдать в качестве ответа философские (или, хотя бы личные) суждения. Но вопрос в том, что считать сознательными суждениями. Является ли таким суждением "причинять боль человеку - плохо"? "А причинять вред - плохо"? А "если ударить человека - это причинит ему боль"? Совершенно ясно, что  первые два утверждения являются искомым суждением, а третье - нет. Но в чём разница? Первые два утверждения содержат оценку, а третье - нет. А что бы дать такую оценку необхадима шкала ценностей: что-то хорошо, а что то плохо. У современного человека основным источником таких ценностей как раз и является та информация, которую в тесте Аргонова от компьютера тщательно скрывается. Врождёнными у человека являются самые базовые ценности. Даже понятие "я" в значительной степени приобретённое.  Но это не значит, что эта  шкала непонятно откуда взялась. Она развилась вместе с человеческим обществом и основу её стоит искать где-то далеко в прошлом. Точно задолго  до появления самого сознания, а, может быть, и раньше самого семейства гоминид.  Собственно, шкала ценностей, основывается на очень простой и совсем не связанной с когнетивными процессами вещи. На животной реакции "больно-нейтрально-хорошо". Впрочем "хорошо" даже излишне. В природе всё развивалось именно из "больно-небольно". А это уже чистая физиология.  Вопрос в том только, нужно ли вкладывать эти понятия в машину. Если их вложить, то машина при наличии достаточного времени и возможности для эксперимента, расчётов и наблюдений почти наверняка придёт к  сознанию. Ей конечно придётся проделать путь, на который у органической жизни ушли миллионы лет, но пройдёт она его очень быстро. Если таких установок нет, то скорее всего, на выходе мы получим АСГУ из "2032". Собственно вся суть АСГУ раскрыта в композиции "Узел": когда предоставляется возможность рискнуть миллионами, а то и миллиардами человеческих жизней ради окончательной победы АСГУ совершенно не колеблется, тем более, что в неё заложены положения о высшем значении победы коммунизма. Она непризнаёт этих принципов, но всё равно не собирается от этого отказываться, потому, что не видит в этом причины. Миленевский же, который в эти принципы ВЕРИТ впадает в сомнения именно потому, что его вера вступает в фундаментальное противоречие с понятием о ценности человеческой жизни. Он просто знает, что умирать - больно. Это абсолютно понятно и собаке и амёбе. А АСГУ - нет. " А в вашем смысле я всегда была мертва...", "не может бесценным быть то, что конечно: ни радость, ни боль, ни вся жизнь на Земле..." При этом абсолютно адекватный, нормально реагирующий на окружающий мир интеллект... Вот только себя она не ощущает, точнее не віделяет "я" из других категорий. Нет установки на абсолютную ценность этого кусочка мироздания. Сознания нет.
Но вернёмся к  тесту. Понятно, что, в нём интересны не примитивные реакции "хорошо-плохо", а сложные логические конструкции, ну хотя бы "Если звёзды зажигают, значит это кому-нибудь нужно", Ну, или "Религия - опиум для народа". Но дело в том, что эти соображения далеко не все осознаются человеком самостоятельно. Нет, человек, по крайней мере теоретически, способен прийти к этому самостоятельно, но научение - гораздо боле эффективный способ. В реальности на выработку всего того, из чего состоит самосознание современного человека ушли десятки и сотни поколений. Самый сркий пример - "маугли": человек лишённый в процессе развития "подпитки" остаётся зверем. Стоит ли считать обладающими сознанием "маугли" с точки зрения теста Аргонова? А младенца? А умственно отсталого? Осознают ли они своё "я"? А могут ли они это осмыслить? Нет, я не против теста, но, просто он не даёт однозначных ответов.