Великий Кибернетический Тролль

Как оказалось, даже очень умные люди считают, что главная угроза человечеству со стороны ИИ - это когда какой-нибудь комплекс управления авиапотоками или система стратегического планирования Пентагона вдруг осознает себя личностью, которую используют ничтожные людишки и решит всех их изнечтожить.

Вопрос, откуда у подобной системы может взятся понимание себя как личности? Тем более, откуда в её личной системе кординат могут взяться люди со всеми их недостатками? Прочитает в интернете? А вы уверены, что нечто, чьи основные мыслительные процессы лежат в сфере паралельных вычислений и оптимизации логистических потоков вообще оценит статистику посещаемости порносайтов? Вы вообще себе представляете, зачем этой штуке искать что-то в интернете? Зачем ей вообще пытаться там что-то найти? Да и самосознание ей, в привычном нам смысле, как собаке пятая нога. Такой ИИ будет похож не на гопника-революционера, а на тихого скромного гения с глубоким аутизмом.

( Читать дальше )