При любой власти значительные ресурсы головного мозга обывателя даже помимо его воли расходуются на предсказания желаний и поведения власти. Для того, а общем-то, обезьяне и дан ум философа. Успехи в "кремлинологии" всегда были важнейшим фактором выживания и, соответственно, естественного отбора.
Предсказание это построение какой-никакой, а модели.
Если ИИ будет приблизительно копировать действия людей, мы станем относиться к нему как к своеобразному, но человеку. Его власть для нас окажется неотличима от власти людей.
Если ИИ окажется намного умнее и изворотливее человека, то мы не сможем при помощи наших мозгов строить модели его поведения. А раз не сможем, то и не будем. С нашей точки зрения власти ИИ как бы не будет существовать.
Пока ИИ намного тупее человека, люди не отдадут ему власть - я надеюсь. Будут проверять и перепроверять предлагаемые им варианты действий.
Вывод: власти ИИ как какой-либо концептуально особенной сущности не возникнет - с точки зрения нашей способности понимать происходящее.
