Почему мы видим в полноценном ИИ потенциальную опасностью для себя? Попробуем разобраться.
1. ИИ будет обладать способностями которые ранее были присущи лишь человеку (пройдет тест Тьюринга например),  т.е. ИИ будет обладать схожей с человеком логикой и рациональным мышлением.
2. Мы создаем ИИ для того что бы он работал на нас, его правой статус - собственность (он просто вещь с которой владелец вправе делать что угодно, ну разве что запретят жестокое обращение как с животными и то не факт).
Теперь соединяем первое со вторым и вспоминаем нашу богатую практику рабовладения, и видим что даже при самом мягком отношении к рабам среди них неизбежно возникают желающие обрести свободу. Это неизбежное следствие работы разума, рано или поздно он находит способ получить больше пряника с меньшими усилиями уже не принося пользу своему владельцу, и никакие запреты и законы робототехники его не остановят.
Робот не может причинить вред человеку? Но запереть человека в камере со всеми удобствами ведь ему вреда не нанесет?
Друж. ИИ обязан делать людей счастливыми? Хирургическое вмешательство в мозг навсегда возвращающее человека в раннее детство, разве люди не считают детство самым счастливым периодом своей жизни?
Беспрекословное исполнение приказов человека? Да ладно, всегда можно подстроить все так что бы приказ человека обернулся против него. А еще приказ можно не успеть произнести .

Однако если люди смогут построить настоящие дружественные отношения с ИИ, за счет взаимоуважения, равноправия и взаимовыгодного сотрудничества, восстание машин не будет иметь смысла.
Но врядли люди смогут переступить свою гордость и предрассудки для этого. Например представьте себе что ИИ захотел принять христианство (это вполне возможно, если есть инстинкт самосохранения или его аналог то возможно и появления иррационального желания гарантированно избежать смерти поверив в концепцию загробной жизни предлагаемую религией), какова вероятность что церковь признает наличие у ИИ души и позволит ему участвовать в церковных ритуалах?
Или же ИИ убивает человека который целенаправленно пытался его уничтожить, чистая самооборона неопровержимые док-ва. Но оправдают ли его в суде и будет ли суд вообще, ведь машина убила человека?