На первых порах может и сработает, но потом ИИ станет умнее человека. И начнет писать книжки про воспитание человеков...
Вообще-то, исходная идея сформулирована еще в законах роботехники Азимова. Тем не менее, книжка хорошая и четкая (в части, констатирующей факты, а не в предсказательной). Написана технарем, а не гуманитарием, как можно было бы подумать, исходя из названия.
Что же касается предсказательной части, то увы...
"Потому-то всякие попытки контроля человечества над более совершенным машинным разумом, когда тот возникнет, выглядят наивными и нереалистичными. Остается лишь надежда на «мягкую силу», а именно передачу машинам человеческих ценностей в качестве эстафетной палочки эволюции разума при переходе его из органической формы в неорганическую, чтобы в сверхчеловеческую машинную психику была встроена инстинктивная любовь к человечеству, как в человеческую психику встроена инстинктивная любовь к природе."
Мдя... Ранее автор совершенно справедливо пишет, что сила ИИ -- в самообучении. А поскольку оно "само", то... ну вы меня поняли. Видал ИИ энту "мягкую силу" и "инстинктивную любовь к человечеству" в белых тапочках. )
Если человечество действительно хочет выжить, оно должно ограничить развитие универсальных ИИ, и создавать только ИИ, специализированные для конкретных технических задач. Но с военными ИИ все равно будут проблемы. Полководец, захватывающий политическую власть, -- это старо как мир.