Был соблазн ответить "А кого он будет спрашивать?", но сдержался. Дабы не превращать обсуждение в "если кит на слона залезет, кто кого сборет". И вроде как тема себя исчерпала, но сейчас серьезная мысль появилась: есть две проблемы-прообраза к задаче "непущания AGI". Это 1) борьба за копирайт и 2) борьба против (компьютерных) вирусов.

В первом случае немалые (но безуспешные) усилия направлены на предотвращение копирования пассивного, в смысле позывов к размножению, софта и данных. Во втором софт таки активно размножается, но в остальном - туп как буратино. С чего бы вдруг для софта активного, разумного, с рефлексией в отношение себя и окружающей среды, коммуницирующего между собой и с людьми эти проблемы стали решаться проще?