Ага, я кажется понял суть наших разногласий. Под "пиздец от AGI" я не имел в виду сценарий "Терминатора". Боевые роботы, устраивающие человечеству локалхост - это не самый вероятный вариант развития событий. Скорее что-нибудь в духе Accelerando (http://www.antipope.org/charlie/accelerando/). Сначала AI немного, они узкоспециализированные и несамостоятельные, со временем они будут развиваться, совершенствоваться, размножаться - первое время все это руками людей. Пройдет лет эдак 10-15, и обнаружится, что они везде - от роботов-водителей до управления корпорациями, и софт для новых AI пишет тоже AI, потому что оно делает это лучше индийцев-китайцев, и с CEO-AGI разговаривает на одном языке и со скоростью оптоволоконного канала между ними. А еще через десять лет в Солнечной системе рулят weakly godlike (в том числе, произошедшие от/включающие в себя Homo Sapiens), счет их идет уже на миллионы (миллиарды?), и среди всего этого сидят совершенно охреневшие, не способные не то что вмешаться - понять происходящее остатки человечества.

Где-то так.