Приветствую!
>Почему он и у России, и у Армении, и у США?
>Вроде бы это был символ Византии?
Да, Византийский герб.
И у Московского княжества (Москва - третий Рим, четвёртому же не быть!), армян, югославов, и албанцев даже - он от неё.
А у штатов орёл одноглавый. Белоголовый орлан...