"...она все равно действует по заданной программе." - так, да не так
Если отбросить сказку про Адама, приходится признать, что деятельность человеческого мозга полностью определяется законами физики и химии. Собственное уникальное поведение за мозгом признаём только потому, что повторно вывести из этих законов конкретные проявления мозговой деятельности мы не умеем.
Вот так и бабочки: если мы не можем за разумное время определить каждое действие на каждый момент, можно уже говорить о "самостоятельном принятии решений". Программы недавнего прошлого, да и большинство современных, вполне предсказуемы в каждой точке своего поведения. Большинство, да не все: для нейросетей сколько-нибудь приличного размера уже никто не может объяснить, как именно было выполнено распознавание и почему было принято то или иное решение.
Потому в таких случаях уже можно говорить о самостоятельности - и это сейчас превращается в главную претензию к работе таких систем и большую проблему в целом.
Замечу, что речь в данном случае совсем не о разуме, а только лишь о самостоятельном поведении. Которое есть и у таракана.
