>>На сегодня такой теории нет и важно именно это, речь идёт о настоящем и обозримом будущем. Пенроуз приводил доводы о том, что мышление невозможно свести к алгоритмам, и так оно и есть - невозможно алгоритмизировать неопределённую задачу, а мышление это способность создавать теории в неопределённой ситуации.
>
>Мне кажется, что речь идет о конкретном алгоритме, по которому человек решает оптимизационные задачи. Определить его действительно очень трудно или даже невозможно. Но для результата это неважно, получить рабочую модель человеческого мышления можно с тем же успехом, применив любой из известных алгоритмов, который даст тот же результат при тех же исходных данных. Вторая проблема – определить данные, которые доступны человеку. Это тоже – невозможно, что ставит перед исследователем «неопределенную» задачу, но дело в том, что для самого человека эти данные, пусть и бессознательно, известны. Это соображение дополняет возможность успешного моделирования, то есть создание разума, когда станет доступной необходимая вычислительная мощность (главная предпосылка).
Очень часто, создавая теорию люди додумывают отсутствующие в эмпирической реальности явления, которые потом открываются. Тут можно и про Менделеева вспомнить, и про Максвела, додумавшего недостающую в опытных данных того времени часть электромагнитной индукции и фактически тем самым придумавшего ЭМ-волны, открытые потом уже Герцем.
Потому говорить о том, что мышление однозначно определяется доступными опытными данными и является их оптимизацией неверно. Человек составляет модель явления основываясь на своих представлениях и непонятно на чём. Мышление есть упорядочение информации, уменьшение степени её энтропии, но в этом мышление не оригинально - любая открытая система уменьшает свою энтропию, если в неё попадает энергия или другие материальные ресурсы.
Когда то Ботвинник хотел понять как играет Капабланка, заставив шахматную программу сделать его ходы. Но всем уже понятно, что способ игры компьютера в шахматы слабо пересекается с человеческим. Я думаю, что наше мышление это чёрный ящик, в котором мы не найдём никогда точную траекторию нашей мысли, как мы не можем никогда найти траекторию движения электрона точнее, чем позволяет соотношение неопределенностей Гейзенберга.
В том, что ИИ будет создан, я уверен, но то, что он будет работать алгоритмически я сомневаюсь - весь опыт человечества говорит о том, что очень часто надо меняться едва ли не физиологически, что бы делать мышление гибче и сильнее. И такие действия выходят за рамки того, что может алгоритм, т.к математического описания разума или живого существа сегодня нет, значит сегодняшнее понимание алгоритма не может оперировать изменениями живого или разума.
А как будут понимать алгоритм завтрашние математики века существования ИИ я не знаю.
А что известно или неизвестно человеку в момент принятия решения это тоже догадки лежащие за мейнстримом современной науки - скажем теория синхронизма Юнга, на это трудно рассчитывать, таких предположений можно сделать много, но их трудно доказать. Скажем все люди от рождения, даже в первобытные времена, постоянно погружены в мир электромагнитных явлений, и явно все мы в подсознании имеем как бы море эмпирического материала на эту тему - но мы не можем создать электродинамику, т.к весь массив доступной нам информации не диффиренцирован в нужной степени для выделения логических связей.