Это событие по своим последствиям для человечества, между прочим, гораздо важнее чем победа компьютера над гроссмейстером. Оно свидетельствует о рождении того самого монстра, которого научная фантастика ожидала полтора века. Это свершилось!
К сожалению, Ю.И. не придал внимание тому, что проблема теперь стоит не в философской и не в теоретической а в самой что ни на есть практической плоскости. Он пошел путем философских рассуждений о том, что значит мыслить, а путь этот бесперспективен - за полтора века здесь так и не удалось ничего нового придумать.
Возникает вопрос - а что могут посоветовать те, кто над вопросом размышляли все эти годы? То есть, фантасты. Фантастика давно обсуждает этот вопрос, и 95% представлений фантастов об ИИ были исключительно мрачными. Их отражает этот короткий рассказ:
Фредерик Браун
ОТВЕТ
Frederic Brown. Answer, 1954.
Двар Эв торжественно запаял золотом последний контакт. Двенадцать
телекамер неотрывно следили за каждым его движением - трансляция шла на
всю галактику.
Он выпрямился и кивнул Двар Реину. Затем подошел к выключателю,
который скоро замкнет цепь. К выключателю, соединяющему одновременно все
компьютеры всех обитаемых планет - девяносто шесть миллионов миров - в
суперсеть, которая объединит их в один суперкомпьютер, единую
кибернетическую машину, собравшую мудрость всех известных миров.
Двар Реин обратился с короткой, вступительной речью к биллионам
телезрителей и затем, после короткой паузы, он произнес:
- Пора, Двар Эв!
Двар Эв нажал выключатель. Раздалось мощное гудение, пошла энергия
девяноста шести миллионов планет. На бесконечно длинном пульте замигали
разноцветные огоньки.
Он отошел назад и громко провозгласил:
- Честь задать первый вопрос принадлежит вам, Двар Реин!
- Благодарю, - ответил Двар Реин, - Это будет вопрос, на который
не мог ответить ни один компьютер.
Он повернулся к пульту.
- Есть ли бог?
Могущественный голос раздался сразу.
- ДА. ТЕПЕРЬ БОГ ЕСТЬ!
Двар Эв понял не сразу, но потом страх исказил его лицо - он
бросился к выключателю...
Молния сорвалась с безоблачного неба и испепелила его на месте,
намертво запаяв соединение.
Впрочем, фантасты не всегда уходили в инфернальные миры матриц, терминаторов, или отроков-во-вселенной.
Выход был предложен А Азимовым в виде "Трех законов робототехники"
Три зако́на роботе́хники в научной фантастике — обязательные правила поведения для роботов, впервые сформулированные Айзеком Азимовым в рассказе «Хоровод» (1942).
Законы гласят:
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Увы, создателями современной робототехники эти законы были немедленно и безусловно попраны.
Роботов стали создавать для убийства. Всего два шага - право ИИ самому, по программе решать, кто будет его мишенью + событие, когда робот с ИИ офигачит самого своего создателя отделяют нас от практически поставленных проблем, которые обсуждали фантасты. В интересное время нам довелось жить.
