От Моцарт
К bedal
Дата 30.06.2016 11:53:38
Рубрики Современность; ВВС;

Ответ будет в пользу человека

Например, в ВМВ имели место ложные авианаводчики (вражеские), передававшие по радио выгодные для них распоряжения. Люди в кабинах массово им не подчинялись, причём обосновывали это тончайшими нюансами, почему им показалось это подозрительным. ИИ при поступлении команды, верифицированной как true полетит туда, куда ему будет велено, в сторону моря вместо прикрываемого города (это не пикирование в землю и не самоликвидация, просто новый курс, один градус из 360 возможных).
От bedal
К Моцарт (30.06.2016 11:53:38)
Дата 30.06.2016 13:55:20

да где ж это не подчинялись, когда массово бомбили Англию "не туда"?

неподчинение, о котором Вы пишете - всего лишь результат опыта, который компьютеры уже сейчас умеют приобретать на человеческом уровне, а скоро, увы, будут делать это и много лучше.
От Дмитрий Козырев
К Моцарт (30.06.2016 11:53:38)
Дата 30.06.2016 11:58:12

Неудачный пример

>Например, в ВМВ имели место ложные авианаводчики (вражеские), передававшие по радио выгодные для них распоряжения. Люди в кабинах массово им не подчинялись, причём обосновывали это тончайшими нюансами, почему им показалось это подозрительным.

Это называется "защита от навязывания ложной информации". Человек "интуитивно" пытается распознать ложь по тембру голоса или акценту, но чтобы не полагаться на случай вводит систему условных сигналов, паролей и т.п.

>ИИ при поступлении команды, верифицированной как true полетит туда,

имитозащита, основаная на стойкой криптографии, сводит такую ситуацию к крайне маловероятной.
От Моцарт
К Дмитрий Козырев (30.06.2016 11:58:12)
Дата 30.06.2016 12:33:20

Re: Неудачный пример

>Это называется "защита от навязывания ложной информации". Человек "интуитивно" пытается распознать ложь по тембру голоса или акценту, но чтобы не полагаться на случай вводит систему условных сигналов, паролей и т.п.

Не совсем так. Человек полагает, что ему приказывают совершить абсурдный в данной ситуации поступок, акцент и тембр "привязываются" к разбору ситуации уже на земле. И отказывается от выполнения команды (рискуя, между прочим, получить взыскание).


>имитозащита, основаная на стойкой криптографии, сводит такую ситуацию к крайне маловероятной.

Мантра про стойкость очередной энигмы. Было тысячу раз.
От Дмитрий Козырев
К Моцарт (30.06.2016 12:33:20)
Дата 30.06.2016 13:26:47

Re: Неудачный пример

>Не совсем так. Человек полагает, что ему приказывают совершить абсурдный в данной ситуации поступок, акцент и тембр "привязываются" к разбору ситуации уже на земле. И отказывается от выполнения команды (рискуя, между прочим, получить взыскание).

ну да ну да.
Электрик стоял у рубильников с напряженным и сосредоточенным вниманием и смотрел на телеграф, ожидая приказаний.

— Тебе какой ход был приказан? — спросил его старшина.

— Передний, — ответил он. — Полной мощностью оба вала.

— Ты что, не очнулся? Задний был дан, — сердито сказал старшина.

— Да я видел, что телеграф врет, — сказал электрик спокойно. — Как же командир мог задний давать? Сзади же у нас фашисты. Мы только вперед можем идти В море.

Как говориться не оставили мемуаров те, кого дельфины толкали от берега. Кто попал в аварию и катастрофу пытаясь игнорируя команды, "рассуждать логично", но не владея изменившеся обстановкой, а также по причине несовершенства человеческой природы - из за усталости, боевого стресса, галлюцинаций, наркотического опьянения или психотропных веществ.



>>имитозащита, основаная на стойкой криптографии, сводит такую ситуацию к крайне маловероятной.
>
>Мантра про стойкость очередной энигмы. Было тысячу раз.

Энигма не была стойкой. Это математика, никакой мантры.
От Alexeich
К Дмитрий Козырев (30.06.2016 13:26:47)
Дата 30.06.2016 13:34:59

Re: Неудачный пример

>>Мантра про стойкость очередной энигмы. Было тысячу раз.
>
>Энигма не была стойкой. Это математика, никакой мантры.

Энигма была алгоритмически стойкой в том смысле, что простое увеличение числа колес (что, конечно, увеличивало время шифровки/расшифровки и стоимость дивайса) немцев подвела самоуверенность, когда они с упорством достойным лучшего применения продолжали использовать "уменьшенный" набор шифровальных колес, не будучи способны представить себе, что вычислительные мощности британцев способны могут "хакнуть" коды за разумное время. ЕМНИП под конец 3 райха собирались вводить "7-колесную" Энигму. тем паче что даже 8-колесный вариант (невзламываемый англичанами) уже использовался до этого на практике, "но было уже поздно".
От Alexeich
К Моцарт (30.06.2016 12:33:20)
Дата 30.06.2016 12:38:35

Re: Неудачный пример

>Не совсем так. Человек полагает, что ему приказывают совершить абсурдный в данной ситуации поступок, акцент и тембр "привязываются" к разбору ситуации уже на земле. И отказывается от выполнения команды (рискуя, между прочим, получить взыскание).

Иль не фо па симплифие. Не надо думать об ИИ как о чем-то примитивном. он, родной. постоянно совершенствуется. А то что Вы называете "интуицией" прекрасно программируется с помощью нейронных сетей, например. Еще 20 лет назад писали, что опознание человеческих лиц при реальныз условиях (движение. плозое и неравномерно освещение) етсь чисто интуитивный процесс, практически недоступный программированию для ИИ. Сегодня мы имее бОльший процент опознаний ИИ. чем живым "интуитивным" человеком.

>>имитозащита, основаная на стойкой криптографии, сводит такую ситуацию к крайне маловероятной.
>
>Мантра про стойкость очередной энигмы. Было тысячу раз.

Почему же мантра, взломать хорошую криптозащиту за ограниченное время можно, но только "статистически".
От Estel
К Alexeich (30.06.2016 12:38:35)
Дата 30.06.2016 12:55:51

Re: Неудачный пример

>Почему же мантра, взломать хорошую криптозащиту за ограниченное время можно, но только "статистически".

Её даже ломать не надо. Достаточно в нужный момент заглушить тот же GPS. Есть и более простые методы. Историю про деревянную бомбу помните?
От Alexeich
К Estel (30.06.2016 12:55:51)
Дата 30.06.2016 13:00:04

Re: Неудачный пример

>>Почему же мантра, взломать хорошую криптозащиту за ограниченное время можно, но только "статистически".
>
>Её даже ломать не надо. Достаточно в нужный момент заглушить тот же GPS. Есть и более простые методы.

1 Мт в стратосфере. например :) "Другие методы", конечно, есть, но мы говорили конкретно о взломе криптозащищенного канала связи и ПО. Кстати, заглушение GPS не панадол.

>Историю про деревянную бомбу помните?

нет. но любопытно (можно в личку).
От Estel
К Alexeich (30.06.2016 13:00:04)
Дата 30.06.2016 13:24:41

Re: Неудачный пример


>нет. но любопытно (можно в личку).

История вполне топична.

Фрицы построили на берегу Ла-Манша фальшивый аэродром, на котором расставили деревянные самолёты. Ночью прилетел одинокий английский самолёт и сбросил на этот аэродром деревянную бомбу.
От Round
К Estel (30.06.2016 13:24:41)
Дата 30.06.2016 18:15:51

Re: Неудачный пример


>>нет. но любопытно (можно в личку).
>
>История вполне топична.

>Фрицы построили на берегу Ла-Манша фальшивый аэродром, на котором расставили деревянные самолёты. Ночью прилетел одинокий английский самолёт и сбросил на этот аэродром деревянную бомбу.

Где-то попадалось продолжение, что после этого немцы разместили там уже настоящие самолеты, после чего поледовал налет авиации и был сброшен вымпел с надписью что-то типа "ну вот совсем другое дело".
Хотя наверняка байка конечно
От Моцарт
К Alexeich (30.06.2016 12:38:35)
Дата 30.06.2016 12:44:59

Re: Неудачный пример

>Сегодня мы имее бОльший процент опознаний ИИ. чем живым "интуитивным" человеком.

Ну я надену на ограбление банка латексную маску и буду опознан как Путин В.В., 1952 г.р. Чистая победа ИИ.

>Почему же мантра, взломать хорошую криптозащиту за ограниченное время можно, но только "статистически".

Почему ограниченное-то, не в полёте же такие вещи делаются. Защита может быть взломана до войны. А массовое применение дронов вскоре даст нам и мат.часть криптографического блока для изучения.
От Alexeich
К Моцарт (30.06.2016 12:44:59)
Дата 30.06.2016 12:57:12

Re: Неудачный пример

>>Сегодня мы имее бОльший процент опознаний ИИ. чем живым "интуитивным" человеком.
>
>Ну я надену на ограбление банка латексную маску и буду опознан как Путин В.В., 1952 г.р. Чистая победа ИИ.

"Срезал"@ Боюсь, и "естественый интеллект" в такой ситуации не справится. Кстати, есть системы опознания, "заточенные" под иные антропогенные показатели. Читал тут на хабре - "мы все под колпаком у совы" - даже по походке зараза опознает.

>>Почему же мантра, взломать хорошую криптозащиту за ограниченное время можно, но только "статистически".
>
>Почему ограниченное-то, не в полёте же такие вещи делаются. Защита может быть взломана до войны.

Мы говорим о разных вещах. Одно - взлом алгоритма, другое - взлом конкретной реализации этого алгоритма, что требует времени и, как правило, решение статистически распределено по времени.

> А массовое применение дронов вскоре даст нам и мат.часть криптографического блока для изучения.

Да что вам даст-то "криптографическая матчасть" - стандартный процессор со стандартным ПО :) Простой и старый как ж... мамонта ssh протокол практически невзламываем онлайн, за "телеграфы" и проч. я не говорю, надаром наши мудумаки хотят по соглядатаю к каждому поставить последним законом, чтоб, значит, унтер-офицерская вдова сама себя высекла, т.к. высечь ее иным способом не выходит. Ну нет меча клаюнца против толпы дронов. кроме хорррошего ЭМ-импульса.