От Моцарт
К Ibuki
Дата 30.06.2016 10:34:56
Рубрики Современность; ВВС;

Есть один принципиальный вопрос+

Вот вы отправляете в бой 1.000 ЛА с искусственным интеллектом. Есть ли гарантии, что алгоритму их действий (заменяющему человеческий разум) противник не противопоставит нечто, что заставит их всех (ведь ПО у всех одинаково) совершить что-то совсем вами не планировавшееся, например спикировать в землю или совершить посадку на чужом аэродроме.
От Alexeich
К Моцарт (30.06.2016 10:34:56)
Дата 30.06.2016 12:26:07

ответ на это принципиальный вопрос давно получен на практике

>Вот вы отправляете в бой 1.000 ЛА с искусственным интеллектом. Есть ли

Вы устанавливаете 100 млн. компьютеров с одинаковой ОС, опдключенной к сети, где гарантии, что единственной командой (вирусом) все из единовременно нельзя будет вывести из строя? Никаких гарантий, но до сиз пор такого не происходило. Вот и с достаточно большой и не совсем однородной стаей "дрново" не произойдет.
От Олег...
К Alexeich (30.06.2016 12:26:07)
Дата 30.06.2016 14:02:13

Никогда такого не происходило!?

>Никаких гарантий, но до сиз пор такого не происходило.

Вы смеетесь? На заре распространения сетей это было ОЧЕНЬ частой проблемой! Годы 95-98, если помните. Любая сеть тогда переустанавливалась раза по два в год, именно из-за того, что первым же вирусом выводились из строя все компьютеры, которые были включены в этот момент.

Это же не так давно было, неужели уже никто не помнит как предохранялись от вирусов выключая компьютер из розетки?
От Эвок Грызли
К Олег... (30.06.2016 14:02:13)
Дата 02.07.2016 00:08:30

Re: Никогда такого...

>Вы смеетесь? На заре распространения сетей это было ОЧЕНЬ частой проблемой! Годы 95-98, если помните. Любая сеть тогда переустанавливалась раза по два в год, именно из-за того, что первым же вирусом выводились из строя все компьютеры, которые были включены в этот момент.

~s/"любая сеть"/"любая поставленная Васей пупкиным \"сеть\" под которой понималась пачка w95 c расшареными папками"/
От Alexeich
К Олег... (30.06.2016 14:02:13)
Дата 01.07.2016 16:57:06

Re: Никогда такого...

>Вы смеетесь? На заре распространения сетей это было ОЧЕНЬ частой проблемой!

На заре да, но сетецентрические технологии в военном деле давно прошли свою зарю.. Более того, сравнение очевидно некорректно в силу того, что при создании первых компьютерных сетей на безопасность просто плевали зачастую, ну такое было веселое время (помню как за вечер успевал прогуляться по сетям 5-6 западных университетов, найти знакомых. восопльзовавшись "задним входом", никаких взломов, просто админы вообще не считали нужным анально огораживаться, в 90-е на половину университетских серверов можно было зателнетиться как guest и вперед), в то время как для военных безопасность от несанкционированного проникновения - в приоритете.

>Годы 95-98, если помните. Любая сеть тогда переустанавливалась раза по два в год, именно из-за того, что первым же вирусом выводились из строя все компьютеры, которые были включены в этот момент.

Сейчас не 95-98, и подобное уже не происходит. К тому же, заметим, нападающему придетс иметь дело с априори сильно защищенной сетью, к тому же довольно ограниченное время. Так что гарантированного "падения всех дронов". скорее всего, не случится.

>Это же не так давно было, неужели уже никто не помнит как предохранялись от вирусов выключая компьютер из розетки?

Мы помним даже времена когда и вирусов-то никаких не было :)
От bedal
К Олег... (30.06.2016 14:02:13)
Дата 30.06.2016 15:29:47

Вы сами на всё и ответили

Подобные падения очень быстро прекращаются, хотя сеть осталась достаточно однородной по составу узлов. То есть дело - не в принципиальной уязвимости однородных.

Наоборот, однородность даёт быстрое преодоление препятствия, ставшего смертельным для одного из узлов.
От KGBMan
К Олег... (30.06.2016 14:02:13)
Дата 30.06.2016 15:10:59

Re: Никогда такого...

вы какие то ужасти говорите. Я в те годы кака раз сетью заведовал и ни каких переустановок не было и быть не могло.
От Моцарт
К Alexeich (30.06.2016 12:26:07)
Дата 30.06.2016 12:30:21

Re: ответ на...

>Вы устанавливаете 100 млн. компьютеров с одинаковой ОС, опдключенной к сети, где гарантии, что единственной командой (вирусом) все из единовременно нельзя будет вывести из строя? Никаких гарантий, но до сиз пор такого не происходило.

Никому не интересно выводить из строя рабочие места вахтёров, секретарш и помощников младшего продажника.
От Alexeich
К Моцарт (30.06.2016 12:30:21)
Дата 30.06.2016 12:34:35

Re: ответ на...

>Никому не интересно выводить из строя рабочие места вахтёров, секретарш и помощников младшего продажника.

Хорошо. Банки функционируют? Вот тут уж точно интересантов выше крыши. Какая-то стая имеет вероятнсть недоелтеть, какая-то долетит, вечная борьба вируса и антивируса или, если угодно, щита и меча.
От Моцарт
К Alexeich (30.06.2016 12:34:35)
Дата 30.06.2016 12:38:52

Re: ответ на...

>Хорошо. Банки функционируют? Вот тут уж точно интересантов выше крыши.

Зачем хакеру у б и в а т ь банк??? А объемы хищений уже вызывают озабоченность на уровне правительства, как раз всю неделю об этом говорят.
От Alexeich
К Моцарт (30.06.2016 12:38:52)
Дата 30.06.2016 13:52:41

Re: ответ на...

>>Хорошо. Банки функционируют? Вот тут уж точно интересантов выше крыши.
>
>Зачем хакеру у б и в а т ь банк???

Заказ от конкурента, например. Есть масса прямых резонов, и масса косвенных.

> А объемы хищений уже вызывают озабоченность на уровне правительства, как раз всю неделю об этом говорят.

но банковская система остается устойчивой и объемы хищений ниже, чем при использовании "теплых ламповых" технологий. Т.е. в конечном итогое профит.
От bedal
К Моцарт (30.06.2016 10:34:56)
Дата 30.06.2016 11:33:50

те же вопросы можно и о человеках задавать. С тем же практически успехом (-)
От Моцарт
К bedal (30.06.2016 11:33:50)
Дата 30.06.2016 11:53:38

Ответ будет в пользу человека

Например, в ВМВ имели место ложные авианаводчики (вражеские), передававшие по радио выгодные для них распоряжения. Люди в кабинах массово им не подчинялись, причём обосновывали это тончайшими нюансами, почему им показалось это подозрительным. ИИ при поступлении команды, верифицированной как true полетит туда, куда ему будет велено, в сторону моря вместо прикрываемого города (это не пикирование в землю и не самоликвидация, просто новый курс, один градус из 360 возможных).
От bedal
К Моцарт (30.06.2016 11:53:38)
Дата 30.06.2016 13:55:20

да где ж это не подчинялись, когда массово бомбили Англию "не туда"?

неподчинение, о котором Вы пишете - всего лишь результат опыта, который компьютеры уже сейчас умеют приобретать на человеческом уровне, а скоро, увы, будут делать это и много лучше.
От Дмитрий Козырев
К Моцарт (30.06.2016 11:53:38)
Дата 30.06.2016 11:58:12

Неудачный пример

>Например, в ВМВ имели место ложные авианаводчики (вражеские), передававшие по радио выгодные для них распоряжения. Люди в кабинах массово им не подчинялись, причём обосновывали это тончайшими нюансами, почему им показалось это подозрительным.

Это называется "защита от навязывания ложной информации". Человек "интуитивно" пытается распознать ложь по тембру голоса или акценту, но чтобы не полагаться на случай вводит систему условных сигналов, паролей и т.п.

>ИИ при поступлении команды, верифицированной как true полетит туда,

имитозащита, основаная на стойкой криптографии, сводит такую ситуацию к крайне маловероятной.
От Моцарт
К Дмитрий Козырев (30.06.2016 11:58:12)
Дата 30.06.2016 12:33:20

Re: Неудачный пример

>Это называется "защита от навязывания ложной информации". Человек "интуитивно" пытается распознать ложь по тембру голоса или акценту, но чтобы не полагаться на случай вводит систему условных сигналов, паролей и т.п.

Не совсем так. Человек полагает, что ему приказывают совершить абсурдный в данной ситуации поступок, акцент и тембр "привязываются" к разбору ситуации уже на земле. И отказывается от выполнения команды (рискуя, между прочим, получить взыскание).


>имитозащита, основаная на стойкой криптографии, сводит такую ситуацию к крайне маловероятной.

Мантра про стойкость очередной энигмы. Было тысячу раз.
От Дмитрий Козырев
К Моцарт (30.06.2016 12:33:20)
Дата 30.06.2016 13:26:47

Re: Неудачный пример

>Не совсем так. Человек полагает, что ему приказывают совершить абсурдный в данной ситуации поступок, акцент и тембр "привязываются" к разбору ситуации уже на земле. И отказывается от выполнения команды (рискуя, между прочим, получить взыскание).

ну да ну да.
Электрик стоял у рубильников с напряженным и сосредоточенным вниманием и смотрел на телеграф, ожидая приказаний.

— Тебе какой ход был приказан? — спросил его старшина.

— Передний, — ответил он. — Полной мощностью оба вала.

— Ты что, не очнулся? Задний был дан, — сердито сказал старшина.

— Да я видел, что телеграф врет, — сказал электрик спокойно. — Как же командир мог задний давать? Сзади же у нас фашисты. Мы только вперед можем идти В море.

Как говориться не оставили мемуаров те, кого дельфины толкали от берега. Кто попал в аварию и катастрофу пытаясь игнорируя команды, "рассуждать логично", но не владея изменившеся обстановкой, а также по причине несовершенства человеческой природы - из за усталости, боевого стресса, галлюцинаций, наркотического опьянения или психотропных веществ.



>>имитозащита, основаная на стойкой криптографии, сводит такую ситуацию к крайне маловероятной.
>
>Мантра про стойкость очередной энигмы. Было тысячу раз.

Энигма не была стойкой. Это математика, никакой мантры.
От Alexeich
К Дмитрий Козырев (30.06.2016 13:26:47)
Дата 30.06.2016 13:34:59

Re: Неудачный пример

>>Мантра про стойкость очередной энигмы. Было тысячу раз.
>
>Энигма не была стойкой. Это математика, никакой мантры.

Энигма была алгоритмически стойкой в том смысле, что простое увеличение числа колес (что, конечно, увеличивало время шифровки/расшифровки и стоимость дивайса) немцев подвела самоуверенность, когда они с упорством достойным лучшего применения продолжали использовать "уменьшенный" набор шифровальных колес, не будучи способны представить себе, что вычислительные мощности британцев способны могут "хакнуть" коды за разумное время. ЕМНИП под конец 3 райха собирались вводить "7-колесную" Энигму. тем паче что даже 8-колесный вариант (невзламываемый англичанами) уже использовался до этого на практике, "но было уже поздно".
От Alexeich
К Моцарт (30.06.2016 12:33:20)
Дата 30.06.2016 12:38:35

Re: Неудачный пример

>Не совсем так. Человек полагает, что ему приказывают совершить абсурдный в данной ситуации поступок, акцент и тембр "привязываются" к разбору ситуации уже на земле. И отказывается от выполнения команды (рискуя, между прочим, получить взыскание).

Иль не фо па симплифие. Не надо думать об ИИ как о чем-то примитивном. он, родной. постоянно совершенствуется. А то что Вы называете "интуицией" прекрасно программируется с помощью нейронных сетей, например. Еще 20 лет назад писали, что опознание человеческих лиц при реальныз условиях (движение. плозое и неравномерно освещение) етсь чисто интуитивный процесс, практически недоступный программированию для ИИ. Сегодня мы имее бОльший процент опознаний ИИ. чем живым "интуитивным" человеком.

>>имитозащита, основаная на стойкой криптографии, сводит такую ситуацию к крайне маловероятной.
>
>Мантра про стойкость очередной энигмы. Было тысячу раз.

Почему же мантра, взломать хорошую криптозащиту за ограниченное время можно, но только "статистически".
От Estel
К Alexeich (30.06.2016 12:38:35)
Дата 30.06.2016 12:55:51

Re: Неудачный пример

>Почему же мантра, взломать хорошую криптозащиту за ограниченное время можно, но только "статистически".

Её даже ломать не надо. Достаточно в нужный момент заглушить тот же GPS. Есть и более простые методы. Историю про деревянную бомбу помните?
От Alexeich
К Estel (30.06.2016 12:55:51)
Дата 30.06.2016 13:00:04

Re: Неудачный пример

>>Почему же мантра, взломать хорошую криптозащиту за ограниченное время можно, но только "статистически".
>
>Её даже ломать не надо. Достаточно в нужный момент заглушить тот же GPS. Есть и более простые методы.

1 Мт в стратосфере. например :) "Другие методы", конечно, есть, но мы говорили конкретно о взломе криптозащищенного канала связи и ПО. Кстати, заглушение GPS не панадол.

>Историю про деревянную бомбу помните?

нет. но любопытно (можно в личку).
От Estel
К Alexeich (30.06.2016 13:00:04)
Дата 30.06.2016 13:24:41

Re: Неудачный пример


>нет. но любопытно (можно в личку).

История вполне топична.

Фрицы построили на берегу Ла-Манша фальшивый аэродром, на котором расставили деревянные самолёты. Ночью прилетел одинокий английский самолёт и сбросил на этот аэродром деревянную бомбу.
От Round
К Estel (30.06.2016 13:24:41)
Дата 30.06.2016 18:15:51

Re: Неудачный пример


>>нет. но любопытно (можно в личку).
>
>История вполне топична.

>Фрицы построили на берегу Ла-Манша фальшивый аэродром, на котором расставили деревянные самолёты. Ночью прилетел одинокий английский самолёт и сбросил на этот аэродром деревянную бомбу.

Где-то попадалось продолжение, что после этого немцы разместили там уже настоящие самолеты, после чего поледовал налет авиации и был сброшен вымпел с надписью что-то типа "ну вот совсем другое дело".
Хотя наверняка байка конечно
От Моцарт
К Alexeich (30.06.2016 12:38:35)
Дата 30.06.2016 12:44:59

Re: Неудачный пример

>Сегодня мы имее бОльший процент опознаний ИИ. чем живым "интуитивным" человеком.

Ну я надену на ограбление банка латексную маску и буду опознан как Путин В.В., 1952 г.р. Чистая победа ИИ.

>Почему же мантра, взломать хорошую криптозащиту за ограниченное время можно, но только "статистически".

Почему ограниченное-то, не в полёте же такие вещи делаются. Защита может быть взломана до войны. А массовое применение дронов вскоре даст нам и мат.часть криптографического блока для изучения.
От Alexeich
К Моцарт (30.06.2016 12:44:59)
Дата 30.06.2016 12:57:12

Re: Неудачный пример

>>Сегодня мы имее бОльший процент опознаний ИИ. чем живым "интуитивным" человеком.
>
>Ну я надену на ограбление банка латексную маску и буду опознан как Путин В.В., 1952 г.р. Чистая победа ИИ.

"Срезал"@ Боюсь, и "естественый интеллект" в такой ситуации не справится. Кстати, есть системы опознания, "заточенные" под иные антропогенные показатели. Читал тут на хабре - "мы все под колпаком у совы" - даже по походке зараза опознает.

>>Почему же мантра, взломать хорошую криптозащиту за ограниченное время можно, но только "статистически".
>
>Почему ограниченное-то, не в полёте же такие вещи делаются. Защита может быть взломана до войны.

Мы говорим о разных вещах. Одно - взлом алгоритма, другое - взлом конкретной реализации этого алгоритма, что требует времени и, как правило, решение статистически распределено по времени.

> А массовое применение дронов вскоре даст нам и мат.часть криптографического блока для изучения.

Да что вам даст-то "криптографическая матчасть" - стандартный процессор со стандартным ПО :) Простой и старый как ж... мамонта ssh протокол практически невзламываем онлайн, за "телеграфы" и проч. я не говорю, надаром наши мудумаки хотят по соглядатаю к каждому поставить последним законом, чтоб, значит, унтер-офицерская вдова сама себя высекла, т.к. высечь ее иным способом не выходит. Ну нет меча клаюнца против толпы дронов. кроме хорррошего ЭМ-импульса.