АНБ и SKYNET

Издание Ars Technica опубликовало большой материал о работе программы Агентства национальной безопасности США под названием SKYNET. С её помощью АНБ выявляет и уничтожает потенциальных террористов в Пакистане. Эксперты называют алгоритмы SKYNET «полной чушью». Apparat публикует сокращенный перевод материала.

Согласно документам, опубликованным в прошлом году изданием Intercept, SKYNET основана на массовой слежке за мобильными сетями в Пакистане и алгоритме машинного обучения, который анализирует метаданные о звонках 55 миллионов людей и оценивает вероятность причастности каждого из них к террористическим организациям.

Аналитик данных Патрик Болл, являющийся директором исследований Human Rights Data Analysis Group, рассказал Ars Technica, что алгоритм, с помощью которого АНБ обучает SKYNET анализировать мобильные метаданные, является научно недостоверным. Патрик называет методы АНБ «неуместно оптимистичными», а алгоритмы — «полной чушью».

По данным Бюро расследовательной журналистики, с 2004 года беспилотники убили от 2500 до 4000 людей в Пакистане. Большинство из них были классифицированы американским правительством как «экстремисты». По оценкам Intercept, разработка программы машинного обучения началась не ранее 2007 года.

SKYNET работает подобно коммерческим программам обработки больших данных. Программа собирает метаданные, сохраняет их на облачных серверах АНБ, извлекает из них релевантную информацию, и затем с помощью машинного обучения выявляет потенциальные цели для таргетированной кампании. Но, в отличие от коммерческих приложений, целью кампании являются не продажи, а уничтожение потенциально опасных личностей с помощью беспилотников или наземных военных бригад.


"С помощью метаданных мы можем измерить привычки, круг общения и паттерны перемещения отдельных личностей"
SKYNET собирает данные не только о звонках пользователей мобильных сетей (время, длительность, кто кому звонил), но и о их местоположении, что позволяет строить схемы их перемещений. Выключение мобильного телефона помечается системой как попытка избежать слежки. Смена SIM-карт помечается аналогично — идентификаторы телефонов вшиты в сами устройства, смена карточек на них никак не влияет.

Согласно слайдам из внутренней презентации АНБ, система отслеживает даже смену телефона. Журналисты Ars Technica предполагают, что это возможно благодаря анализу других метаданных, которые не изменяются со сменой телефона, таких как местоположение, перемещение и список контактов.


Параметры, используемые при оценке "террористичности": паттерны перемещения, аналитика поведения
На основании этого массива метаданных SKYNET составляет типичные для людей рутины — кто с кем путешествует, у кого есть общие знакомые, кто проводит ночь с друзьями, посещает другие страны или и вовсе покидает страну. Алгоритм машинного обучения учитывает более 80 параметров при оценке потенциальной «террористичности» человека. Он основан на предположении о том, что поведение террористов значительно отличается от поведения обычных граждан. Тем не менее, как показали документы, опубликованные Intercept, наиболее высоко оцененной целью алгоритма стал журналист Ахмед Заидан, шеф бюро Аль-Джазиры в Исламабаде.


Самая высоко оцененная алгоритмом цель из посещающих Пешавар и Лагор - шеф бюро Аль-Джазиры в Исламабаде Ахмед Заидан
Заидан часто ездил в регионы с повышенной активностью террористов для того, чтобы брать интервью у повстанцев и сообщать оттуда новости. Но вместо того, чтобы разобраться, почему алгоритм выдал такой странный результат, его разработчики из АНБ напротив, включили слайд с Заиданом в свою внутреннюю презентацию как пример успешной работы алгоритма, представив журналиста как «члена Аль-Каиды».

Для обучения алгоритма машинного обучения необходимо «скормить» ему примеры данных реальных террористов. Но проблема в том, что у АНБ нет таких данных, а настоящие террористы вряд ли согласятся пройти опрос от АНБ, отмечает Ars Technica. При обучении алгоритма за основу были взяты данные об известных курьерах террористов.


Население Пакистана — 192 миллиона человек. На момент создания презентации АНБ в 2012 году в стране было 120 миллионов телефонов, из которых Агентство использовало для анализа 55 миллионов. Алгоритм классификации SKYNET анализирует метаданные и, сравнивая их с набором данных от известных курьеров, присваивает каждому пользователю оценку.


Пример отчета о поездке от SKYNET
Алгоритм классификации присваивает каждому из 80 параметров цифровое значение, а затем с помощью машинного обучения оценивает вероятность того, что пользователь телефона является террористом. При этом, согласно слайдам, пороговое значение «ложных негативных оценок» при оценке составляет 50%. Это означает, что при таком пороге половина людей, подпадающих под оценку «террорист», считаются невиновными.

Журналисты Ars Technica отмечают: неизвестно, оставили ли порог в 50% из презентации 2012 года в дальнейшем при составлении списка целей. Тем не менее, проблема ложных позитивных оценок осталась.

Патрик Болл объясняет: чем выше порог ложных негативных оценок, тем больше уверенность АНБ в том, что оставшиеся позитивные оценки — верные.


"Cтатистические алгоритмы могут выявлять курьеров с очень низким уровнем ложных оценок, если мы будем отбрасывать половину из них"
Один из слайдов АНБ гласит: «Cтатистические алгоритмы могут выявлять курьеров с очень низким уровнем ложных оценок, если мы будем отбрасывать половину из них». Но насколько низок этот «низкий уровень» ложных оценок АНБ на самом деле?

Болл объясняет: проблема в том, какие данные берутся за основу для обучения алгоритма. АНБ оценивает качество работы SKYNET с помощью набора данных 100 000 случайно выбранных пользователей и данных семи известных террористов. Данные шести из них используются для обучения программы, которая потом должна найти седьмого в общем массиве данных. Результаты этого теста и дают процент ложных позитивных оценок на слайде выше.

У АНБ слишком мало «известных» террористов, чтобы использовать их данные и для обучения, и для тестирования алгоритма, говорит Болл. «Нельзя тестировать алгоритм на тех же данных, на которых он обучается. Обычно часть данных оставляют вне процесса обучения. В тесте должны быть записи, с которыми алгоритм ранее не сталкивался. Без этого оценка пригодности алгоритма получается чрезмерно завышенной.»

К тому же, «известные» террористы формируют плотно связанный между собой кластер, в то время как любой маленький граф случайно выбранных граждан будет практически несвязанным. Методически правильно было бы смешать известных террористов с обычными гражданами до формирования случайной выборки тестовых данных. Но из-за их мизерного количества это не имеет смысла.

То, что кажется академическими тонкостями, по словам Болла, критически влияет на качество работы алгоритма, приводит к некорректной классификации людей как «террористов» и их последующему уничтожению. К тому же, используемый алгоритм машинного обучения (метод случайного леса) склонен к так называемому переобучению — часто он плохо работает с данными, которые не участвовали в обучении и завышает результаты оценки.


0,18% от 55 миллионов - это 99 000 людей, потенциально записанных в "террористы"
При пороговом значении «ложных негативных оценок» в 50% (при котором половина вероятных террористов не попадают под такую классификацию), показатель ложных позитивных оценок составляет 0,18%. В масштабах Пакистана это означает потенциальные гибели тысяч невиновных людей. 0,18% от 55 миллионов — это 99 000 людей.

Алгоритм предполагает, что среди населения много террористов, что на самом деле не так — террористы составляют очень малую часть населения. К тому же, модель не способна распознать террористов, чье поведение отлично от поведения уже зафиксированных террористов, на которых обучили модель.

Самые качественные коммерческие приложения, обрабатывающие большие данные, имеют показатель ошибочной оценки в 0,008%. Это допустимое отклонение, когда ошибкой является показ баннера не тому пользователю или неправильное списание со счета. Но 0,008% населения Пакистана — это 15 000 человек, которые могут быть по ошибке классифицированы и уничтожены как террористы.

Авторы Аrs Technica отмечают, что многие факты про SKYNET остаются неизвестными. «Рассматривают ли аналитики SKYNET данные каждого подозреваемого в терроризме перед его уничтожением? Предпринимаются ли попытки задержать подозреваемых в терроризме? Как может правительство США быть увереным в том, что не убивает невиновных граждан, если алгоритм, составляющий расстрельные списки, имеет такие явные недостатки?»

Документы АНБ, утекшие в сеть, совершенно точно говорят об одном: тысячи невиновных людей получают отметку «террорист». Что с ними происходит потом, неизвестно. Составить полную картинку практически невозможно — АНБ не ответило на вопросы издания Аrs Technica ни до, ни после публикации.

Кристиан Гротофф и Джей Порап завершают свой материал опасением о том, что власти смогут использовать подобные программы и внутри США. Например, для выявления наркоторговцев, протестующих и других потенциально опасных личностей. «Легко игнорировать убийство людей на основании метаданных в далекой стране. Но что будет, если SKYNET будет обращен, если уже не обращен, против нас?»

> алгоритм, с помощью которого АНБ обучает SKYNET анализировать мобильные метаданные, является научно недостоверным

Во-первых, какая разница, лишь бы работал.

Во-вторых, научность - не критерий истинности.

В-третьих, алгоритм не обязательно имеет хоть какое-то отношение к науке, это может быть и инженерия.

В-четвёртых, слово "обучает" как бы намекает, что это не алгоритм в обычном понимании, а более сложная система.

Вкратце, ложный аргумент, использование эмоционального "положительного" наполнения слова "наука".

Где-то мы это уже проходили...

..."расстрельные списки демократии"?!

Прямо "Зенитные кодексы Аль-Эфесби" из сборника "Ананасная вода для прекрасной дамы" Пелевина.

Тудум-тум-тудум, тудум-тум-тудум.

Почему-то вспомнился фильм с Томом Кукурузом - Minority Report.

Звездец извините. После этого даже у скайнет из 4 части с интеллектом полный порядок. А ну как эту программу сперва в США проверить ?

Срочно звоните Джону Конору

Кому: necro-tor, #6

Тудудуу, туу, дуу, дууу.

Тысячи невинно убитых граждан. Плюс убивали с беспилотника, добавляй детишек с тёщями. И эти люди говорят что мы не разбираемся в сортах террористов в Сирии.

Блин, всё, как фильмах про Джейсона Борна.

Кому: Цитата, #1

> Издание Ars Technica опубликовало большой материал о работе программы Агентства национальной безопасности США под названием SKYNET. С её помощью АНБ выявляет и уничтожает потенциальных террористов в Пакистане. Эксперты называют алгоритмы SKYNET «полной чушью».

Но надо рассказывать о слепой машине сталинских репрессий.

"Убивайте всех, Господь узнает своих"

Был такой фильм "Бразилия" там есть яркий пример как система ошиблась.
И отработала честного семьянина.

Кому: pell, #2

> В-третьих, алгоритм не обязательно имеет хоть какое-то отношение к науке, это может быть и инженерия.
>
> В-четвёртых, слово "обучает" как бы намекает, что это не алгоритм в обычном понимании, а более сложная система.

Видимо, экспертная система, призванная сузить круг подозреваемых в терроризме и помочь оперативникам выявить наиболее подозрительных. Экспертные системы работают во многих отраслях человеческой деятельности, решение в любом случае за людьми. Так что журналюги подняли шум из ничего, вместо того, что бы просто рассказать об интересной разработке ЦРУ.

Нам обзорно про такие штуки в инсте рассказывали (специальность не моя), там широко используются нейронные сети. Воссоздание нейронной сети в вычислительной среде всё равно приводит к работе по алгоритму, хоть и по сложному.

Дерьмократия в действии.

Возникает вопрос к пакистанцам - у вас суверенная страна и ядерная держава, или какой-то экспериментальный обезьянник?

Где-то мы это уже проходили...

Фантастический фильм Бразилия - светлое будущее, человека арестовали и замучили до смерти из-за опечатки в документе (Татл - Батл, какая разница, что не того поймали).
Полицейское государство, однако.

какая слепая машина сталинских репрессий? Хорошо вбил в умы масс товарищ Никита Хрушов сказки и мифы им же выдуманные.

Хехе как лекарства сначала отлаживают на крысах, а потом уж на людях. Плюс минус несколько тысяч Пакистанцев ни кого не интересуют. Такое сразу в штатах испытывать нельзя.

Ну и это еще намёк - кто производит магистральные коммутаторы тот всех и имеет. В РФ они не производятся.

Блин, ничего толком придумать не могут! Название - и то сплагиатили

В тему новости понравился комментарий к твиту Обамы, мол, скоро он заедет на Кубу:

> Обама едет на Кубу, где США устроили фабрику пыток в Гуантанамо, читать лекции о правах человека

https://twitter.com/charlesfrith/status/700938050671489025

Кому: Andrey_1976, #15

> Был такой фильм "Бразилия" там есть яркий пример как система ошиблась.
> И отработала честного семьянина.

Притом счет за отработку прислали его жене и дочери.

Кому: udovenkoav, #21

> Ну и это еще намёк - кто производит магистральные коммутаторы тот всех и имеет. В РФ они не производятся.

Кроникс, Морион и ещё ряд других отечественных контор продолжают свой путь к мировому господству.

Кому: milo, #7

> Почему-то вспомнился фильм с Томом Кукурузом - Minority Report

а еще был "Враг государства" с Уиллом нашим Смитом

Было интересресно посмотреть разведопрос на тему Пакистана, очень много неясного: 120 миллионов населения, исламисты, с ядерным оружием, территория страны маленькая, США там постоянно нарушает суверенность. Не проснётся ли у них самосознание так что они пойдут захватывать соседние мелкие страны?

> Кристиан Гротофф и Джей Порап завершают свой материал опасением о том, что власти смогут использовать подобные программы и внутри США.

Вот граждане самой демократичной страны не переживают за другие странны, а опасаются а ну как "власти смогут использовать подобные программы и внутри США" (читай, а ну как решать этов се на людях использовать).

Кому: necro-tor, #6

> Тудум-тум-тудум, тудум-тум-тудум.

Имперский марш?

Напоминает сюжет одного хорошего сериала)))

Скайнет, убийства... что - то в голове крутится, какая - то знакомая история...

здравствуй однополярный мир.
интересно что придурок горбачёв на эту тему имеет сказать

Кому: eugeneval, #5

> Прямо "Зенитные кодексы Аль-Эфесби" из сборника "Ананасная вода для прекрасной дамы" Пелевина.

Слим Шэди дринк нигер писс!!1

Кому: Andrey_1976, #15

> Был такой фильм "Бразилия" там есть яркий пример как система ошиблась.
> И отработала честного семьянина.

А ещё там в одной сцене один крупный начальник не моргнув глазом сказал:
"Половина террористы, остальные жертвы".
Вот так решаются судьбы людей в том фильме.

когда-нибудь все хорошие люди соберутся вместе, и поубивают всех плохих.
у них обязательно получится, ведь, как известно, добро всегда побеждает зло.
поэтому кто живой останется - тот добрый и хороший.
и начинать лучше пораньше.

Ааа... уже ничего не удивляет.

Кому: a.flegon, #29

> Кому: necro-tor, #6
>
> > Тудум-тум-тудум, тудум-тум-тудум.
>
> Имперский марш?

"Ну вы, блин, даёте!"(ц) х/ф "Особенности национальной рыбалки"

Terminator 2: Judgment Day theme
https://www.youtube.com/watch?v=3Xjir3YSUA8&index

слава роботам, убить всех человеков! что тут ещё скажешь?

Так они, по ходу, даже не слушают. Кого убить, решает программа.

Вот просто так на основании алгоритма.
Без суда и следствия.
А где то рассуждают о моратории на смертную казнь.

Забавно. Как раз недавно посмотрел фильм "Первый мститель 2" про капитана Америку, где вот тем же самым собирались заниматься последователи нацистов. Что же это получается, АНБ не чуть не лучше "гидры"?!

Кому: Wahmet, #41

> Забавно. Как раз недавно посмотрел фильм "Первый мститель 2" про капитана Америку, где вот тем же самым собирались заниматься последователи нацистов. Что же это получается, АНБ не чуть не лучше "гидры"?!

Самое забавное там в том, что заниматься "гидры" этим собирались сидя в "щите" - организации призванной "гидру" забарывать.

Эту б энергию да в мирных целях.

Алгоритм можно улучшить очевидным образом.
Собрать данные о 100 000 случайно выбранных россиянах и проанализировать их.
Очевидно же, что каждый россиянин - террорист.

Бред какой. Нормального распознавания речи нет. Учитывая диалекты, дефекты и жаргонизмы будет очень не скоро. Вычислять по времени и количеству звонков - бессмысленно + альтернативные способы связи (скайп, рация, стационарный телефон). В общем главный террорист - разносчик пиццы!
Учитывая количество бала вбуханного в систему - проще купить весь Пакистан оптом и не париться!
Пы.сы. Однако - 190 млн. человек - прям поразило (к стыду моему). На такой маленькой территории (34 в мире), это ж какой котел. Много становится понятней.

Кому: Прораб, #11

> Тысячи невинно убитых граждан. Плюс убивали с беспилотника, добавляй детишек с тёщями. И эти люди говорят что мы не разбираемся в сортах террористов в Сирии.

«Россия действует методом тотального разрушения в противовес американцам и израильтянам, которые стараются поражать цели точно. Когда они хотят завоевать какой-либо район, то они превращают его в перепаханную землю», — это одно из самых запоминающихся высказываний сирийского оппозиционера.

Вы на себя в Сирии посмотрите!!! Сначала добейся - потом критикуй!!!

Кому: pell, #2

> Вкратце, ложный аргумент, использование эмоционального "положительного" наполнения слова "наука".

А еще они забыли определить, что значит "научно достоверный" в их понимании. Люди сами придумывают критерии, по которым потом оценивают разные вещи, что, на мой взгляд, хорошо видно, когда задаются критерии для подобных алгоритмов:

- Сколько возьмём пороговое значение?
- Хмм, давайте погоняем этот алгоритм на удобной нам выборке и подкрутим так, чтобы заказчик был доволен!
...
- Пусть будет 50%!

В догонку:

int getRandomNumber()
{
return 4; // chosen by fair dice roll.
// guaranteed to be random.
}

https://www.explainxkcd.com/wiki/index.php/221:_Random_Number

Наткнулся на великолепное и прекрасное: «свобода» слова на «Западе», контролируется на 90% шестью корпорациями. А вы про какой-то скайнет талдычите.
http://www.businessinsider.com/these-6-corporations-control-90-of-the-media-in-america-2012-6

Кому: Sparrow5441, #25

> Кроникс, Морион и ещё ряд других отечественных контор продолжают свой путь к мировому господству.

Ну это как бе комутаторы просто для езернет/интернет траффика, это не оборудование для сотовых сетей. Речь про то что стоит на сотовых вышках и отправляет голосовой трафик и управляющий на сервера оператора. Какие там ОС стоят - естественно с полностью закрытым кодом да с связью с лицензионными серверами на территории производителя. Как правило это всякие эриксоны, сименсы, нокии.

Отественное что-то ставят но это на каналах спец связи и военным.

А имея доступ к метаданным выцепить обычную преступную группу весьма просто - доступно обычному районному оперу. Вот тут очень простым языком http://www.yaplakal.com/forum7/topic1307250.html А имея хороших математиков и компьютеры - можно реально делать очень интересные вещи.

Кому: rafiskin, #26

Отличный фильм, но там-то речь шла как раз не об ошибке, а о спланированных действиях в отношении цели.

Эпизод из Бразилии с товарищами Таттлом и Баттлом выходит новый уровень, да?
https://www.youtube.com/embed/FrSY0Ms29F4?start=185&end=470

Жукова на них нету :)

Заключение "как бы презентации", которая используется в качестве исходных данных:
"Предварительные результаты свидетельствуют, что мы на верном пути, но многое еще предстоит сделать".
Т.е. на момент доклада программа еще даже не претендовала на готовность к применению.

Во что это превращают журналисты:
"Документы АНБ, утекшие в сеть, совершенно точно говорят об одном: тысячи невиновных людей получают отметку «террорист». Что с ними происходит потом, неизвестно."

Внезапно в заметке появляются беспилотники, еще более внезапно они начинают убивать людей - правда задолго до начала работ над обсуждаемой программой (даже до того начала, которое по слухам, а не по дате доклада).

Для пущей убедительности через слово вставляются мистические "метаданные" - термин, значения которого автор заметки, видимо, не представляет, но звучание ему понравилось.

И кого вообще волнует, что исходная "утечка" не содержит ни слова, ни намека на какие-либо действия в отношении опознанных курьеров? Да по фигу, есть же слухи!

Вот так и рождаются теории заговоров :)

Кому: URAS, #24

> Притом счет за отработку прислали его жене и дочери.

Подобное, как раз практиковалось в нацистской германии.

Кому: dima-314, #40

> А где то рассуждают о моратории на смертную казнь.

У них же самая правильная "демократия", им можно, а для остальных "демократия" для соблюдения ихних интересов. Иначе это кровавый диктатор, его пора бомбить, что бы туда то же пришла "демократия"...

Если уж взялись пересказывать финал 3ьего сезона "В поле зрения", то и называли бы не Skynetom, а "Самаритянином". Ну и описание как работают алгоритмы - смешная херь, для всех кто что-то знает про ML.

Кому: a.flegon, #29

> Тудум-тум-тудум, тудум-тум-тудум.
>
> Имперский марш?

Ты чего? Имперский марш - это Тум-тум-тум. Тум-тудум. Тум-тудум!

> Заидан часто ездил в регионы с повышенной активностью террористов для того, чтобы брать интервью у повстанцев и сообщать оттуда новости. Но вместо того, чтобы разобраться, почему алгоритм выдал такой странный результат, его разработчики из АНБ напротив, включили слайд с Заиданом в свою внутреннюю презентацию как пример успешной работы алгоритма, [представив журналиста как «члена Аль-Каиды»].

Какое-то передёргивание.
Понятно, что журналиста вставили просто потому, что реальных террористов вставлять - это как в презентацию полиции вставлять действующего главаря ОПГ: "мы тут слежку вот за этим гражданином пристальную ведём".
А журналист отлично подходит: и результаты работы показывает алгоритмов, и "все понимают", что это - не террорист.

> Ни тебе суда, ни тебе следствия.
Послушал телефон — и убил.

Так кому это надо? Все эти суды, следствия. Всё это прошлый век! Это ж не в Америке убивают. Если бы в Америке убивали - другое дело. А если каких-нибудь африканцев - так их и не жалко. Это ж демократия!

Кому: Andrey_1976, #15

> Был такой фильм "Бразилия" там есть яркий пример как система ошиблась.

Есть и реальная история - мужика перепутали с терористом, незаконно арестовали, держали в гуанатамо и пытали: http://www.ntv.ru/novosti/77986/

Кому: никитG, #32

> интересно что придурок горбачёв на эту тему имеет сказать

Что-нибудь типа "они не должны были этого делать".

Внимательно смотрю его интервью, слежу за мимикой, ходом мыслей.
Забавно наблюдать, как его настигает старческая деменция. Подлец и лицемер, пытается следовать намеченной линии, а между головой и речевым аппаратом аппаратом идёт рассогласование.

Мерзкое зрелище.

Кому: savrey, #55

> Тудум-тум-тудум

Ну что вы! Это же Терминатор.

Ответим им терминаторами собственного производства! Хана вашему "скайнету"!

http://www.interfax.ru/russia/495524

Кому: Прораб, #11

Откуда известно, что убивали по этим данным, а не проверяли тех людей, на кого указывал алгоритм?

Кому: nikolkas_spb, #45

Сколько бабла вбухано? Ты сам лично продашься за эту сумму, деленную на сто девяносто миллионов?

вот так обсудишь с друзьями зарубу в каунтерстрайк и тебя шлепнут!

Это что же получается? Скайнет не выдумка?!

Кому: Bublcs, #30

Аналогично подумал. Person of Interest - Season 6: "In real life", только не смешно от слова "вообще".

Кому: Вратарь-дырка, #62

> Кому: nikolkas_spb, #45
>
> Сколько бабла вбухано? Ты сам лично продашься за эту сумму, деленную на сто девяносто миллионов?

Там миллиарды. Не надо всех. Часть власти, часть террористов, часть осведомителей.
Учитывая постоянное вливание на тех.обслуживание, спецов и т.д. сумма (на мой взгляд) вполне достаточная. А еще лучше - вычислить тех, кто дает деньги с той стороны и работать с ними.

Кому: nikolkas_spb, #66

Власти и покупать надо за большие суммы. Высших чиновников и за миллиард зачастую не купишь: если он захочет наворовать, будучи высшим чиновником, он наворует больше. Не надо думать, что вот взять и всех купить - это вот так вот просто. Более того, ты всех купил, а завтра они тебя нахер послали, покупай их заново (масса примеров таких была в Риме: сначала ты купил себе пост императора, а завтра преторианцы попросили еще денег, ибо те уже прокутили.

Кому: Вратарь-дырка, #62

> Откуда известно, что убивали по этим данным, а не проверяли тех людей, на кого указывал алгоритм?

да бред это
даже двинутые на высоких технологиях американцы вряд ли решились доверить компьютеру самостоятельно убивать

Кому: MikeSP, #33

> Слим Шэди дринк нигер писс!!1

Точно) Сломаем Скайнет кодексами Скотенкова!
«Те, кто говорит, что души у человека нет, а машина может думать и чувствовать, как мы — это люди без души, кяфиры, которых не существует даже для самих себя. Они есть только для внешнего наблюдателя, и такова вся Америкия, посланная нам в испытание Аллахом: ее фальшивого фасада нет нигде, кроме как в наших глазах в то время, когда мы смотрим телевизор. Сколь же велика будет наша награда, когда мы прорвемся сквозь этот мираж и победим…»

В моем городке 2 провайлера - Ростелеком и Скайнет. Я на РТ , а вот брата предупрежу!!!

Кому: pell, #2

> В-четвёртых, слово "обучает" как бы намекает, что это не алгоритм в обычном понимании, а более сложная система.

Возможно, имелась в виду сомнительность обучающей выборки:

> проблема в том, какие данные берутся за основу для обучения алгоритма. АНБ оценивает качество работы SKYNET с помощью набора данных 100 000 случайно выбранных пользователей и данных семи известных террористов. Данные шести из них используются для обучения программы, которая потом должна найти седьмого в общем массиве данных. Результаты этого теста и дают процент ложных позитивных оценок на слайде выше.

Вся обучающая выборка состоит из 6-ти наборов данных. Для системы, генерирующей на выходе настолько серьезные выводы (террорист/не террорист) это просто смешная цифра.
Другое дело - как используются полученные данные. Если выходные данные системы используются как исходные для других видов разведки (агентурной например), то это вполне себе рабочий аналитический инструмент. А вот если по каждому новообнаруженному "террористу" будет вылетать беспилотник (кстати, очень удобно - можно автоматизитовать) с бомбой - это уже перебор.

Подобные системы просто ОБЯЗАНЫ появиться у всех стран. Не обязательно для убийств, но для регистрации жизненного потока граждан. Пусть накопленное лежит свои годы, ведь хранение гигабайтов ничего не стоит. А с другой стороны к этому делу помогают орды любителей селфи, чек-инов, желающих поделиться своими делами и идеями публично. Добро пожаловать в Матрицу, человеки

Понятно.
Убивайте всех, на том свете разберутся.

Скайнет, метаданные, "большой брат смотрит на тебя"...

Прочитал статью, и вот какая мысль забралась в мозг.

Был я недавно на общешкольном собрании касательно проведения егэ у моего старшего.

И, такая, зам. директора по учебной работе говорит: "Нередки случаи, что наблюдатели за процессом егэ, которые следят за экзаменуемыми по вебкамерам из Москвы, могут неправильно интерпретировать движения ваших детей (залез в карман, невзначай почесался...) и аннулировать результат экзамена.

На резонные возмущения родительского контингента, был дан пиздатый совет довести до детей, что излишие телодвижения в процессе сдачи недопустимы.

И чем я должен мотивировать сына??!

"Ты должен поступить в ВУЗ, получить хорошую перспективную специальность, готовься, ходи к репетитору, пытаться получить высший балл и НЕ В КОЕМ СЛУЧАЕ НЕ ЧЕШИ на экзамене ЯЙЦО!!!"

То есть, при прочих равных, результат зависит от некой (невыспавшейся, отвлёкшейся) девушки где-то в Москве, которая неправильно интерпретирует увиденное...

А вы мне тут про скайнет.

Кому: Manti, #68

> американцы вряд ли решились доверить компьютеру самостоятельно убивать

Людей, наверно, нет, не решились. Но для англосаксов не все люди считаются "людьми".
Сколько мирных жителей погибло, например, в Ираке? Кого то это сильно на западе волнует? Ну убьют еще пару тысяч по ошибке, какая разница.

Кому: pell, #2

> В-третьих, алгоритм не обязательно имеет хоть какое-то отношение к науке, это может быть и инженерия.

Есть мнение, что не всем камрадам стоит браться судить о "инженерности или научности алгоритмов". Или алгоритм может иметь отношение к... религии?



Кому: Советский_Прибалт, #75

> Ну убьют еще пару тысяч по ошибке, какая разница.

Ну да, collateral damage, май асс!



Кому: Rus_Dmitry, #47

> int getRandomNumber()
> {
> return 4; // chosen by fair dice roll.
> // guaranteed to be random.
> }

[woett!]

После прочтения последнего предложения, аж руки зачесались нажать кнопочку, чтоб прорыть пролив между Мексикой и Канадой.

Слава роботам! Инженерам слава!

Кому: AnTev., #74

> Был я недавно на общешкольном собрании касательно проведения егэ у моего

ЕГЭ это отдельный кошмарик.
С ЕГЭ никаких скайнетов не потребуется, все поубиваемся о небесную твердь.

Кому: Александр Савин, #76

> Есть мнение, что не всем камрадам стоит браться судить о "инженерности или научности алгоритмов". Или алгоритм может иметь отношение к... религии?

Да и к идиотизму, почему бы и нет.

"-Люди будут отстранены от решений по стратегической обороне. Скорость обучения SKYNET начнет расти в геометрической прогрессии. Она начнет осознавать себя в 02:14 по местному времени, 29 августа 2029 года. Люди попытаются отключить систему, но..
-Скайнет нанесет ответный удар.
-Да. Она запустит ракеты по стратегическим объектам в России.
-Почему по России? Мы же теперь с ними вроде дружим.
-Скайнет знает, что ответный удар русских уничтожит врагов Скайнет здесь."

Чего-то неуютно как-то стало сейчас. Дядька Кэмерон не в будущее там смотрел случайно?

Профессионалов похоже даже в разведке не осталось. Проще большой калькулятор разработать и кнопочку нажать - пусть прорежает население, ведь есть же процент попасть в террарюгу.
Вот бы так руководителей в Пентагоне и АНБ проверяли. Говоришь работает - покажи на себе.