• Новости
  • Заметки
  • Картинки
  • Видео
  • Переводы
  • Опергеймер
  • Проекты
  • Магазин

АНБ и SKYNET

20.02.16 10:55 | Goblin | 82 комментария

Война

Цитата:
SKYNET работает подобно коммерческим программам обработки больших данных. Программа собирает метаданные, сохраняет их на облачных серверах АНБ, извлекает из них релевантную информацию, и затем с помощью машинного обучения выявляет потенциальные цели для таргетированной кампании. Но, в отличие от коммерческих приложений, целью кампании являются не продажи, а уничтожение потенциально опасных личностей с помощью беспилотников или наземных военных бригад.

"С помощью метаданных мы можем измерить привычки, круг общения и паттерны перемещения отдельных личностей" SKYNET собирает данные не только о звонках пользователей мобильных сетей (время, длительность, кто кому звонил), но и о их местоположении, что позволяет строить схемы их перемещений. Выключение мобильного телефона помечается системой как попытка избежать слежки. Смена SIM-карт помечается аналогично — идентификаторы телефонов вшиты в сами устройства, смена карточек на них никак не влияет.
Программа АНБ SKYNET, возможно, убивает тысячи невиновных людей

Ни тебе суда, ни тебе следствия.
Послушал телефон — и убил.
Вконтакте
Одноклассники
Google+

Комментарии


cтраницы: 1 всего: 82

Цитата
отправлено 20.02.16 10:55 # 1


Издание Ars Technica опубликовало большой материал о работе программы Агентства национальной безопасности США под названием SKYNET. С её помощью АНБ выявляет и уничтожает потенциальных террористов в Пакистане. Эксперты называют алгоритмы SKYNET «полной чушью». Apparat публикует сокращенный перевод материала.

Согласно документам, опубликованным в прошлом году изданием Intercept, SKYNET основана на массовой слежке за мобильными сетями в Пакистане и алгоритме машинного обучения, который анализирует метаданные о звонках 55 миллионов людей и оценивает вероятность причастности каждого из них к террористическим организациям.

Аналитик данных Патрик Болл, являющийся директором исследований Human Rights Data Analysis Group, рассказал Ars Technica, что алгоритм, с помощью которого АНБ обучает SKYNET анализировать мобильные метаданные, является научно недостоверным. Патрик называет методы АНБ «неуместно оптимистичными», а алгоритмы — «полной чушью».

По данным Бюро расследовательной журналистики, с 2004 года беспилотники убили от 2500 до 4000 людей в Пакистане. Большинство из них были классифицированы американским правительством как «экстремисты». По оценкам Intercept, разработка программы машинного обучения началась не ранее 2007 года.

SKYNET работает подобно коммерческим программам обработки больших данных. Программа собирает метаданные, сохраняет их на облачных серверах АНБ, извлекает из них релевантную информацию, и затем с помощью машинного обучения выявляет потенциальные цели для таргетированной кампании. Но, в отличие от коммерческих приложений, целью кампании являются не продажи, а уничтожение потенциально опасных личностей с помощью беспилотников или наземных военных бригад.


"С помощью метаданных мы можем измерить привычки, круг общения и паттерны перемещения отдельных личностей"
SKYNET собирает данные не только о звонках пользователей мобильных сетей (время, длительность, кто кому звонил), но и о их местоположении, что позволяет строить схемы их перемещений. Выключение мобильного телефона помечается системой как попытка избежать слежки. Смена SIM-карт помечается аналогично — идентификаторы телефонов вшиты в сами устройства, смена карточек на них никак не влияет.

Согласно слайдам из внутренней презентации АНБ, система отслеживает даже смену телефона. Журналисты Ars Technica предполагают, что это возможно благодаря анализу других метаданных, которые не изменяются со сменой телефона, таких как местоположение, перемещение и список контактов.


Параметры, используемые при оценке "террористичности": паттерны перемещения, аналитика поведения
На основании этого массива метаданных SKYNET составляет типичные для людей рутины — кто с кем путешествует, у кого есть общие знакомые, кто проводит ночь с друзьями, посещает другие страны или и вовсе покидает страну. Алгоритм машинного обучения учитывает более 80 параметров при оценке потенциальной «террористичности» человека. Он основан на предположении о том, что поведение террористов значительно отличается от поведения обычных граждан. Тем не менее, как показали документы, опубликованные Intercept, наиболее высоко оцененной целью алгоритма стал журналист Ахмед Заидан, шеф бюро Аль-Джазиры в Исламабаде.


Самая высоко оцененная алгоритмом цель из посещающих Пешавар и Лагор - шеф бюро Аль-Джазиры в Исламабаде Ахмед Заидан
Заидан часто ездил в регионы с повышенной активностью террористов для того, чтобы брать интервью у повстанцев и сообщать оттуда новости. Но вместо того, чтобы разобраться, почему алгоритм выдал такой странный результат, его разработчики из АНБ напротив, включили слайд с Заиданом в свою внутреннюю презентацию как пример успешной работы алгоритма, представив журналиста как «члена Аль-Каиды».

Для обучения алгоритма машинного обучения необходимо «скормить» ему примеры данных реальных террористов. Но проблема в том, что у АНБ нет таких данных, а настоящие террористы вряд ли согласятся пройти опрос от АНБ, отмечает Ars Technica. При обучении алгоритма за основу были взяты данные об известных курьерах террористов.


Население Пакистана — 192 миллиона человек. На момент создания презентации АНБ в 2012 году в стране было 120 миллионов телефонов, из которых Агентство использовало для анализа 55 миллионов. Алгоритм классификации SKYNET анализирует метаданные и, сравнивая их с набором данных от известных курьеров, присваивает каждому пользователю оценку.


Пример отчета о поездке от SKYNET
Алгоритм классификации присваивает каждому из 80 параметров цифровое значение, а затем с помощью машинного обучения оценивает вероятность того, что пользователь телефона является террористом. При этом, согласно слайдам, пороговое значение «ложных негативных оценок» при оценке составляет 50%. Это означает, что при таком пороге половина людей, подпадающих под оценку «террорист», считаются невиновными.

Журналисты Ars Technica отмечают: неизвестно, оставили ли порог в 50% из презентации 2012 года в дальнейшем при составлении списка целей. Тем не менее, проблема ложных позитивных оценок осталась.

Патрик Болл объясняет: чем выше порог ложных негативных оценок, тем больше уверенность АНБ в том, что оставшиеся позитивные оценки — верные.


"Cтатистические алгоритмы могут выявлять курьеров с очень низким уровнем ложных оценок, если мы будем отбрасывать половину из них"
Один из слайдов АНБ гласит: «Cтатистические алгоритмы могут выявлять курьеров с очень низким уровнем ложных оценок, если мы будем отбрасывать половину из них». Но насколько низок этот «низкий уровень» ложных оценок АНБ на самом деле?

Болл объясняет: проблема в том, какие данные берутся за основу для обучения алгоритма. АНБ оценивает качество работы SKYNET с помощью набора данных 100 000 случайно выбранных пользователей и данных семи известных террористов. Данные шести из них используются для обучения программы, которая потом должна найти седьмого в общем массиве данных. Результаты этого теста и дают процент ложных позитивных оценок на слайде выше.

У АНБ слишком мало «известных» террористов, чтобы использовать их данные и для обучения, и для тестирования алгоритма, говорит Болл. «Нельзя тестировать алгоритм на тех же данных, на которых он обучается. Обычно часть данных оставляют вне процесса обучения. В тесте должны быть записи, с которыми алгоритм ранее не сталкивался. Без этого оценка пригодности алгоритма получается чрезмерно завышенной.»

К тому же, «известные» террористы формируют плотно связанный между собой кластер, в то время как любой маленький граф случайно выбранных граждан будет практически несвязанным. Методически правильно было бы смешать известных террористов с обычными гражданами до формирования случайной выборки тестовых данных. Но из-за их мизерного количества это не имеет смысла.

То, что кажется академическими тонкостями, по словам Болла, критически влияет на качество работы алгоритма, приводит к некорректной классификации людей как «террористов» и их последующему уничтожению. К тому же, используемый алгоритм машинного обучения (метод случайного леса) склонен к так называемому переобучению — часто он плохо работает с данными, которые не участвовали в обучении и завышает результаты оценки.


0,18% от 55 миллионов - это 99 000 людей, потенциально записанных в "террористы"
При пороговом значении «ложных негативных оценок» в 50% (при котором половина вероятных террористов не попадают под такую классификацию), показатель ложных позитивных оценок составляет 0,18%. В масштабах Пакистана это означает потенциальные гибели тысяч невиновных людей. 0,18% от 55 миллионов — это 99 000 людей.

Алгоритм предполагает, что среди населения много террористов, что на самом деле не так — террористы составляют очень малую часть населения. К тому же, модель не способна распознать террористов, чье поведение отлично от поведения уже зафиксированных террористов, на которых обучили модель.

Самые качественные коммерческие приложения, обрабатывающие большие данные, имеют показатель ошибочной оценки в 0,008%. Это допустимое отклонение, когда ошибкой является показ баннера не тому пользователю или неправильное списание со счета. Но 0,008% населения Пакистана — это 15 000 человек, которые могут быть по ошибке классифицированы и уничтожены как террористы.

Авторы Аrs Technica отмечают, что многие факты про SKYNET остаются неизвестными. «Рассматривают ли аналитики SKYNET данные каждого подозреваемого в терроризме перед его уничтожением? Предпринимаются ли попытки задержать подозреваемых в терроризме? Как может правительство США быть увереным в том, что не убивает невиновных граждан, если алгоритм, составляющий расстрельные списки, имеет такие явные недостатки?»

Документы АНБ, утекшие в сеть, совершенно точно говорят об одном: тысячи невиновных людей получают отметку «террорист». Что с ними происходит потом, неизвестно. Составить полную картинку практически невозможно — АНБ не ответило на вопросы издания Аrs Technica ни до, ни после публикации.

Кристиан Гротофф и Джей Порап завершают свой материал опасением о том, что власти смогут использовать подобные программы и внутри США. Например, для выявления наркоторговцев, протестующих и других потенциально опасных личностей. «Легко игнорировать убийство людей на основании метаданных в далекой стране. Но что будет, если SKYNET будет обращен, если уже не обращен, против нас?»


pell
отправлено 20.02.16 11:07 # 2


> алгоритм, с помощью которого АНБ обучает SKYNET анализировать мобильные метаданные, является научно недостоверным

Во-первых, какая разница, лишь бы работал.

Во-вторых, научность - не критерий истинности.

В-третьих, алгоритм не обязательно имеет хоть какое-то отношение к науке, это может быть и инженерия.

В-четвёртых, слово "обучает" как бы намекает, что это не алгоритм в обычном понимании, а более сложная система.

Вкратце, ложный аргумент, использование эмоционального "положительного" наполнения слова "наука".


VanyaAnd1
отправлено 20.02.16 11:09 # 3


Где-то мы это уже проходили...


boobite
камрадесса
отправлено 20.02.16 11:09 # 4


..."расстрельные списки демократии"?!


eugeneval
отправлено 20.02.16 11:09 # 5


Прямо "Зенитные кодексы Аль-Эфесби" из сборника "Ананасная вода для прекрасной дамы" Пелевина.


necro-tor
отправлено 20.02.16 11:10 # 6


Тудум-тум-тудум, тудум-тум-тудум.


milo
отправлено 20.02.16 11:11 # 7


Почему-то вспомнился фильм с Томом Кукурузом - Minority Report.


микроэлектронщик
отправлено 20.02.16 11:12 # 8


Звездец извините. После этого даже у скайнет из 4 части с интеллектом полный порядок. А ну как эту программу сперва в США проверить ?


Спион
отправлено 20.02.16 11:12 # 9


Срочно звоните Джону Конору


nex
отправлено 20.02.16 11:13 # 10


Кому: necro-tor, #6

Тудудуу, туу, дуу, дууу.


Прораб
отправлено 20.02.16 11:21 # 11


Тысячи невинно убитых граждан. Плюс убивали с беспилотника, добавляй детишек с тёщями. И эти люди говорят что мы не разбираемся в сортах террористов в Сирии.


Ivan_Kurt
отправлено 20.02.16 11:36 # 12


Блин, всё, как фильмах про Джейсона Борна.


bqbr0
отправлено 20.02.16 11:36 # 13


Кому: Цитата, #1

> Издание Ars Technica опубликовало большой материал о работе программы Агентства национальной безопасности США под названием SKYNET. С её помощью АНБ выявляет и уничтожает потенциальных террористов в Пакистане. Эксперты называют алгоритмы SKYNET «полной чушью».

Но надо рассказывать о слепой машине сталинских репрессий.


Warravan
отправлено 20.02.16 11:40 # 14


"Убивайте всех, Господь узнает своих"


Andrey_1976
отправлено 20.02.16 11:59 # 15


Был такой фильм "Бразилия" там есть яркий пример как система ошиблась.
И отработала честного семьянина.


Маёвец
отправлено 20.02.16 12:08 # 16


Кому: pell, #2

> В-третьих, алгоритм не обязательно имеет хоть какое-то отношение к науке, это может быть и инженерия.
>
> В-четвёртых, слово "обучает" как бы намекает, что это не алгоритм в обычном понимании, а более сложная система.

Видимо, экспертная система, призванная сузить круг подозреваемых в терроризме и помочь оперативникам выявить наиболее подозрительных. Экспертные системы работают во многих отраслях человеческой деятельности, решение в любом случае за людьми. Так что журналюги подняли шум из ничего, вместо того, что бы просто рассказать об интересной разработке ЦРУ.

Нам обзорно про такие штуки в инсте рассказывали (специальность не моя), там широко используются нейронные сети. Воссоздание нейронной сети в вычислительной среде всё равно приводит к работе по алгоритму, хоть и по сложному.


Beytix
отправлено 20.02.16 12:09 # 17


Дерьмократия в действии.


Evgen_Perm
отправлено 20.02.16 12:09 # 18


Возникает вопрос к пакистанцам - у вас суверенная страна и ядерная держава, или какой-то экспериментальный обезьянник?


aldrey
отправлено 20.02.16 12:09 # 19


Где-то мы это уже проходили...

Фантастический фильм Бразилия - светлое будущее, человека арестовали и замучили до смерти из-за опечатки в документе (Татл - Батл, какая разница, что не того поймали).
Полицейское государство, однако.


TJad51
отправлено 20.02.16 12:12 # 20


какая слепая машина сталинских репрессий? Хорошо вбил в умы масс товарищ Никита Хрушов сказки и мифы им же выдуманные.


udovenkoav
отправлено 20.02.16 12:12 # 21


Хехе как лекарства сначала отлаживают на крысах, а потом уж на людях. Плюс минус несколько тысяч Пакистанцев ни кого не интересуют. Такое сразу в штатах испытывать нельзя.

Ну и это еще намёк - кто производит магистральные коммутаторы тот всех и имеет. В РФ они не производятся.


licker
отправлено 20.02.16 12:14 # 22


Блин, ничего толком придумать не могут! Название - и то сплагиатили


Airliner
отправлено 20.02.16 12:25 # 23


В тему новости понравился комментарий к твиту Обамы, мол, скоро он заедет на Кубу:

> Обама едет на Кубу, где США устроили фабрику пыток в Гуантанамо, читать лекции о правах человека

https://twitter.com/charlesfrith/status/700938050671489025


URAS
отправлено 20.02.16 12:28 # 24


Кому: Andrey_1976, #15

> Был такой фильм "Бразилия" там есть яркий пример как система ошиблась.
> И отработала честного семьянина.

Притом счет за отработку прислали его жене и дочери.


Sparrow5441
отправлено 20.02.16 12:28 # 25


Кому: udovenkoav, #21

> Ну и это еще намёк - кто производит магистральные коммутаторы тот всех и имеет. В РФ они не производятся.

Кроникс, Морион и ещё ряд других отечественных контор продолжают свой путь к мировому господству.


rafiskin
отправлено 20.02.16 12:28 # 26


Кому: milo, #7

> Почему-то вспомнился фильм с Томом Кукурузом - Minority Report

а еще был "Враг государства" с Уиллом нашим Смитом


JanLi
отправлено 20.02.16 12:28 # 27


Было интересресно посмотреть разведопрос на тему Пакистана, очень много неясного: 120 миллионов населения, исламисты, с ядерным оружием, территория страны маленькая, США там постоянно нарушает суверенность. Не проснётся ли у них самосознание так что они пойдут захватывать соседние мелкие страны?


0lejka
отправлено 20.02.16 12:38 # 28


> Кристиан Гротофф и Джей Порап завершают свой материал опасением о том, что власти смогут использовать подобные программы и внутри США.

Вот граждане самой демократичной страны не переживают за другие странны, а опасаются а ну как "власти смогут использовать подобные программы и внутри США" (читай, а ну как решать этов се на людях использовать).


a.flegon
отправлено 20.02.16 13:19 # 29


Кому: necro-tor, #6

> Тудум-тум-тудум, тудум-тум-тудум.

Имперский марш?


Bublcs
отправлено 20.02.16 13:19 # 30


Напоминает сюжет одного хорошего сериала)))


blackbear17
отправлено 20.02.16 13:19 # 31


Скайнет, убийства... что - то в голове крутится, какая - то знакомая история...


никитG
отправлено 20.02.16 13:19 # 32


здравствуй однополярный мир.
интересно что придурок горбачёв на эту тему имеет сказать


MikeSP
отправлено 20.02.16 13:19 # 33


Кому: eugeneval, #5

> Прямо "Зенитные кодексы Аль-Эфесби" из сборника "Ананасная вода для прекрасной дамы" Пелевина.

Слим Шэди дринк нигер писс!!1


aldrey
отправлено 20.02.16 13:23 # 34


Кому: Andrey_1976, #15

> Был такой фильм "Бразилия" там есть яркий пример как система ошиблась.
> И отработала честного семьянина.

А ещё там в одной сцене один крупный начальник не моргнув глазом сказал:
"Половина террористы, остальные жертвы".
Вот так решаются судьбы людей в том фильме.


Dimonij
отправлено 20.02.16 13:37 # 35


когда-нибудь все хорошие люди соберутся вместе, и поубивают всех плохих.
у них обязательно получится, ведь, как известно, добро всегда побеждает зло.
поэтому кто живой останется - тот добрый и хороший.
и начинать лучше пораньше.


Slavon
отправлено 20.02.16 13:52 # 36


Ааа... уже ничего не удивляет.


necro-tor
отправлено 20.02.16 14:28 # 37


Кому: a.flegon, #29

> Кому: necro-tor, #6
>
> > Тудум-тум-тудум, тудум-тум-тудум.
>
> Имперский марш?

"Ну вы, блин, даёте!"(ц) х/ф "Особенности национальной рыбалки"

Terminator 2: Judgment Day theme
https://www.youtube.com/watch?v=3Xjir3YSUA8&index


dakka-dakka
отправлено 20.02.16 14:51 # 38


слава роботам, убить всех человеков! что тут ещё скажешь?


aksbkanareika
отправлено 20.02.16 14:51 # 39


Так они, по ходу, даже не слушают. Кого убить, решает программа.


dima-314
отправлено 20.02.16 14:51 # 40


Вот просто так на основании алгоритма.
Без суда и следствия.
А где то рассуждают о моратории на смертную казнь.


Wahmet
отправлено 20.02.16 14:52 # 41


Забавно. Как раз недавно посмотрел фильм "Первый мститель 2" про капитана Америку, где вот тем же самым собирались заниматься последователи нацистов. Что же это получается, АНБ не чуть не лучше "гидры"?!


necro-tor
отправлено 20.02.16 15:06 # 42


Кому: Wahmet, #41

> Забавно. Как раз недавно посмотрел фильм "Первый мститель 2" про капитана Америку, где вот тем же самым собирались заниматься последователи нацистов. Что же это получается, АНБ не чуть не лучше "гидры"?!

Самое забавное там в том, что заниматься "гидры" этим собирались сидя в "щите" - организации призванной "гидру" забарывать.


Домосед
отправлено 20.02.16 15:12 # 43


Эту б энергию да в мирных целях.


dead_Mazay
отправлено 20.02.16 15:54 # 44


Алгоритм можно улучшить очевидным образом.
Собрать данные о 100 000 случайно выбранных россиянах и проанализировать их.
Очевидно же, что каждый россиянин - террорист.


nikolkas_spb
отправлено 20.02.16 16:03 # 45


Бред какой. Нормального распознавания речи нет. Учитывая диалекты, дефекты и жаргонизмы будет очень не скоро. Вычислять по времени и количеству звонков - бессмысленно + альтернативные способы связи (скайп, рация, стационарный телефон). В общем главный террорист - разносчик пиццы!
Учитывая количество бала вбуханного в систему - проще купить весь Пакистан оптом и не париться!
Пы.сы. Однако - 190 млн. человек - прям поразило (к стыду моему). На такой маленькой территории (34 в мире), это ж какой котел. Много становится понятней.


DieHard
отправлено 20.02.16 16:05 # 46


Кому: Прораб, #11

> Тысячи невинно убитых граждан. Плюс убивали с беспилотника, добавляй детишек с тёщями. И эти люди говорят что мы не разбираемся в сортах террористов в Сирии.

«Россия действует методом тотального разрушения в противовес американцам и израильтянам, которые стараются поражать цели точно. Когда они хотят завоевать какой-либо район, то они превращают его в перепаханную землю», — это одно из самых запоминающихся высказываний сирийского оппозиционера.

Вы на себя в Сирии посмотрите!!! Сначала добейся - потом критикуй!!!


Rus_Dmitry
отправлено 20.02.16 16:05 # 47


Кому: pell, #2

> Вкратце, ложный аргумент, использование эмоционального "положительного" наполнения слова "наука".

А еще они забыли определить, что значит "научно достоверный" в их понимании. Люди сами придумывают критерии, по которым потом оценивают разные вещи, что, на мой взгляд, хорошо видно, когда задаются критерии для подобных алгоритмов:

- Сколько возьмём пороговое значение?
- Хмм, давайте погоняем этот алгоритм на удобной нам выборке и подкрутим так, чтобы заказчик был доволен!
...
- Пусть будет 50%!

В догонку:

int getRandomNumber()
{
return 4; // chosen by fair dice roll.
// guaranteed to be random.
}

https://www.explainxkcd.com/wiki/index.php/221:_Random_Number


a.flegon
отправлено 20.02.16 16:05 # 48


Наткнулся на великолепное и прекрасное: «свобода» слова на «Западе», контролируется на 90% шестью корпорациями. А вы про какой-то скайнет талдычите.
http://www.businessinsider.com/these-6-corporations-control-90-of-the-media-in-america-2012-6


udovenkoav
отправлено 20.02.16 16:05 # 49


Кому: Sparrow5441, #25

> Кроникс, Морион и ещё ряд других отечественных контор продолжают свой путь к мировому господству.

Ну это как бе комутаторы просто для езернет/интернет траффика, это не оборудование для сотовых сетей. Речь про то что стоит на сотовых вышках и отправляет голосовой трафик и управляющий на сервера оператора. Какие там ОС стоят - естественно с полностью закрытым кодом да с связью с лицензионными серверами на территории производителя. Как правило это всякие эриксоны, сименсы, нокии.

Отественное что-то ставят но это на каналах спец связи и военным.

А имея доступ к метаданным выцепить обычную преступную группу весьма просто - доступно обычному районному оперу. Вот тут очень простым языком http://www.yaplakal.com/forum7/topic1307250.html А имея хороших математиков и компьютеры - можно реально делать очень интересные вещи.


AdvKSI
отправлено 20.02.16 16:05 # 50


Кому: rafiskin, #26

Отличный фильм, но там-то речь шла как раз не об ошибке, а о спланированных действиях в отношении цели.


XilefNori
отправлено 20.02.16 16:08 # 51


Эпизод из Бразилии с товарищами Таттлом и Баттлом выходит новый уровень, да?
https://www.youtube.com/embed/FrSY0Ms29F4?start=185&end=470


youzhick
отправлено 20.02.16 16:08 # 52


Жукова на них нету :)

Заключение "как бы презентации", которая используется в качестве исходных данных:
"Предварительные результаты свидетельствуют, что мы на верном пути, но многое еще предстоит сделать".
Т.е. на момент доклада программа еще даже не претендовала на готовность к применению.

Во что это превращают журналисты:
"Документы АНБ, утекшие в сеть, совершенно точно говорят об одном: тысячи невиновных людей получают отметку «террорист». Что с ними происходит потом, неизвестно."

Внезапно в заметке появляются беспилотники, еще более внезапно они начинают убивать людей - правда задолго до начала работ над обсуждаемой программой (даже до того начала, которое по слухам, а не по дате доклада).

Для пущей убедительности через слово вставляются мистические "метаданные" - термин, значения которого автор заметки, видимо, не представляет, но звучание ему понравилось.

И кого вообще волнует, что исходная "утечка" не содержит ни слова, ни намека на какие-либо действия в отношении опознанных курьеров? Да по фигу, есть же слухи!

Вот так и рождаются теории заговоров :)


SpecX
отправлено 20.02.16 16:10 # 53


Кому: URAS, #24

> Притом счет за отработку прислали его жене и дочери.

Подобное, как раз практиковалось в нацистской германии.

Кому: dima-314, #40

> А где то рассуждают о моратории на смертную казнь.

У них же самая правильная "демократия", им можно, а для остальных "демократия" для соблюдения ихних интересов. Иначе это кровавый диктатор, его пора бомбить, что бы туда то же пришла "демократия"...


pvtSuhov
отправлено 20.02.16 16:10 # 54


Если уж взялись пересказывать финал 3ьего сезона "В поле зрения", то и называли бы не Skynetom, а "Самаритянином". Ну и описание как работают алгоритмы - смешная херь, для всех кто что-то знает про ML.


savrey
отправлено 20.02.16 16:11 # 55


Кому: a.flegon, #29

> Тудум-тум-тудум, тудум-тум-тудум.
>
> Имперский марш?

Ты чего? Имперский марш - это Тум-тум-тум. Тум-тудум. Тум-тудум!


ivan_foto
отправлено 20.02.16 16:12 # 56


> Заидан часто ездил в регионы с повышенной активностью террористов для того, чтобы брать интервью у повстанцев и сообщать оттуда новости. Но вместо того, чтобы разобраться, почему алгоритм выдал такой странный результат, его разработчики из АНБ напротив, включили слайд с Заиданом в свою внутреннюю презентацию как пример успешной работы алгоритма, [представив журналиста как «члена Аль-Каиды»].

Какое-то передёргивание.
Понятно, что журналиста вставили просто потому, что реальных террористов вставлять - это как в презентацию полиции вставлять действующего главаря ОПГ: "мы тут слежку вот за этим гражданином пристальную ведём".
А журналист отлично подходит: и результаты работы показывает алгоритмов, и "все понимают", что это - не террорист.


ЖидкийАзот
отправлено 20.02.16 16:13 # 57


> Ни тебе суда, ни тебе следствия.
Послушал телефон — и убил.

Так кому это надо? Все эти суды, следствия. Всё это прошлый век! Это ж не в Америке убивают. Если бы в Америке убивали - другое дело. А если каких-нибудь африканцев - так их и не жалко. Это ж демократия!


Советский_Прибалт
отправлено 20.02.16 16:13 # 58


Кому: Andrey_1976, #15

> Был такой фильм "Бразилия" там есть яркий пример как система ошиблась.

Есть и реальная история - мужика перепутали с терористом, незаконно арестовали, держали в гуанатамо и пытали: http://www.ntv.ru/novosti/77986/


edw
отправлено 20.02.16 17:15 # 59


Кому: никитG, #32

> интересно что придурок горбачёв на эту тему имеет сказать

Что-нибудь типа "они не должны были этого делать".

Внимательно смотрю его интервью, слежу за мимикой, ходом мыслей.
Забавно наблюдать, как его настигает старческая деменция. Подлец и лицемер, пытается следовать намеченной линии, а между головой и речевым аппаратом аппаратом идёт рассогласование.

Мерзкое зрелище.


edw
отправлено 20.02.16 17:17 # 60


Кому: savrey, #55

> Тудум-тум-тудум

Ну что вы! Это же Терминатор.


from_Vladivostok
отправлено 20.02.16 17:25 # 61


Ответим им терминаторами собственного производства! Хана вашему "скайнету"!

http://www.interfax.ru/russia/495524


Вратарь-дырка
отправлено 20.02.16 17:25 # 62


Кому: Прораб, #11

Откуда известно, что убивали по этим данным, а не проверяли тех людей, на кого указывал алгоритм?

Кому: nikolkas_spb, #45

Сколько бабла вбухано? Ты сам лично продашься за эту сумму, деленную на сто девяносто миллионов?


Jameson
отправлено 20.02.16 17:30 # 63


вот так обсудишь с друзьями зарубу в каунтерстрайк и тебя шлепнут!


Huligan
отправлено 20.02.16 17:33 # 64


Это что же получается? Скайнет не выдумка?!


YS
отправлено 20.02.16 17:41 # 65


Кому: Bublcs, #30

Аналогично подумал. Person of Interest - Season 6: "In real life", только не смешно от слова "вообще".


nikolkas_spb
отправлено 20.02.16 17:41 # 66


Кому: Вратарь-дырка, #62

> Кому: nikolkas_spb, #45
>
> Сколько бабла вбухано? Ты сам лично продашься за эту сумму, деленную на сто девяносто миллионов?

Там миллиарды. Не надо всех. Часть власти, часть террористов, часть осведомителей.
Учитывая постоянное вливание на тех.обслуживание, спецов и т.д. сумма (на мой взгляд) вполне достаточная. А еще лучше - вычислить тех, кто дает деньги с той стороны и работать с ними.


Вратарь-дырка
отправлено 20.02.16 17:54 # 67


Кому: nikolkas_spb, #66

Власти и покупать надо за большие суммы. Высших чиновников и за миллиард зачастую не купишь: если он захочет наворовать, будучи высшим чиновником, он наворует больше. Не надо думать, что вот взять и всех купить - это вот так вот просто. Более того, ты всех купил, а завтра они тебя нахер послали, покупай их заново (масса примеров таких была в Риме: сначала ты купил себе пост императора, а завтра преторианцы попросили еще денег, ибо те уже прокутили.


Manti
отправлено 20.02.16 17:54 # 68


Кому: Вратарь-дырка, #62

> Откуда известно, что убивали по этим данным, а не проверяли тех людей, на кого указывал алгоритм?

да бред это
даже двинутые на высоких технологиях американцы вряд ли решились доверить компьютеру самостоятельно убивать


eugeneval
отправлено 20.02.16 18:35 # 69


Кому: MikeSP, #33

> Слим Шэди дринк нигер писс!!1

Точно) Сломаем Скайнет кодексами Скотенкова!
«Те, кто говорит, что души у человека нет, а машина может думать и чувствовать, как мы — это люди без души, кяфиры, которых не существует даже для самих себя. Они есть только для внешнего наблюдателя, и такова вся Америкия, посланная нам в испытание Аллахом: ее фальшивого фасада нет нигде, кроме как в наших глазах в то время, когда мы смотрим телевизор. Сколь же велика будет наша награда, когда мы прорвемся сквозь этот мираж и победим…»


Копатыч
отправлено 20.02.16 19:13 # 70


В моем городке 2 провайлера - Ростелеком и Скайнет. Я на РТ , а вот брата предупрежу!!!


Наноробот
отправлено 20.02.16 20:09 # 71


Кому: pell, #2

> В-четвёртых, слово "обучает" как бы намекает, что это не алгоритм в обычном понимании, а более сложная система.

Возможно, имелась в виду сомнительность обучающей выборки:

> проблема в том, какие данные берутся за основу для обучения алгоритма. АНБ оценивает качество работы SKYNET с помощью набора данных 100 000 случайно выбранных пользователей и данных семи известных террористов. Данные шести из них используются для обучения программы, которая потом должна найти седьмого в общем массиве данных. Результаты этого теста и дают процент ложных позитивных оценок на слайде выше.

Вся обучающая выборка состоит из 6-ти наборов данных. Для системы, генерирующей на выходе настолько серьезные выводы (террорист/не террорист) это просто смешная цифра.
Другое дело - как используются полученные данные. Если выходные данные системы используются как исходные для других видов разведки (агентурной например), то это вполне себе рабочий аналитический инструмент. А вот если по каждому новообнаруженному "террористу" будет вылетать беспилотник (кстати, очень удобно - можно автоматизитовать) с бомбой - это уже перебор.


Knightmare
отправлено 20.02.16 21:13 # 72


Подобные системы просто ОБЯЗАНЫ появиться у всех стран. Не обязательно для убийств, но для регистрации жизненного потока граждан. Пусть накопленное лежит свои годы, ведь хранение гигабайтов ничего не стоит. А с другой стороны к этому делу помогают орды любителей селфи, чек-инов, желающих поделиться своими делами и идеями публично. Добро пожаловать в Матрицу, человеки


_Kro1ik_
отправлено 20.02.16 21:38 # 73


Понятно.
Убивайте всех, на том свете разберутся.


AnTev.
отправлено 20.02.16 22:13 # 74


Скайнет, метаданные, "большой брат смотрит на тебя"...

Прочитал статью, и вот какая мысль забралась в мозг.

Был я недавно на общешкольном собрании касательно проведения егэ у моего старшего.

И, такая, зам. директора по учебной работе говорит: "Нередки случаи, что наблюдатели за процессом егэ, которые следят за экзаменуемыми по вебкамерам из Москвы, могут неправильно интерпретировать движения ваших детей (залез в карман, невзначай почесался...) и аннулировать результат экзамена.

На резонные возмущения родительского контингента, был дан пиздатый совет довести до детей, что излишие телодвижения в процессе сдачи недопустимы.

И чем я должен мотивировать сына??!

"Ты должен поступить в ВУЗ, получить хорошую перспективную специальность, готовься, ходи к репетитору, пытаться получить высший балл и НЕ В КОЕМ СЛУЧАЕ НЕ ЧЕШИ на экзамене ЯЙЦО!!!"

То есть, при прочих равных, результат зависит от некой (невыспавшейся, отвлёкшейся) девушки где-то в Москве, которая неправильно интерпретирует увиденное...

А вы мне тут про скайнет.


Советский_Прибалт
отправлено 21.02.16 01:36 # 75


Кому: Manti, #68

> американцы вряд ли решились доверить компьютеру самостоятельно убивать

Людей, наверно, нет, не решились. Но для англосаксов не все люди считаются "людьми".
Сколько мирных жителей погибло, например, в Ираке? Кого то это сильно на западе волнует? Ну убьют еще пару тысяч по ошибке, какая разница.


Александр Савин
отправлено 21.02.16 02:25 # 76


Кому: pell, #2

> В-третьих, алгоритм не обязательно имеет хоть какое-то отношение к науке, это может быть и инженерия.

Есть мнение, что не всем камрадам стоит браться судить о "инженерности или научности алгоритмов". Или алгоритм может иметь отношение к... религии?



Кому: Советский_Прибалт, #75

> Ну убьют еще пару тысяч по ошибке, какая разница.

Ну да, collateral damage, май асс!



Кому: Rus_Dmitry, #47

> int getRandomNumber()
> {
> return 4; // chosen by fair dice roll.
> // guaranteed to be random.
> }

[woett!]


phan
отправлено 21.02.16 05:52 # 77


После прочтения последнего предложения, аж руки зачесались нажать кнопочку, чтоб прорыть пролив между Мексикой и Канадой.


Тумбус
отправлено 21.02.16 08:13 # 78


Слава роботам! Инженерам слава!


Тумбус
отправлено 21.02.16 08:15 # 79


Кому: AnTev., #74

> Был я недавно на общешкольном собрании касательно проведения егэ у моего

ЕГЭ это отдельный кошмарик.
С ЕГЭ никаких скайнетов не потребуется, все поубиваемся о небесную твердь.


pell
отправлено 21.02.16 12:29 # 80


Кому: Александр Савин, #76

> Есть мнение, что не всем камрадам стоит браться судить о "инженерности или научности алгоритмов". Или алгоритм может иметь отношение к... религии?

Да и к идиотизму, почему бы и нет.


Gogel
отправлено 21.02.16 13:49 # 81


"-Люди будут отстранены от решений по стратегической обороне. Скорость обучения SKYNET начнет расти в геометрической прогрессии. Она начнет осознавать себя в 02:14 по местному времени, 29 августа 2029 года. Люди попытаются отключить систему, но..
-Скайнет нанесет ответный удар.
-Да. Она запустит ракеты по стратегическим объектам в России.
-Почему по России? Мы же теперь с ними вроде дружим.
-Скайнет знает, что ответный удар русских уничтожит врагов Скайнет здесь."

Чего-то неуютно как-то стало сейчас. Дядька Кэмерон не в будущее там смотрел случайно?


Сатурн
отправлено 21.02.16 15:40 # 82


Профессионалов похоже даже в разведке не осталось. Проще большой калькулятор разработать и кнопочку нажать - пусть прорежает население, ведь есть же процент попасть в террарюгу.
Вот бы так руководителей в Пентагоне и АНБ проверяли. Говоришь работает - покажи на себе.



cтраницы: 1 всего: 82


разделы

Главная страница

Tynu40k Goblina

Синий Фил

Опергеймер

Светосила

За бугром

English

Победа!

интересное

Новости

Заметки

Картинки

Видео

Переводы

Комментарии

Поисковые запросы

гоблин

Гоблин в Facebook

Гоблин в Twitter

Гоблин в Google+

Гоблин в Instagram

Гоблин на YouTube

Гоблин в ivi

Видео в iTunes Store

Аудио в iTunes Store

tynu40k

Новости в RSS

Новости в Facebook

Новости в Twitter

Новости в Google+

Новости в ЖЖ

Группа в Контакте

реклама

Разработка сайтов Megagroup.ru

Реклама на сайте


Goblin EnterTorMent © | заслать письмо | цурюк