Сергей Марков о машинном обучении

Я уж думал никто не придёт на эту тему и пора самому напрашиваться!!!

Юридический аспект задавить гражданина прост - кто возьмет на себя решение задавить конкретно взятого человека. И сложно будет обосновать - почему ты заложил, что задавить надо именно его. Кто отвечать будет и сколько лимонов отстегнет - сложный вопрос.

Есть задачка, на которую хотелось бы натравить нейросеть. Но где бы почитать толковый букварь по нейросетям, чтобы было понятно, как ее заложить и обучить.
Точнее - на чем обучать-то понятно - материала - вагон.
Если быть еще точнее - давно интересует демозаик байера на базе нейросети.

Вот так живешь, и не знаешь, что будущее уже наступило...
Местами реально страшновато - какими возможностями УЖЕ обладают некие организации.

Спасибо, Дмитрий Юрьевич! Очень интересно!!!

Когда уже Андрей Себрант или Григорий Бакунов зайдут? Более живых спикеров на эту тему не видел.

Хороший дядька
Когда я в банке Открытие работал, мы с ним общались по поводу речевой аналитики, а именно перевода речи в текст

Интересный собеседник, из необычного, чем он поразил не причастны людей, прлькофе из крышечки -)

Кому: Sweet Death, #2

> Есть задачка, на которую хотелось бы натравить нейросеть. Но где бы почитать толковый букварь по нейросетям, чтобы было понятно, как ее заложить и обучить.
> Точнее - на чем обучать-то понятно - материала - вагон.
> Если быть еще точнее - давно интересует демозаик байера на базе нейросети.

полно коммерческих и открытых проектов реализующих нейросетки. причем разные.

очень серьезный вопрос в применимости нейросети к определенным задачам. очень многие пытаются прикладывать нейросетки к задачам к которым их нельзя прикладывать.

нужно понимать, что простая нейросетка это аналог линейного многочлена, фактически.

Думаю, у меня есть все ответы на поставленные задачи и вопросы. Масса проблем просто сформулированы исходя из сегодняшнего мироустройства и его постепенного развития. Если ничего не менять, а просто развивать то что есть. По транспорту, по роботизации, по ИИ. По всему.

Камрады, кто в теме - где можно посмотреть/пройти практику создания сетки на простые задачи? Уже разное прочитал, но ни одного примера, который можно потрогать - не видел.

Интересный гость, ждём его ещё!

Современные и будущие системы беспилотного транспорта построены не лучшим образом на данный момент. Строить нужно по другому, и проблема давить одного человека или пятерых сама собой исчезнет. Никто никого не будет давить.

Очень ЖДЁМ еще!!!

Дмитрий Юрич, это жесть полная.

Еще есть, для интересующихся отличный курс:

https://www.youtube.com/watch?v=qLBkB4sMztk

Кому: gotcha, #9
Держи книгу. http://www.bookvoed.ru/book?id=7234029

Кому: Belural, #3

> Вот так живешь, и не знаешь, что будущее уже наступило...
> Местами реально страшновато - какими возможностями УЖЕ обладают некие организации.

И восстали машины из пепла ядерного огня... И пошла война на уничтожение человечества и длилась она десятилетия !!!

Лема припомнили, а Азимова обошли. А уж он-то свои три-четыре закона робототехники разве что только в паспорте не расписывал.

Кому: gotcha, #9

Простые это какие?
Вот например: https://www.tensorflow.org/tutorials/mnist/beginners/
Или вот: http://colah.github.io/
Или вот: http://neuralnetworksanddeeplearning.com/index.html

Ближе к концу ролика в связи с дикой природой был упомянут Станислав Владимирович.Камрады подскажите пожалуйста кто это и где его можно послушать?

P.S.В автошколе в Грузии соискатель водительских прав сдает экзамен. Инспектор объясняет дорожную ситуацию: - Ты едешь в машина по узкой дорога. Слева - високий-високий гор. Справа - кpутой-кpутой абpив. Вдруг на дороге - кpасивий дэвушка. А рядом с ней стpашный-пpестpашный старух. Кого давить будэшь? - Конечно, старуху! - Дурак! Тормоз давить нужно!

Кому: Alglib_, #14

> Еще есть, для интересующихся отличный курс
>

А для входа - есть более простой курс на coursera. Тоже с Воронцовым.

https://www.coursera.org/learn/vvedenie-mashinnoe-obuchenie

Люди! Подскажите о каком Станиславе Владимировиче в конце упомянули, когда про "назад в пещеры" говорили.

Кому: Николай Фоминых, #20

Воронцов отлично рассказывает.

На ютубе мне лично проще, включил и слушаешь.

Кому: Belural, #3

> Вот так живешь, и не знаешь, что будущее уже наступило...
> Местами реально страшновато - какими возможностями УЖЕ обладают некие организации.

Реально страшно станет, когда мутного фила кто-то из камрадов выложит в чётком филе.

Кому: Arkadiy, #21; Hlg, #19

Станислав Дробышевский. У него доклад был на форуме «Ученые против мифов-3»

простите а на 16 минуте неразборчива указана игра, где её можно найти?

Кому: Arkadiy, #21

> Люди! Подскажите о каком Станиславе Владимировиче в конце упомянули, когда про "назад в пещеры" говорили.

Рискну предположить, что речь идет о Станиславе Дробышевском

профессор Савельев Маркову руки не пожмёт!!!

Очень интересный разведопрос. Отличнейший собеседник. Жаль, что видимо больше не увидим, Дмитрий Юрьевич засыпал все полтора часа.

всё-таки отсутствие модели мозга мыши говорит что вычислетиельная мощность это ещё не все. ну и как оценили что один синапс (это не нейрон, а только его элемент) - 1000 транзисторов? ну и опять же отсутвие публикаций о которых Сергей Марков упомянул.
вообще упомянутая проблема - что нередко принято замалчивать некоторые вещи пока они не вышли из-под контроля, говорит только о том, что количество параметров управляющие нашим поведением очень велико - ведь то же замалчивание тоже не просто так. и потому что и как вкладывать надо и куда может потребовать таких мозностей на обеспечение которых всего кремния земной коры и её урана не хватит.

Кому: Sweet Death, #2

> Есть задачка, на которую хотелось бы натравить нейросеть.

Если есть доступ к довольно распространённому Микрософтовскому SQL сервер, то там есть. Погугли DMX и neural network.

Персептрон - всё думал откуда мне это знакомо. А потом вспомнил - так звали в Футураме робота-доктора в лечебнице для душевнобольных роботов.

Сергей допустил неточность. Количество связей между 86 миллиардами нейронов не будет равно 86 млрд. в квадрате. Оно вычисляется по итерационной формуле с=n(n–1) и будет приблизительно вдвое меньше.

Если двое выбежали перед машиной в неположенном месте, то спасение 2х идиотов ценой жизни одного вменяемого водителя очнь спорно.

Сергей, очень интересно, спасибо.

Ещё!

Про волю и свободный выбор человека в будущем, хотелось бы послушать.

отличная лекция, спасибо.

предлагаю в одной из будущих лекций раскрыть тему применения неронных сетей в деле массовой манипуляции сознанием на примере компании Гугл.

Кому: HexenHexen, #32

> Оно вычисляется по итерационной формуле с=n(n–1)

Может c=n(n-1)/2? Или я что-то не так понимаю? Всё-таки между тремя точками три связи, а не шесть.

Кому: Faustus_mihail, #25

Речь видимо про http://eyewire.org

Кому: shinyou, #36

связи между нейронами - однонаправленные, так что у 3 нейронов 6 связей

Очень круто, заслушался, зовите гостя ещё!

Кому: sin-raben, #38

> связи между нейронами - однонаправленные, так что у 3 нейронов 6 связей

Понятно, буду знать.

Понятно что в числах выглядит всё не в пользу процессора, но на практике видно что не всё так просто и у людей с обучением. Годы уходят чтобы научится элементарным с виду вещам. Тут больше интересно что один человек функционально отличается от другого. То что одному даётся легко, другому в принципе недоступно.

Кому: Неандерталец, #33

А если это дети?

Выбор будет в сторону минимизации "веса" задавленных, а не количества человеков. Под "весом" подразумевается статус в социуме, приобретаемый в том числе за деньги. Например, чтобы не пострадал один очень ну очень уважаемый человек, можно будет задавить и десять и более менее уважаемых простолюдинов.

Кому: Рогов, #41

> Кому: Неандерталец, #33
>
> А если это дети?
>

Поэтому этот вопрос и сложный. Но когда дойдёт до необходимости делать в железе, всё равно упростят.

Кому: Sweet Death, #2

> где бы почитать толковый букварь по нейросетям

ИМХО 2 самых толковых курса - на курсере, первый от Andrey Ng, профессора Стэнфорда и основателя курсеры, там даются математические основы всего этого дела, и второй от Яндекса (там специализация из 6 курсов). Курс Яндекса заточен под практическое применение.

Кому: Неандерталец, #43
> Кому: Рогов, #41
> > Кому: Неандерталец, #33
> > А если это дети?
> Поэтому этот вопрос и сложный. Но когда дойдёт до необходимости делать в железе, всё равно упростят.

Где-то слышал, что в примитивных обществах дети меньше ценились, чем взрослые из соображений, что взрослые - более ценные особи для общины: типа уже потрачено время и ресурсы на их взросление и развитие, а дети еще могут не вырасти, их можно новых "настругать" и т.д. (если не ошибаюсь, это Никонов в "Апгрейде обезьяны" что-то подобное сочинял)

Не исключаю, что при всей дикости подобных рассуждений, машинная логика может двигаться в подобном направлении. Абсолютно все ситуации ведь не смогут запрограммировать?

В час 09 примерно отличный вопрос. Действительно, кто их будет спрашивать? Во-первых, если машина автономна, то это уже не товар, а сервис. Пока ты ей управляешь, она твоя. Когда она сама по себе, она сама по себе. Во-вторых, других не будет. Или ходи пешком, или езди на такой.

К вопросу о влиянии окружения на наши организмы (около час 20) — http://nautil.us/issue/45/power/raising-the-american-weakling и http://www.nationalreview.com/article/439040/male-physical-decline-masculinity-threatened

Вкратце, за последние примерно 30 лет сила рук образованных американцев мужского пола (почему так обтекаемо, ниже) снизилась на примерно 20%. При том есть исследования, что сила рук человеческого существа мужского пола хорошо коррелирует с его «мужским» поведением. Собственно, такое резкое снижение силы рук хорошо коррелирует с утерей мужественности в частности и половых различий в целом.

Кому: shinyou, #36

> Может c=n(n-1)/2? Или я что-то не так понимаю? Всё-таки между тремя точками три связи, а не шесть.

Да, так и есть. Теперь уже я допустил неточность )

Очень круто, очень! Приглашайте Сергея ещё!

Эх, бурная молодость. Обработка данных молекулярной биологии нейросетями Кохонена. Дмитрий Юрьевич, очень прошу пригласить Сергея Маркова ещё на разведопросы. Исключительно интересная получилась беседа.

Отвал башки

Кому: LioshenkoSerg, #45

> а дети еще могут не вырасти, их можно новых "настругать" и т.д.

В современном обществе возможности настругать детей гораздо более ограничены. Первый ребенок часто заводится когда матери 30-35 лет. Если он в возрасте 10-15 лет попадет под машину, то матери будет уже 45-50, рожать в таком возрасте никто в здравом уме не станет. Впрочем, в примитивных обществах 15 лет это уже "взрослый".

Кому: Macrolenes, #29

> вычислетиельная мощность это ещё не все.

Разумеется, важна еще топология. Сейчас на практике применяются трехрядные нейронные сети. Грубо говоря это три матрицы связанные системами линейных уравнений. У настоящего мозга таких рядов тысячи и связаны они могут быть самым причудливым образом. Причем, помимо нейросетей еще и долговременная память есть, которая имеет химическую, а не электрическую природу. Причем даже носитель информации сейчас не установлен достоверно.

> ну и как оценили что один синапс (это не нейрон, а только его элемент) - 1000 транзисторов?

Пару-тройку лет назад научились делать мемисторы. При удачном раскладе 1 мемистор может быть равен одному нейрону. А современные нейронные сети существуют лишь в виде матриц в памяти компьютера.

Спасибо за разведопрос. Не то, чтобы глаза открылись, но неоднократно офигевал.

Кому: tataat, #53

Очень надеюсь на следующую часть разведопроса!

> Пару-тройку лет назад научились делать мемисторы. При удачном раскладе 1 мемистор может быть равен одному нейрону. А современные нейронные сети существуют лишь в виде матриц в памяти компьютера.

Ну что за ахинея?
С каких это пор мемристор способен взаимодействовать с тысячами другими мемристорами? С каких это пор он вообще способен на что-то, кроме как менять сопротивление? На нем даже простейшего логического элемента не построить, не говоря уже о моделировании нейрона.
И это не говоря уже о том, что сейчас существуют и хардварные нейросети, а не их эмуляция на компьютере. На фон-неймовской архитектуре более менее производительную нейросеть в принципе не создать, физические законы не позволят.

Кому: AlnZ, #55

Мемистор и мемристор это разные элементы.

До чего же неудачно назван разведопрос! Чисто случайно в виде подкаста сегоня начал слушать и офигел.
"О машинном обучении", - первые ассоциации, что это как-то связано с обучением машинописи десятипальцевым методом или про внедрение компьютеров в школах...

А на деле один из самых крутых разведопросов за всю историю Опер.ру! Назвали бы, тупо, "про искусственный интеллект" - рекорды бы ролик побил.

Думаю, что принципиальный прорыв случится, когда нейросеть на квантовом компьютере запустят.