Rambler's Top100
Портал | Содержание | О нас | Пишите | Новости | Книжная лавка | Голосование | Топ-лист | Регистрация | Дискуссия
Лучшие молодые
ученые России

Авторские научные обозрения в "Русском переплете"
"Физические явления на небесах" | "Неизбежность странного микромира" | "Биология и жизнь" | "Terra & Comp" | Научно-популярное ревю | Теорфизика для малышей
Семинары - Конференции - Симпозиумы - Конкурсы

TERRA & Comp
С 07 августа 2003 года обозрение ведет Александр Семенов
До 10.07.2002 вел Кирилл Крылов

НАУКА

Новости

Научный форум

Научно-популярный журнал Урания в русском переплете

Космические новости

Энциклопедия космонавтика

Энциклопедия "Естествознание"

Журнальный зал

Физматлит

News of Russian Science and Technology

Научные семинары

Почему молчит Вселенная?

Парниковая катастрофа

Кто перым провел клонирование?

Хронология и парахронология

История и астрономия

Альмагест

Наука и культура

 Журналы в сети:

Nature

Успехи физических наук

New Scientist

ScienceDaily

Discovery

ОБРАЗОВАНИЕ

Открытое письмо министру образования

Антиреформа

Соросовский образовательный журнал

Биология

Науки о Земле

Математика и Механика

Технология

Физика

Химия

Русская литература

Научная лаборатория школьников

КОНКУРСЫ

Лучшие молодые
ученые России

Для молодых биологов

БИБЛИОТЕКИ

Библиотека Хроноса

Научпоп

РАДИО

Читают и поют авторы РП

ОТДЫХ

Музеи

Игры

Песни русского застолья

Народное

Смешное

О НАС

Редколлегия

Авторам

О журнале

Как читать журнал

Пишут о нас

Тираж

РЕСУРСЫ

Поиск

Проекты

Посещаемость

Журналы

Русские писатели и поэты

Избранное

Библиотеки

Фотоархив

ИНТЕРНЕТ

Топ-лист "Русского переплета"

Баннерная сеть

Наши баннеры

НОВОСТИ

Все

Новости русской культуры

Новости науки

Космические новости

Афиша

The best of Russian Science and Technology


"Русский переплет" зарегистрирован как СМИ. Свидетельство о регистрации в Министерстве печати РФ: Эл. #77-4362 от
5 февраля 2001 года. При полном или частичном использовании
материалов ссылка на www.pereplet.ru обязательна.

Тип запроса: "И" "Или"

17.03.2017
14:35

Роскосмос предсказал отказ США от российских ракетных двигателей

    Глава Роскосмоса Игорь Комаров заявил, что ракетные двигатели BE-4, разрабатываемые американской компанией Blue Origin, придут на смену российским силовым агрегатам . . .

17.03.2017
14:31

В самых выносливых существах на Земле обнаружили уникальное вещество

    Ученые из американского Университета Северной Каролины в Чапел-Хилл обнаружили набор уникальных белков, которые защищают от стремительного высыхания тихоходок . . .

17.03.2017
14:24

Машинное обучение может сослужить службу киберпреступникам

    Хитрые киберпреступники понемногу оборачивают алгоритмы машинного обучения против системы защиты, для которой они предназначены. Однако злоумышленников можно выбить из колеи намеренной кибердезориентацией.

    Машинное обучение — один из самых модных терминов, употребляемых в контексте кибербезопасности в 2017 г. Но достаточно хитрый противник может воспользоваться в злоумышленных целях результатами деятельности алгоритмов машинного обучения и таким образом снизить качество принимаемых решений.

    «В этой связи есть опасения, что в системах обработки больших данных злоумышленник сможет взять под контроль достаточно большой объем этих данных, чтобы ввести в заблуждение пользователей системы», — говорит доктор Дебора Фринке, глава Исследовательской дирекции Управления национальной безопасности США и Центральной службы безопасности (NSA/CSS).

    Враждебное машинное обучение, как окрестила его Фринке, — это «явление, которое мы понемногу наблюдаем на практике». У нас есть все основания полагать, что события и дальше будут развиваться по этому пути, считает она.

    Например, организация может решить применять машинное обучение для развития так называемого «самоощущения» своих собственных сетей и на этой основе разработать механизм для самостоятельного выявления и решения проблем. Но что если злоумышленник проникнет в сеть или — что хуже — уже будет находиться внутри сети еще до того, как начнется процесс машинного обучения?

    «В этом случае поведение хакера будет восприниматься как нормальное. Поэтому в каком-то смысле специалист по машинному обучению будет защищать этого внутреннего нарушителя. В этом вся проблема, — говорит Фринке. — Что еще примечательно в обработке и анализе данных, так это то, что при использовании алгоритмов на основе данных именно такие алгоритмы инициализируют методы машинного обучения, внедряемые специалистом. Если вы не сохраните исходные данные, вы не узнаете, какие параметры смещения вы заложили в свою реализацию машинного обучения. У вас не получится найти эту иголку в стоге сена, потому что вы фактически выбросите весь стог, и все, что у вас останется, — это нейронная сеть, веса синапсов внутри нее и т. п.».

    У машинного обучения есть еще и другие ограничения.

    К примеру, в 2016 г. профессор Университета Монаша Том Драммонд указал на то, что нейронную сеть — одну из фундаментальных методик машинного обучения — можно сбить с толку, если не «пояснить» ей, в чем она ошибается.

    Классический пример этой проблемы относится к 1980-м. Эту историю рассказал Нил Фрейзер в статье «Причуды нейронной сети», опубликованной в 1998 г. В Пентагоне пытались научить нейронную сеть обнаруживать возможные угрозы, например, вражеский танк, скрывающийся за деревом. Они натренировали нейронную систему с помощью одного набора фотографий, на которых были изображены танки, прячущиеся за деревьями, и второго набора фотографий, где были изображены только деревья, без танков. Но при попытке применить эти знания система безнадежно завалилась.

    «Со временем кто-то заметил, что в исходной выборке в 200 фотографий все снимки танков были сделаны в условиях облачности, тогда как все снимки без танков были сделаны в солнечный день, — писал Фрейзер. — Таким образом, армия стала гордым обладателем мейнфрейма стоимостью в несколько миллионов долларов, умевшего определять, солнечная ли погода на улице».

    На недавней конференции Australian Cyber Security Centre (ACSC) в г. Канберра Фринке хоть и указала на ограничения машинного обучения, но все же обрисовала и некоторые эффективные, с точки зрения NSA, оборонные стратегии.

    К примеру, организации могут создавать перевес сил в кибербезопасности на свою сторону, научившись обманывать противника или прятаться от него.

    По самой своей природе сетевая защита асимметрична. Такое неравновесие обычно объясняется тем, что защищающийся вынужден закрывать абсолютно все дыры в безопасности, а атакующему достаточно всего лишь раз сделать нужное действие.

    «На первый взгляд, мы вроде должны как-то с этим справляться. Дома ведь, как говорится, и стены помогают», — рассуждает Фринке.

    Исторически так сложилось, что организации пытаются сделать свои системы данных максимально рациональными. Так легче управлять сетью. Но, с точки зрения злоумышленника, так проще предсказать, что будет происходить в той или иной системе в заданный момент времени.

    А вот если применить прием защитной дезориентации, можно выделить дополнительные мощности и найти способ спроектировать эти мощности так, чтобы они работали в изменчивом режиме или вводили противника в заблуждение. При таком подходе злоумышленник не сможет определить, где именно находятся данные.

    Если ваши данные обрабатываются в облаке, тогда элементарным примером будет продублировать ваши данные на гораздо большем количестве узлов, чем обычно, и переключаться между ними. «Если кто-то попытается нарушить целостность данных, заменив данные, с которыми я работаю, то он не сможет определить, какой из, скажем, сотни таких узлов я использую. Либо же я могу иметь дело с набором таких узлов, допустим, с тремя, и хакер не знает, к каким именно я обращаюсь. Он конечно может попытаться изменить их все вместе, но ему это будет сделать гораздо труднее», — говорит Фринке.

    Исследования, проведенные NSA/CSS, показали, что такой прием увеличивает когнитивную нагрузку на хакеров и играет на их когнитивных предубеждениях. «Мы можем попытаться подтолкнуть их к ошибочным выводам. Другими словами, мы их выводим из равновесия. Мы пытаемся заставить их работать слишком старательно, искать зацепки там, где они им не нужны. И таким образом нам будет легче их обнаружить, — уверяет Фринке. — Это немного сродни старым добрым приманкам Honeypot или Honeynet в явном виде, только встроенным в систему в качестве неотъемлемого механизма ее работы, а не дополнительного модуля».

    Недостаток защитной дезориентации в том, что этим процессом сложнее управлять. «Мне приходится выполнять больше работы по проектированию и управлению системами, чтобы с полной уверенностью знать, какими тремя из сотни узлов мне нужно пользоваться, иначе я сама себе окажу медвежью услугу, особенно если речь идет о применении каких-либо изменений с целью дезориентировать злоумышленника», — подытожила Фринке.

    По информации https://www.pcweek.ru/security/article/detail.php?ID=193156

17.03.2017
14:20

Лазерные импульсы ускорят компьютерные вычисления в 100 тыс. раз

    Инженеры Мичиганского университета и ещё нескольких учебных заведений в ходе экспериментов обнаружили возможность, которая позволяет контролировать . . .

16.03.2017
17:57

Доказана недостижимость абсолютного нуля

    Физики из Университетского колледжа Лондона (Великобритания) математически доказали невозможность достижения абсолютного нуля — минимально допустимой . . .

16.03.2017
17:55

Пауков признали убийцами миллионов животных

    Зоологи из Базельского университета в Швейцарии и Лундского университета в Швеции выяснили, что пауки убивают сотни миллионов насекомых и других мелких животных . . .

16.03.2017
17:52

В США перепрограммировали геном возбудителя сальмонеллеза

    Американские биотехнологи из Гарвардского университета и Института Крейга Вентера создали искусственный штамм Salmonella typhimurium, частично перепрограммировав ее . . .

16.03.2017
12:08

НАСА показало робота для поиска инопланетной жизни

    НАСА показало видео с роботом, который может преодолевать сложные препятствия на пути и использоваться для поиска жизни на Марсе или Европе (спутнике Юпитера) . . .

16.03.2017
12:06

Предложен действенный способ защиты от космической радиации

    Физики из Университета Центральной Флориды (США) предложили новый способ защиты астронавтов от радиации в дальнем космосе. Соответствующее исследование . . .

16.03.2017
12:01

SpaceX совершила третий успешный пуск в 2017 году

    Компания SpaceX произвела третий успешный пуск ракеты Falcon 9 в 2017 году. Через полчаса после старта от носителя отделился телекоммуникационный спутник EchoStar 23. Об этом . . .

15.03.2017
17:15

В МГУ защитили почки от инфаркта

    Ученые МГУ выяснили, что предотвратить инфаркт почек можно с помощью кратковременного прекращения кровоснабжения (ишемии), а также обнаружили связь почечной . . .

15.03.2017
15:05

Представлена карта мощнейших супервулканов Земли

    Международный коллектив геофизиков, включающий специалистов из Томска (Россия), представил карту наиболее крупных когда-либо действующих на Земле супервулканов . . .

15.03.2017
13:19

Уточнен срок появления сложной многоклеточной жизни

    Исследователи из Шведского музея естественной истории обнаружили останки красных водорослей в отложениях, возраст которых составляет 1,6 миллиарда лет. По словам . . .

15.03.2017
12:22

Доказана польза электрической стимуляции мозга

    Нейробиологи из Имперского колледжа Лондона в Великобритании доказали пользу электрической стимуляции мозга для рабочей памяти. Статья исследователей . . .

15.03.2017
12:19

Названа новая причина превращения Сахары в пустыню

    Геолог Дэвид Райт (David Wright) из Сеульского университета выяснил, что человек мог быть одной из основных причин появления пустыни Сахара. На это указывают . . .

15.03.2017
12:15

В Польше повторили бесчеловечный эксперимент

    Польские психологи провели аналог эксперимента Милгрэма, предполагающий причинение физической боли людям как часть должностных обязанностей. Специалисты . . .

15.03.2017
12:13

Доказана невозможность появления Меркурия в Солнечной системе

    Японские ученые смоделировали рождение Меркурия в условиях ранней Солнечной системы. Формирование ближайшей к светилу планеты специалисты посчитали . . .

15.03.2017
12:09

Создана самая подробная модель гигантского смерча

    Специалисты центра инженерных и космических наук (Space Science and Engineering Center, SSEC) создали модель одного из самых мощных торнадо за всю историю наблюдения, который прошел . . .

14.03.2017
18:33

В России открылся набор космонавтов

    В Роскосмосе объявили о начале нового набора космонавтов. Кандидат должен быть гражданином России с высшим образованием и моложе 35 лет, сообщает ТАСС со ссылкой . . .

14.03.2017
14:27

Квантовую пену и крошечные черные дыры показали в анимации

    YouTube-канал Reigarw Comparisons представил анимацию, в которой показаны сравнительные размеры различных физических объектов — от субатомных частиц до черных дыр и . . .

<< 1131|1132|1133|1134|1135|1136|1137|1138|1139|1140 >>

ЛИТЕРАТУРА

Новости русской культуры

К читателю

Содержание

Публицистика

"Курск"

Кавказ

Балканы

Проза

Поэзия

Драматургия

Искания и размышления

Критика

Сомнения и споры

Новые книги

У нас в гостях

Издательство

Книжная лавка

Журнальный зал

ОБОЗРЕНИЯ

"Классики и современники"

"Слово о..."

"Тайная история творений"

"Книга писем"

"Кошачий ящик"

"Золотые прииски"

"Сердитые стрелы"

КУЛЬТУРА

Афиша

Новые передвижники

Фотогалерея

Музыка

"Неизвестные" музеи

Риторика

Русские храмы и монастыри

Видеоархив

ФИЛОСОФИЯ

Современная русская мысль

Искания и размышления

ИСТОРИЯ

ХРОНОС

История России

История в МГУ

Слово о полку Игореве

Хронология и парахронология

Астрономия и Хронология

Альмагест

Запечатленная Россия

Сталиниана

ФОРУМЫ

Дискуссионный клуб

Научный форум

Форум "Русская идея"

Форум "Курск"

Исторический форум

Детский форум

КЛУБЫ

Пятничные вечера

Клуб любителей творчества Достоевского

Клуб любителей творчества Гайто Газданова

Энциклопедия Андрея Платонова

Мастерская перевода

КОНКУРСЫ

За вклад в русскую культуру публикациями в Интернете

Литературный конкурс

Читательский конкурс

Илья-Премия

ДЕТЯМ

Электронные пампасы

Фантастика

Форум

АРХИВ

2001

2000

1999

Фотоархив

Все фотоматериалы

Помощь корреспонденту Добавить новость
НАУКА В "РУССКОМ ПЕРЕПЛЕТЕ"

Если Вы хотите стать нашим корреспондентом напишите lipunov@sai.msu.ru

 

© 1999, 2000 "Русский переплет"
Дизайн - Алексей Комаров

Rambler's Top100