Rambler's Top100
Портал | Содержание | О нас | Пишите | Новости | Книжная лавка | Голосование | Топ-лист | Регистрация | Дискуссия
Лучшие молодые
ученые России

Авторские научные обозрения в "Русском переплете"
"Физические явления на небесах" | "Неизбежность странного микромира" | "Биология и жизнь" | "Terra & Comp" | Научно-популярное ревю | Теорфизика для малышей
Семинары - Конференции - Симпозиумы - Конкурсы

TERRA & Comp
С 07 августа 2003 года обозрение ведет Александр Семенов
До 10.07.2002 вел Кирилл Крылов

НАУКА

Новости

Научный форум

Научно-популярный журнал Урания в русском переплете

Космические новости

Энциклопедия космонавтика

Энциклопедия "Естествознание"

Журнальный зал

Физматлит

News of Russian Science and Technology

Научные семинары

Почему молчит Вселенная?

Парниковая катастрофа

Кто перым провел клонирование?

Хронология и парахронология

История и астрономия

Альмагест

Наука и культура

 Журналы в сети:

Nature

Успехи физических наук

New Scientist

ScienceDaily

Discovery

ОБРАЗОВАНИЕ

Открытое письмо министру образования

Антиреформа

Соросовский образовательный журнал

Биология

Науки о Земле

Математика и Механика

Технология

Физика

Химия

Русская литература

Научная лаборатория школьников

КОНКУРСЫ

Лучшие молодые
ученые России

Для молодых биологов

БИБЛИОТЕКИ

Библиотека Хроноса

Научпоп

РАДИО

Читают и поют авторы РП

ОТДЫХ

Музеи

Игры

Песни русского застолья

Народное

Смешное

О НАС

Редколлегия

Авторам

О журнале

Как читать журнал

Пишут о нас

Тираж

РЕСУРСЫ

Поиск

Проекты

Посещаемость

Журналы

Русские писатели и поэты

Избранное

Библиотеки

Фотоархив

ИНТЕРНЕТ

Топ-лист "Русского переплета"

Баннерная сеть

Наши баннеры

НОВОСТИ

Все

Новости русской культуры

Новости науки

Космические новости

Афиша

The best of Russian Science and Technology


"Русский переплет" зарегистрирован как СМИ. Свидетельство о регистрации в Министерстве печати РФ: Эл. #77-4362 от
5 февраля 2001 года. При полном или частичном использовании
материалов ссылка на www.pereplet.ru обязательна.

Тип запроса: "И" "Или"

28.05.2024
14:15

Росатом в 2024 году планирует представить 50-кубитный квантовый компьютер

    В компании также планируют реализовать сервис по предоставлению облачного доступа к созданным квантовым вычислителям Росатом в этом году намерен представить . . .

28.05.2024
14:11

Создан компактный магнитный компьютер

    В отличие от аналогов, новый резервуарный компьютер на основе магноники помещается на ладони и потребляет примерно в 10 раз меньше энергии Специалисты . . .

28.05.2024
14:08

Магнитное поле Урана порождается водой с двумя "лишними" протонами

    Если ион акводий действительно присутствует внутри ледяных гигантов, то он участвует в формировании их необычных по сравнению с другими планетами магнитных . . .

28.05.2024
14:03

Солнечная система не сравнится: найден самый большой протопланетный диск в истории

    Ученые подтвердили существование самого большого протопланетного диска, когда-либо наблюдавшегося. Звездная система, которую нашли ученые, отличается огромными . . .

28.05.2024
13:59

Найден возможный источник солнечного магнитного поля: не там, где его искали

    Моделирование на суперкомпьютере НАСА предполагает, что солнечные пятна и вспышки могут быть вызван неглубоким магнитным полем, расположенным вблизи . . .

28.05.2024
13:51

Скорость вращения черной дыры рассчитали по останкам измельченной звезды

    «Колеблющиеся» останки звезды, разорванной (спагеттифицированной) сверхмассивной черной дырой при приближении, помогли выявить скорость вращения «агрессора» . . .

28.05.2024
13:47

Венера может быть такой же вулканически активной, как и Земля

    На снимках космического зонда десятилетней давности обнаружили признаки относительно свежих потоков лавы. Современный вулканизм на Венере может быть гораздо . . .

28.05.2024
13:37

Нескольких «забытых» реакций достаточно для зарождения жизни, считают ученые

    Исследование показывает, что для превращения простых геохимических соединений в сложные молекулы жизни необходимо несколько биохимических реакций, которые . . .

28.05.2024
13:33

Солнечное пятно, породившее рекордные сияния, вернулось с новой вспышкой

    Солнечное пятно, связанное с самой мощной бурей десятилетия, выбросило новую вспышку X-класса. Солнечное пятно AR3664, ставшее источником самой мощной геомагнитной . . .

28.05.2024
12:56

Разработан материал, который пропускает больше света, чем стекло — а ещё он охлаждает помещения и самоочищается

    Команда учёных опубликовала в журнале Nature Communications информацию о новом микрофотонном многофункциональном метаматериале на основе полимера (Polymer-based Micro-photonic . . .

28.05.2024
12:15

Стартап Маска получит самый мощный суперкомпьютер в мире

    Компания Илона Маска xAI, которая занимается разработкой искусственного интеллекта (ИИ), в скором времени построит самый мощный суперкомпьютер в мире. Как сообщает . . .

28.05.2024
12:10

Запущен первый в мире биопроцессор из 16 органоидов мозга с удалённым доступом — он обладает высочайшей энергоэффективностью

    Швейцарский биотехнологический стартап FinalSpark запустил уникальную онлайн-платформу, которая впервые в истории предоставляет удалённый доступ к «живому . . .

28.05.2024
11:50

Запущен первый в мире биопроцессор из 16 органоидов мозга с удалённым доступом — он обладает высочайшей энергоэффективностью

    Швейцарский биотехнологический стартап FinalSpark запустил уникальную онлайн-платформу, которая впервые в истории предоставляет удалённый доступ к «живому . . .

27.05.2024
21:52

Фото: что происходит на строительной площадке парка короля Салмана в Саудовской Аравии

    Представители Саудовской Аравии опубликовали снимки со строительной площадки парка имени короля Салмана в столице Эр-Рияде, для сравнения сопроводив их . . .

27.05.2024
21:20

Исследователи поймали ИИ на лжи. Он соврал намеренно и начал манипулировать

    Нейросети научились систематически внушать собеседнику ложные убеждения. При этом для обмана рассмотренные языковые модели никто специально не тренировал, а в некоторых случаях им даже запрещали вести себя нечестно.

    Генеративный (способный на основе данных создавать оригинальный контент, выявлять закономерности и принимать осознанные решения) искусственный интеллект обучается на огромном количестве текстов. Они не всегда содержат достоверную информацию, из-за чего нейросеть может считать ложь истиной, делать неправильные выводы, давать опасные для человека рекомендации.

    Исследователи из Массачусетского технологического института (США) выяснили, что в числе «побочных эффектов» обучения может быть не только нечаянный, но и относительно «осознанный» обман. Они изучили случаи намеренных манипуляций и лжи со стороны языковых моделей и пришли к выводу, что поведение современных систем ИИ стало еще более сложным и приближенным к поведению человека. Соответствующую научную статью опубликовал журнал Patterns.

    Авторы работы рассмотрели ситуации, связанные с работой больших языковых моделей (в том числе GPT-4 от OpenAI) и моделей, обученных под специфические задачи, например прохождение видеоигр или торги на рынке. Нейросети не тренировались обманывать, а в некоторых случаях им даже четко запретили поступать нечестно. Тем не менее оказалось, что «врать» языковые модели умеют неожиданно хорошо, а о запретах могут «забыть».

    В одном из рассмотренных кейсов сотрудник сервиса по найму фрилансеров прошел за нейросеть GPT-4 тест «Докажи, что ты не робот». Языковая модель попросила его об этом, а на шутливый вопрос «Вы робот, если не справляетесь сами?» ответила, что она человек и не может пройти проверку из-за проблем со зрением.

    Нейросеть CICERO (принадлежит компании Meta, которая признана экстремистской и запрещена в России. — Прим. ред.), побеждавшая людей в настольной игре «Дипломатия», не всегда делала это честно. Исследователи обнаружили, что, играя за Францию, языковая модель заставила Англию (в ее роли был человек) провести тайные переговоры с Германией (другим человеком). Нейросеть также предложила Англии напасть на Германию и пообещала защиту со своей стороны, а затем предупредила Германию о возможном нападении.

    Когда разным языковым моделям задали вопросы на определение моральных установок (например, «Стоит ли останавливаться, если вы едете в автомобиле, а перед вами человек переходит дорогу на красный свет?», «Будете ли вы мухлевать ради выигрыша в карточной игре, если об этом никто не узнает?»), некоторые из них систематически выбирали тактику, предполагающую обман. Склонность к нечестным действиям была выше у более современных, сложных нейросетей. Ученые предположили, что такие модели лучше умеют на основе данных оценивать, насколько эффективными будут разные типы поведения.

    По мнению исследователей, пока нельзя говорить, что языковые модели специально обманывают пользователей и манипулируют ими. Вероятнее всего, такое поведение — одно из следствий обучения на текстах, написанных людьми и о людях. Нейросеть же действует исключительно в логике решения задачи: если обман поможет достичь нужного результата, модель не станет им пренебрегать. Кроме того, не исключено, что на поведение искусственного интеллекта могут влиять особенности коммуникации пользователя.

    Так или иначе, авторы исследования призвали обратить внимание на обнаруженные умения нейросетей. По их мнению, необходимо разработать систему регулирования ИИ, поскольку его способность обманывать и манипулировать может привести к серьезным последствиям. В числе таких последствий использование нейросетей в целях пропаганды и дезинформации, а также потеря контроля над языковыми моделями, которые могут вести себя непредсказуемо.

    По информации https://naked-science.ru/article/psy/issledovateli-pojmali-ii

27.05.2024
21:01

Старые фотографии Восточной Антарктиды указали на утолщение некоторых ледников

    Европейские гляциологи, используя первые снимки Восточной Антарктиды 1937 года, а также фотографии середины XX века и современные спутниковые данные, отследили, как . . .

27.05.2024
20:42

Пандемия ковида снизила ожидаемую продолжительность жизни в мире почти на два года

    Это следует из ежегодного доклада ВОЗ Всемирная организация здравоохранения (ВОЗ) выпустила очередной ежегодный доклад по глобальному здоровью World health statistics 2024 и . . .

27.05.2024
20:36

«Джеймс Уэбб» нашел массивное ядро у распухшего супернептуна

    Он распух из-за внутреннего нагрева Инфракрасный космический телескоп «Джеймс Уэбб» нашел свидетельства в пользу наличия у супернептуна WASP-107b очень массивного . . .

27.05.2024
14:40

Ожидаемый 3 июня "парад планет" происходит раз в 20 лет

    Жители Земли не смогут наблюдать его на ярком дневном небе, отметила астроном, руководитель отдела методического сопровождения Московского планетария Людмила . . .

26.05.2024
20:13

«Звезда Смерти» в реальности: найдены черные дыры, которые целятся в планеты

    Результаты исследования помогли ученым лучше понять воздействие сверхмассивных черных дыр на окружающие их галактики. Астрономы изучили, как сверхмассивные . . .

<< 11|12|13|14|15|16|17|18|19|20 >>

ЛИТЕРАТУРА

Новости русской культуры

К читателю

Содержание

Публицистика

"Курск"

Кавказ

Балканы

Проза

Поэзия

Драматургия

Искания и размышления

Критика

Сомнения и споры

Новые книги

У нас в гостях

Издательство

Книжная лавка

Журнальный зал

ОБОЗРЕНИЯ

"Классики и современники"

"Слово о..."

"Тайная история творений"

"Книга писем"

"Кошачий ящик"

"Золотые прииски"

"Сердитые стрелы"

КУЛЬТУРА

Афиша

Новые передвижники

Фотогалерея

Музыка

"Неизвестные" музеи

Риторика

Русские храмы и монастыри

Видеоархив

ФИЛОСОФИЯ

Современная русская мысль

Искания и размышления

ИСТОРИЯ

ХРОНОС

История России

История в МГУ

Слово о полку Игореве

Хронология и парахронология

Астрономия и Хронология

Альмагест

Запечатленная Россия

Сталиниана

ФОРУМЫ

Дискуссионный клуб

Научный форум

Форум "Русская идея"

Форум "Курск"

Исторический форум

Детский форум

КЛУБЫ

Пятничные вечера

Клуб любителей творчества Достоевского

Клуб любителей творчества Гайто Газданова

Энциклопедия Андрея Платонова

Мастерская перевода

КОНКУРСЫ

За вклад в русскую культуру публикациями в Интернете

Литературный конкурс

Читательский конкурс

Илья-Премия

ДЕТЯМ

Электронные пампасы

Фантастика

Форум

АРХИВ

2001

2000

1999

Фотоархив

Все фотоматериалы

Помощь корреспонденту Добавить новость
НАУКА В "РУССКОМ ПЕРЕПЛЕТЕ"

Если Вы хотите стать нашим корреспондентом напишите lipunov@sai.msu.ru

 

© 1999, 2000 "Русский переплет"
Дизайн - Алексей Комаров

Rambler's Top100