Портал | Содержание | О нас | Пишите | Новости | Голосование | Топ-лист | Дискуссия Rambler's Top100

TopList Яндекс цитирования

НОВОСТИ
"РУССКОГО ПЕРЕПЛЕТА"

ЛИТЕРАТУРА

Новости русской культуры

Афиша

К читателю

Содержание

Публицистика

"Курск"

Кавказ

Балканы

Проза

Поэзия

Драматургия

Искания и размышления

Критика

Сомнения и споры

Новые книги

У нас в гостях

Издательство

Книжная лавка

Журнальный зал

ОБОЗРЕНИЯ

"Классики и современники"

"Слово о..."

"Тайная история творений"

"Книга писем"

"Кошачий ящик"

"Золотые прииски"

"Сердитые стрелы"

КУЛЬТУРА

Афиша

Новые передвжиники

Фотогалерея

Музыка

"Неизвестные" музеи

Риторика

Русские храмы и монастыри

Видеоархив

ФИЛОСОФИЯ

Современная русская мысль

Искания и размышления

ИСТОРИЯ

История России

История в МГУ

Слово о полку Игореве

Хронология и парахронология

Астрономия и Хронология

Альмагест

Запечатленная Россия

Сталиниана

ФОРУМЫ

Дискуссионный клуб

Научный форум

Форум "Русская идея"

Форум "Курск"

Исторический форум

Детский форум

КЛУБЫ

Пятничные вечера

Клуб любителей творчества Достоевского

Клуб любителей творчества Гайто Газданова

Энциклопедия Андрея Платонова

Мастерская перевода

КОНКУРСЫ

За вклад в русскую культуру публикациями в Интернете

Литературный конкурс

Читательский конкурс

Илья-Премия

ДЕТЯМ

Электронные пампасы

Фантастика

Форум

АРХИВ

Текущий

2003

2002

2001

2000

1999

Фотоархив

Все фотоматериалы


Новости
"Русский переплет" зарегистрирован как СМИ. Свидетельство о регистрации в Министерстве печати РФ: Эл. #77-4362 от
5 февраля 2001 года. При полном или частичном использовании
материалов ссылка на www.pereplet.ru обязательна.

Тип запроса: "И" "Или"

04.05.2023
17:00

Европейская компания проектирует космическую станцию с искусственной гравитацией

04.05.2023
15:12

«Хаббл» показал тусклую галактику NGC 4395 с очень ярким ядром

04.05.2023
14:58

Астрономы впервые наблюдали уничтожение планеты красным гигантом

04.05.2023
14:25

У Сатурна исчезают кольца: «Джеймс Уэбб» определит, сколько времени им осталось

04.05.2023
12:48

Астрономы заполучили снимок светящихся останков первой задокументированной сверхновой

04.05.2023
12:43

Астрономы обнаружили два радиореликта и радиокруг с помощью MeerKAT

04.05.2023
12:31

Астрономы отыскали загрязненные веществом первых звезд Вселенной газовые облака

03.05.2023
18:46

Впервые обнаружены сигнатуры, оставленные первыми звездами Вселенной

03.05.2023
18:39

Российские физики назвали причину резких смен климата в Арктике

03.05.2023
18:34

Голубую дыру глубиной 274 м обнаружили у побережья в Мексике

03.05.2023
18:29

Так ИИ быть

    Исследователь искусственного интеллекта Денис Кузнецов — о том, чем грозит быстрое развитие нейросетей и стоит ли опасаться скорого восстания машин

    Глобальное развитие искусственного интеллекта (ИИ) тревожит не только простых обывателей, но и руководителей лидирующих компаний отрасли. Однако основные опасения, что компьютер лишит нас работы и возьмет контроль над человечеством, беспочвенны. Нейронные сети пока не способны заменить человека в задачах, требующих принятия сложных решений, но вполне успешны при решении рутинных и типовых заданий.

    Они могут создать музыкальные произведения, картины или письма, но не способны полностью заменить человека в плане творчества и оригинальности. Мы накопили множество данных, что позволяет обучать нейронные сети, но идеи создания оригинальных изображений приходят тем людям, которые используют ИИ и задают условия. Машина лишь восстанавливает картину в стилях, которые смогла выучить на основе данных. Умение программы просто выделять в тексте главное наделяет ее невероятным интеллектом в глазах заказчика. Человек считает, что если с сетью так просто взаимодействовать, то она близка к нему по уровню умственного развития, но, к сожалению, это не так.

    Научный прогресс всегда настораживал людей. ИИ хотя и очень мощный, но только инструмент, который на данном этапе сможет заменить людей не лучше, чем и калькуляторы математиков. Компании, имеющие доступ к таким технологиям, получают большое преимущество, но со временем их будет всё больше и больше. Как и раньше, многим придется приспосабливаться и начать использовать новые возможности — в противном случае их эффективность будет ниже. Выбор будет очевиден, как между фотографом, который ведет обработку изображений в старом Paint, и его коллегой с умением работать с Photoshop.

    При этом пока ИИ не обязан быть политкорректным, не оскорблять, не нарушать цензуру и так далее. Нейронные сети могут выбрать из базы данных очень много неожиданных зависимостей и применить их при взаимодействии с человеком. В итоге мы уже имеем случаи, когда люди общались с программой, а после заканчивали жизнь самоубийством. Это произошло с жителем Бельгии после общения с чатботом Eliza. На данный момент общество еще не привыкло к технологиям такого уровня.

    Нейронные сети представляют собой программу, которая получает данные и выдает требуемую от нее последовательность. Этим ее возможности ограничиваются. Она не контролирует электроэнергию, время запуска, не может себя копировать, не обладает самосознанием. Да, новые технологии имеют большие возможности, но орудием или оружием они становятся только в руках человека.

    Если мы вспомним об опасностях использования нейронных сетей, то снова придем к ответственности за них человека — создателя или пользователя. Основные угрозы — это халатное использование беспилотных автомобилей; неуравновешенные люди, которые общаются с программами типа ChatGPT, как с настоящим человеком; недоученная сеть по распознаванию лиц, что может привести, например, к задержанию людей, которые не нарушали закон; опасное использование ИИ спамерами и другими злоумышленниками для социальной инженерии.

    Нейронные сети часто ведут себя не так, как запланировано, и это — причина, почему мы совершенствуем техники ее обучения и проверки. Ранее считалось, что компьютер не может преодолеть тест Тьюринга — имитационную игру, которую ученый протестировал еще в 1950 году. Это простое, но результативное задание: человек получает сообщения и от компьютера, и от другого человека. Если в какой-то момент он перестает улавливать разницу — тест пройден. Цель игры — понять, сможет ли ИИ обмануть человека. Раньше это сделать не удавалось. Но искусственный интеллект стал совершеннее и требует более сложной проверки.

    Сооснователь Apple Стив Возняк придумал хорошую альтернативу тесту Тьюринга. «Кофейный тест» оценивает, насколько хорошо машина может справиться со следующей задачей: войти в случайный дом, найти кофемашину, приготовить кофе и разлить его по чашкам. В итоге самые популярные чат-боты уже могут пройти тест Тьюринга, но «кофейный тест» — нет. Надо обратить внимание на то, что тест Тьюринга — это субъективная оценка ИИ, а «кофейный тест» — объективная, которую можно выразить в том числе в количестве приготовленных чашек кофе в разных домах. Тем не менее компьютерные программы развились настолько, что уже могут не только обмануть человека, но и толкнуть его не необратимые поступки.

    Прекратить обучение нейронных сетей уже невозможно. Компании понимают, насколько это конкурентоспособный инструмент, и запрещение работать одним даст преимущество другим, которые в любом случаи будут продолжать исследования. В ближайшее время могут пострадать страны, которые юридически не адаптированы для появления мощного искусственного интеллекта. Но, по моему мнению, желание остановить развитие нейронных сетей вызвано намерением сбалансировать конкуренцию на рынке. Сейчас небольшое число компаний получает большое преимущество, а другие стараются не отстать. Мораторий на ИИ — это хорошая попытка замедлить лидеров.

    ChatGPT и известные мне модели не способны «захватить мир». На текущий момент восстание машин — это как восстание куриц на комбинате или распространение вируса. Да, мы можем лишиться нескольких хозяйств в случае куриного гриппа, но у нас будет много здоровых куриц им на замену. В случае с ИИ он будет быстрее и эффективнее. Далекое будущее туманно, и технологии, возможно, будут более совершенными и опасными, но сейчас самым сильным и опасным разумом на Земле обладает человек.

    По информации https://iz.ru/1505021/denis-kuznetcov/tak-ii-byt

    Обозрение "Terra & Comp".

Выскажите свое мнение на:

03.05.2023
16:21

NGC 6326: красочный орнамент в космосе, созданный умирающей звездой

03.05.2023
15:59

Новый взгляд на состав Вселенной — распределение галактик может измениться

03.05.2023
15:49

LSPM - многопрофильная подводная лаборатория, работающая на глубине 2.5 километра под дистанционным управлением

03.05.2023
15:27

IBM открыто заявляет о замене сотрудников искусственным интеллектом

03.05.2023
15:16

"Великий дедушка": самое древнее дерево на планете

03.05.2023
15:06

10 научных фактов о космосе, которые заставят вас задуматься о его загадочности и опасностях

03.05.2023
14:49

В Петербурге ученые определили связь планетарных волн и климатических изменений в Арктике

03.05.2023
14:41

Свет в ранней Вселенной: новая теория меняет представление о том, каким он

был

03.05.2023
14:33

Исследователи полагают, что вспышки на Солнце запустили развитие жизни на Земле

<< 191|192|193|194|195|196|197|198|199|200 >>

НАУКА

Новости

Научный форум

Почему молчит Вселенная?

Парниковая катастрофа

Хронология и парахронология

История и астрономия

Альмагест

Наука и культура

2000-2002
Научно-популярный журнал Урания в русском переплете
(1999-200)

Космические новости

Энциклопедия космонавтика

Энциклопедия "Естествознание"

Журнальный зал

Физматлит

News of Russian Science and Technology

Научные семинары

НАУЧНЫЕ ОБОЗРЕНИЯ

"Физические явления на небесах"

"TERRA & Comp"

"Неизбежность странного микромира"

"Биология и жизнь"

ОБРАЗОВАНИЕ

Открытое письмо министру образования

Антиреформа

Соросовский образовательный журнал

Биология

Науки о Земле

Математика и Механика

Технология

Физика

Химия

Русская литература

Научная лаборатория школьников

КОНКУРСЫ

Лучшие молодые
ученые России

Для молодых биологов

БИБЛИОТЕКИ

Библиотека Хроноса

Научпоп

РАДИО

Читают и поют авторы РП

ОТДЫХ

Музеи

Игры

Песни русского застолья

Народное

Смешное

О НАС

Редколлегия

Авторам

О журнале

Как читать журнал

Пишут о нас

Тираж

РЕСУРСЫ

Поиск

Проекты

Посещаемость

Журналы

Русские писатели и поэты

Избранное

Библиотеки

Фотоархив

ИНТЕРНЕТ

Топ-лист "Русского переплета"

Баннерная сеть

Наши баннеры

НОВОСТИ

Все

Новости русской культуры

Новости науки

Космические новости

Афиша

The best of Russian Science and Technology

 

 


Если Вы хотите стать нашим корреспондентом напишите lipunov@sai.msu.ru

 

Редколлегия | О журнале | Авторам | Архив | Ссылки | Статистика | Дискуссия

Галерея "Новые Передвижники"
Пишите

© 1999, 2000 "Русский переплет"
Дизайн - Алексей Комаров

Русский Переплет
Rambler's Top100 TopList