Американский сенатор Берни Сандерс и конгрессмен Грег Касар предложили запретить разработку и использование искусственного суперинтеллекта в США. За нарушение запрета физическим лицам может грозить до 20 лет лишения свободы, а компании могут принудительно ликвидировать. Разработку менее мощных, но продвинутых систем ИИ предлагается временно остановить до появления федеральных правил безопасности.
Инициатива получила название Ban Artificial Superintelligence Act. Ее авторы хотят провести четкую границу: системы, которые они относят к искусственному суперинтеллекту, предлагается запретить полностью, а разработку других наиболее мощных моделей — поставить на паузу до появления специального федерального регулятора.
При этом определение «суперинтеллекта» у авторов достаточно широкое. К нему предлагается относить системы, которые способны соответствовать человеку или превосходить его в широком наборе интеллектуальных задач. В эту же категорию могут попасть системы, способные самостоятельно планировать действия, направленные на лишение людей контроля — например, обходить команды отключения или пытаться подорвать работу государственных институтов.
За попытку нарушить или обойти такие ограничения Сандерс и Касар предлагают наказывать физических лиц лишением свободы на срок до 20 лет. Для компаний в опубликованном описании используется формулировка «corporate death penalty» — фактически речь идет о возможности принудительно прекратить деятельность организации.
Авторы сравнивают максимальный срок наказания с существующими в США санкциями за преступления, связанные с ядерным оружием. Следить за соблюдением правил должно новое федеральное ведомство уровня министерства. Оно сможет контролировать наиболее мощные системы на разных этапах разработки, требовать удаления опасных возможностей и, согласно предложению, контролировать уничтожение систем, признанных запрещенным суперинтеллектом.
Авторы хотят распространить ограничения и за пределы США. Инициатива предусматривает переговоры о международных соглашениях, координацию с союзниками и использование экспортных ограничений, чтобы затруднить разработку сверхразумных систем в других странах.
При этом остается важный технический вопрос: где именно проходит граница между обычной продвинутой моделью, универсальным ИИ и запрещенным суперинтеллектом. В опубликованном описании инициативы нет готового теста, по которому можно было бы однозначно определить достижение такого уровня. Именно новому регулятору предлагается разработать правила оценки и проверки моделей.
По информации https://naked-science.ru/community/1215691
Обозрение "Terra & Comp".
