США исключают понятие ‘безопасность’ из названия Института безопасности ИИ

Министерство торговли США переименовало Институт безопасности ИИ в Центр стандартов и инноваций ИИ (CAISI), сместив акцент с общей безопасности на противодействие рискам национальной безопасности и предотвращение ‘обременительного и излишнего регулирования’ за рубежом. Министр торговли Говард Латник объявил о переменах 3 июня, назвав перестройку агентства способом ‘оценить и усилить инновации в США’ и ‘обеспечить доминирование США в международных стандартах ИИ’. Институт безопасности ИИ был создан в 2023 году при президенте Джо Байдене в рамках глобальных усилий по разработке лучших практик для правительств, направленных на снижение рисков систем ИИ. Он подписал меморандумы о взаимопонимании с крупными американскими компаниями, такими как OpenAI и Anthropic, для доступа к новым моделям и предложения улучшений перед их выпуском. В конце срока Байдена в начале 2025 года были опубликованы проекты руководящих принципов по управлению рисками ИИ, включая использование систем для создания биологического оружия или других угроз национальной безопасности, а также более распространенные категории вредоносного контента, такие как материалы с сексуальным насилием над детьми. Новый институт будет сосредоточен на ‘демонстрации рисков, таких как кибербезопасность, биобезопасность и химическое оружие’ в своих оценках. Также будет расследоваться ‘враждебное иностранное влияние, возникающее в результате использования ИИ-систем противников’, что, вероятно, включает китайскую языковую модель DeepSeek, которая в этом году вызвала переполох в американской индустрии ИИ. Этот шаг является частью более широких усилий администрации Трампа по ускорению расширения американских компаний в области ИИ. В свой первый день на посту Трамп отменил указ Байдена, предписывающий новые стандарты безопасности для крупных систем ИИ и отчет, оценивающий потенциальные риски для потребителей и рынка труда США. Его собственные указы поощряют внедрение генеративного ИИ в таких областях, как образование, и продвигают уголь как источник энергии для энергоемких центров обработки данных ИИ. В текущем республиканском законопроекте о бюджете предусмотрен 10-летний мораторий на регулирование ИИ на уровне штатов — положение, против которого выступают даже некоторые члены партии Трампа.