Переговорщики из Сената США обсуждают возможность обязать разработчиков искусственного интеллекта принимать меры против известных серьезных рисков, связанных с их технологиями. Инициатива может стать частью более широкого законодательства об ИИ, которое сейчас разрабатывается при участии сенаторов от обеих партий.
Поводом для активизации дискуссии стали предупреждения исследователей ведущих ИИ-компаний о том, что быстрое развитие более автономных и мощных моделей создает риски, которые добровольных мер безопасности может быть недостаточно для сдерживания. В последние дни представители отрасли и законодатели вновь заговорили о необходимости государственного контроля.
Обсуждаемый подход предполагает, что компании должны будут выявлять наиболее серьезные угрозы своих моделей и принимать конкретные меры для их снижения. Речь идет прежде всего о рисках, связанных с кибератаками, разработкой биологического оружия и другими потенциально катастрофическими сценариями.
При этом сенаторы пытаются найти компромисс между безопасностью и сохранением стимулов для инноваций. Одним из вариантов может стать регулирование только систем, которые достигают определенного уровня возможностей и представляют доказуемый значительный риск, а не распространение одинаковых требований на все ИИ-продукты.