Крупнейшие разработчики ИИ в США договорились усилить проверки безопасности своих моделей до их запуска. 

Речь идет об OpenAI, Google, Anthropic, Meta, Nvidia и xAI. Компании должны будут отслеживать, как их модели могут использоваться для кибератак, а также в биологической и химической сферах.

Как сообщает Reuters, если во время тестирования будут выявлены серьезные риски, разработчики должны будут принять меры еще до полноценного запуска моделей.

Кроме того, компании договорились привлекать независимых аудиторов и совместно вырабатывать общие стандарты безопасности для ИИ.

Соглашение пока добровольное и не имеет обязательной юридической силы. Однако в дальнейшем отдельные требования могут закрепить в законах.

Договоренности были достигнуты после встречи представителей компаний с президентом США Дональдом Трампом 29 сентября.

Dialog.TJ