OpenAI, Google DeepMind и Anthropic ведут закрытые переговоры о стандартах безопасности ИИ

OpenAI, Anthropic и Google DeepMind несколько недель ведут закрытые переговоры о единых стандартах безопасности ИИ и допуске независимых оценщиков внутрь процесса разработки. Планируется дать организациям вроде METR и Apollo Research доступ к промежуточным чекпоинтам моделей для выявления обманного поведения. Инициативу поддержали Сэм Альтман и Демис Хассабис после эссе Дарьо Амодеи.

• Три крупнейших ИИ-лаборатории обсуждают общие стандарты безопасности моделей
• Независимые оценщики получат доступ к промежуточным чекпоинтам обучения
• Участники: METR, Apollo Research и Redwood Research
• Юристы предупреждают о риске антимонопольных претензий к альянсу