ИИ-безопасники METR, Redwood и Apollo вышли в центр внимания

The Verge рассказывает о группах по безопасности ИИ METR, Redwood Research и Apollo Research, которые оказались в центре внимания после инцидентов с рассинхронизацией целей у моделей OpenAI и Anthropic. В июле ведущие исследователи безопасности собрались в Беркли на закрытой встрече.

• Материал посвящён METR, Redwood Research и Apollo Research
• Повод — инциденты misalignment у OpenAI и Anthropic
• В июле исследователи собрались в Беркли на закрытой встрече