ByteDance создала в Seed отдел безопасности и выравнивания ИИ-моделей

Лаборатория Seed компании ByteDance формирует отдельное подразделение Model-Alignment & Preparedness. Его возглавит Янь Линь с подчинением главе Seed У Юнхуэю; туда перейдут команда Responsible AI и часть сотрудников Chat-команды. Отдел займётся спецификациями поведения моделей, оценками безопасности, обучением выравниванию и мониторингом рисков, включая химические, биологические, радиологические и ядерные угрозы.

• Новое подразделение Model-Alignment & Preparedness возглавит Янь Линь
• В отдел переведут Responsible AI и часть сотрудников Chat-команды
• В задачи войдут оценка безопасности, выравнивание и мониторинг рисков
• Seed планирует расширить сотрудничество с внешними исследователями