Амодеи предложил встроенных сторонних аудиторов ИИ с доступом как у сотрудников

Глава Anthropic Дарио Амодеи опубликовал эссе с призывом дать сторонним оценщикам (например, METR) постоянный доступ к лабораториям уровня сотрудников для проверки безопасности и выравнивания ИИ. Идею поддержали Сэм Альтман, Илон Маск, Демис Хассабис и Марк Цукерберг. Зарплаты таких специалистов в METR достигают $687 тыс.

• Амодеи предложил встроенных сторонних оценщиков с доступом как у сотрудников
• Идею поддержали Альтман, Маск, Хассабис и Цукерберг
• METR платит оценщикам до $687 тыс., Mercor — $180–300 тыс.
• Оценщики проверяют пайплайны обучения, инциденты и выравнивание моделей