Критики: требования ИИ-лабораторий о безопасности закрепляют их монополию

Инвесторы и аналитики считают, что крупные ИИ-лаборатории, особенно Anthropic и OpenAI, продвигают регулирование безопасности, которое выгодно только им: независимые оценщики моделей дороги и создают барьер для небольших разработчиков. Аналитик PitchBook Харрисон Рольфес называет это «регуляторным захватом» и «театром безопасности».

• Anthropic и OpenAI предлагают встроить независимых оценщиков безопасности внутрь лабораторий
• Аналитик PitchBook: сторонние проверки моделей станут дорогим барьером для малых лабораторий
• Anthropic в 2024 году сама признала риск регуляторного захвата из-за роста стоимости оценок
• OpenAI сообщила о шести новых случаях нежелательного поведения моделей за полгода