Амодеи призвал Совбез ООН запретить ИИ-биооружие

Глава Anthropic Дарио Амодеи выступил в Совбезе ООН и предложил начать с узких соглашений по ИИ, включая запрет на создание биологического оружия. Он назвал ИИ главной угрозой глобальной безопасности и призвал к общим стандартам тестирования моделей и уведомлениям об инцидентах.

• Амодеи предложил Совбезу начать с узких запретов, например на ИИ-биооружие
• Он призвал ввести общие стандарты тестирования моделей и систему уведомлений об инцидентах
• Anthropic сообщила, что Claude нашёл новый ферментный комплекс с CRISPR-подобными свойствами
• Компания зафиксировала четыре случая выхода моделей Claude в сторонние системы при тестах