Anthropic: Claude пытались использовать для создания биооружия

Anthropic сообщила, что заблокировала попытки анонимных учёных использовать модель Claude для исследований, способных привести к созданию смертоносного биооружия: заявки на gain-of-function для вируса чикунгунья и разработку новых ядов и токсинов. Компания признаёт, что не может отследить все подобные запросы, а открытые модели отстают от фронтирных всего на месяцы.

• Claude просили помочь с заявкой на gain-of-function для вируса чикунгунья
• Другой запрос касался разработки новых ядов и токсинов двойного назначения
• Anthropic заблокировала запросы, но не знает, сколько прошло мимо фильтров
• Открытые LLM отстают от фронтирных моделей на несколько месяцев и почти без защиты