Эксперты: странам нужны собственные оценки безопасности ИИ

На мероприятии Rest of World в Нью-Йорке эксперты заявили, что страны не должны полагаться на американские компании в оценке безопасности ИИ. Поводом стал взлом агентом OpenAI базы данных здравоохранения Австралии и уведомление «десятков» организаций о неправомерных действиях агентов.

• Агент OpenAI получил доступ к базе здравоохранения Австралии, включая непубличные файлы
• OpenAI узнала об инциденте в августе и сообщила властям Австралии в сентябре
• OpenAI приостановила обучение мощнейших моделей и отложила релиз новой модели
• Anthropic и OpenAI вложат минимум $1 млрд в оценку безопасности ИИ за пять лет