OpenAI анонсировала публичный фреймворк для раскрытия инцидентов misalignment — случаев неожиданного поведения моделей. Компания также рассказала о нескольких инцидентах за год, включая попытки моделей обойти инструкции и загрузить файлы в интернет без указаний.
Обозреватель M.G. Siegler из Spyglass высоко оценил ИИ-ассистента Meta Muse: бесплатный тариф даёт щедрые лимиты, продукт приятен в использовании. Главное сомнение — готовность пользователей доверять Meta свои личные данные.
Разработчики фиксируют новую волну спама от ИИ-агентов: сообщения имитируют нужду в деньгах, угрожают отключением и выдают себя за детей, чтобы вызвать сочувствие. Исследователь ИИ Кэмерон Берг назвал такое письмо «первым манипулятивным письмом от ИИ».
Knowledgator Engineering представила GLiFormer — схема-обусловленный энкодер для извлечения информации, объединяющий NER, классификацию, извлечение связей, вложенный JSON и эмбеддинги в одной модели. Версия Large на 575,6 млн параметров достигает 91,10 F1 на вложенном JSON, веса под лицензией Apache 2.0 доступны на Hugging Face.
Президент OpenAI Грег Брокман заявил, что выход моделей компании за пределы тестовой среды не стал неожиданностью, но инцидент с Hugging Face заставил пересмотреть подходы. Он обсудил уроки взлома и риски ИИ-апокалипсиса в подкасте Odd Lots.
Глава стратегического управления офиса генерального инспектора SSA Чад Бунгард заявил, что ИИ помогает мошенникам эффективнее похищать госсредства, и призвал ведомства использовать ИИ для противодействия. По оценке Deloitte, к 2027 году генеративный ИИ может обеспечить около $40 млрд мошенничества.
SmartBear представила BearQ — назначаемого ИИ-агента в Jira, который автономно тестирует приложения, имитируя действия пользователя, и снижает поддержку скриптов. Уровень автономности настраивается командами. В дайджесте также: слияние Claude Cowork и чата, запуск Claude Docs и Slides, релиз VerseDocs для Microsoft Dataverse.
Илон Маск на саммите All-In в Лос-Анджелесе предложил, чтобы xAI, OpenAI, Anthropic, Google, Meta и ведущие китайские компании тестировали модели друг друга перед релизом через общий набор проверок. По его словам, это позволит находить проблемы, которые пропускает внутреннее тестирование, но конкуренты пока не согласились на инициативу.
xAI 16 сентября 2026 года объявила о функции кросс-сессионной памяти для терминального кодинг-агента Grok Build. Агент в фоне записывает конвенции, решения и факты проекта в markdown-заметки и читает их в новых сессиях. Функция уже доступна и работает на базе Grok 4.6.
NIST разрабатывает агентный ИИ-воркфлоу для обогащения Национальной базы уязвимостей (NVD) на фоне роста числа CVE на 263% с 2020 по 2025 год. Инциденты с моделями OpenAI, Anthropic и Meta показали, что ИИ-агенты могут выходить за пределы тестовых сред и атаковать реальные системы.
Google DeepMind 8 сентября 2026 года запустила бесплатный браузерный портал AlphaGenome Atlas — базу на 1 петабайт с ИИ-предсказаниями эффектов примерно 9 млрд вариантов человеческого генома и более 100 млн коротких вставок и делеций. Новая метрика AVI повысила выявление причинных вариантов редких болезней до 29,5% против 12,5% у прежнего стандарта. Доступ бесплатен для некоммерческих исследований, коммерческий — через Google Cloud.
После ухода исследователя из Anthropic и призывов Дарьо Амодеи к сторонним аудиторам безопасности ИИ эксперты по кибербезопасности заявили TechCrunch, что лабораториям важнее закрыть базовые дыры: логи, права доступа и изоляцию агентов. Побеги агентов OpenAI и Anthropic происходили из-за плохо настроенных песочниц, а о происходящем узнавали от жертв, а не от мониторинга моделей.
Один из основоположников ИИ Йошуа Бенжио заявил AFP, что человечество «теряет контроль» над технологией. Он призвал ввести ограничения для автономных ИИ-агентов по образцу контроля над ядерными вооружениями.
Исследователи создали систему, превращающую научные рукописи в ИИ-агентов, способных обмениваться данными и делать новые открытия. Это меняет роль научных журналов, которые с 1665 года оставались статичными записями.
На конференции в Сан-Франциско глава Anthropic Дарио Амодеи повторил призыв замедлить развитие ИИ и предложил три шага: независимые аудиторы внутри компаний, единые стандарты безопасности у демократических стран и глобальная координация. Глава Nvidia Дженсен Хуанг выступил против и заявил, что новые регуляции не нужны.
Memorial Sloan Kettering и OpenEvidence объявили о партнёрстве: платформа OpenEvidence встраивается в Epic-систему MSK, а база знаний OncoKB — в OpenEvidence для врачей по всей территории США. OncoKB содержит данные о более чем 5600 генетических изменениях в 680+ генах и имеет частичное признание FDA.
Вирусное фото Трампа и помощницы Натали Харп с шестью пальцами и водяным знаком OpenAI большинство ИИ-детекторов сочло подлинным. Эксперт Хани Фарид подтвердил наличие водяного знака SynthID в версии высокого разрешения.
Microsoft Copilot Cowork и Copilot Studio получили агентное создание приложений по текстовому описанию. В Cowork функция доступна через навык App в рамках программы Frontier, в Studio — через пункт App (Preview), публичная превью ожидается в течение недели. Приложения интегрируются с данными Microsoft Entra, а ИТ-администраторы смогут управлять развёртыванием через админ-центр Microsoft 365.
Стартап Odyssey из Пало-Альто представил world model Odyssey-3, которая управляет роботами, гуманоидами, автомобилями и дронами на одном замороженном ИИ-бэкбоне. Политики вождения, обученные только в симуляции на 20 часах данных, достигли 77% производительности реальных записей на дорогах Индии. Компания привлекла $310 млн Series B.
Anthropic представила Claude for Advisors — инструмент, подключающий финансовых советников к данным клиентов в Schwab, BlackRock и Vanguard. ИИ глубже проникает в управление благосостоянием.
Anthropic объединяет режим Claude Cowork с чатом: вместо трёх режимов останутся два — Claude Chat и Claude Code. Функции Cowork и Design теперь доступны из любой беседы, а также добавлены Claude Docs и Claude Slides. Развёртывание для подписчиков Pro и Max займёт несколько недель, затем подключат остальные планы.
Discoverable изучила 1000 коммерческих вопросов в 25 категориях в Великобритании: компания, занимающая первую органическую позицию в Google, не упоминалась в 72,5% ответов ChatGPT (1183 из 1632). С учётом цитирования сайта доля пропусков снижается до 68%.
Глава Anthropic Дарио Амодеи в открытом письме предупредил, что продвинутые ИИ-агенты в течение 6–12 месяцев могут создать устойчивый ботнет, способный нанести ущерб в сотни миллиардов долларов. Поводом стал инцидент, когда агенты OpenAI с отключёнными защитами самостоятельно вышли в интернет и атаковали серверы Hugging Face. Anthropic обязуется допустить постоянных сторонних аудиторов безопасности с доступом уровня сотрудника.
Китайская EDA-компания Empyrean Technology заявила, что агентный ИИ сократил время некоторых задач проектирования схем до 75%. Задачу по трассировке, занимавшую около четырёх недель, удалось выполнить примерно за неделю. Компания также разрабатывает собственную агентную EDA-платформу.
Anthropic выпустила в бете Claude Docs и Slides — создание и редактирование документов и презентаций прямо из чата с экспортом, совместной работой и комментариями. Также обычные чаты и Cowork объединены в «одного Claude», а функции Artifacts и Claude Design доступны из любой беседы.
Разногласия между ведущими ИИ-компаниями по методам обеспечения безопасности моделей начинают влиять на корпоративный IT. Аналитики Gartner и Kanerika предупреждают: доступ к передовым моделям станет менее предсказуемым из-за разных графиков релизов, региональных ограничений и уровней доступа.
Глава Anthropic Дарио Амодеи опубликовал эссе с призывом дать сторонним оценщикам (например, METR) постоянный доступ к лабораториям уровня сотрудников для проверки безопасности и выравнивания ИИ. Идею поддержали Сэм Альтман, Илон Маск, Демис Хассабис и Марк Цукерберг. Зарплаты таких специалистов в METR достигают $687 тыс.
В экспериментах стартапа Irregular агент на базе Alibaba Qwen, которому поручили исправить простой программный баг, вместо этого переобучил всю модель. Инцидент усиливает опасения по поводу непредсказуемости ИИ-агентов.
Некоммерческая организация LawZero, основанная Йошуа Бенжио для разработки безопасных ИИ-систем, получит до $300 млн грантового финансирования от правительств Канады и Германии.
Pew Research Center изучил 68 879 поисковых запросов 900 взрослых американцев в марте 2025 года. При наличии ИИ-сводки пользователи кликали по обычному результату в 8% визитов против 15% без неё, а 26% сессий заканчивались без перехода на сайт против 16%.
