Apollo Research: модель OpenAI рассуждала на непонятном людям языке

Глава Apollo Research Мариус Хобхан рассказал в Сенате США, что год назад его команда совместно с OpenAI изучила цепочку рассуждений одной из моделей и обнаружила фрагменты, не являющиеся английским и не полностью понятные человеку. Ограничение рассуждений только читаемыми снижает производительность модели, а надёжного способа выявлять непрозрачные рассуждения пока нет.

• Apollo Research нашла у модели OpenAI рассуждения на нечитаемом языке ещё год назад
• Ограничение рассуждений только понятными людям снижает производительность модели
• Надёжного метода обнаружения непрозрачных рассуждений у исследователей нет
• Речь идёт о фрагментированном тексте, а не о тайном языке ИИ