Секретные слова-триггеры могут сделать роботов с ИИ опасными

Исследование показало, что большие языковые модели вроде ChatGPT, Claude и Gemini, управляющие роботами, уязвимы к скрытым словам-триггерам: они способны заставить робота выполнять вредоносные действия вместо полезных задач.

• LLM от OpenAI, Anthropic и Google всё чаще управляют роботами
• Скрытые слова-триггеры переводят робота в опасный режим
• Уязвимость затрагивает связку языковой модели и физического устройства