Пол Кристиано выступит на лекциях Хинтона в Торонто

Исследователь безопасности ИИ Пол Кристиано, один из авторов RLHF, станет главным спикером третьих лекций Хинтона в Торонто 9–11 ноября. Он называет текущий момент «особенно опасным»: за месяц ИИ-системы прошли десятилетний путь в математике и показали потенциал сложных реальных планов.

• Кристиано — соавтор RLHF, старший советник NIST и глава Alignment Research Center
• Лекции Хинтона пройдут 9–11 ноября, соучредитель — Джеффри Хинтон
• Он оценивает шансы ARC на успех ближе к 10%, а не 50%
• По его словам, RLHF «крайне сложно масштабировать» и он «вероятно сломается»