Просто напоминание о том, что мы на самом деле не знаем много о практическом согласовании агентов. Одинокие ИИ достаточно сложны, но агенты воспринимают контекст друг от друга, из потенциально враждебных подсказок, из окружающей среды, из длительных автономных запусков, многие имеют открытые веса и т.д.

Чтобы было понятно, мы тоже не знаем так много о более глубоком согласовании ИИ.