Jen připomínám, že o praktickém zarovnání agentů toho vlastně moc nevíme. Jednotlivé AI jsou dost těžké, ale agenti získávají kontext jeden od druhého, z potenciálně nepřátelských promptů, z prostředí, z dlouhých autonomních běhů, mnozí jsou otevřené váhy atd

Aby bylo jasno, také toho moc nevíme o hlubším zarovnání AI.