AGI, сознание и этика

## Достигнут ли AGI

> «No, not in the general definition… But have I seen AGI in these glimmers? Absolutely.» — [2:57:14](https://youtu.be/NYFGCESmikA?t=10634)

Проблески — это длинные задачи, которые агент ведёт от расплывчатой формулировки до готового результата, координируя несколько направлений. «How would AGI look different from this?»

## Почему он легко признаёт творчество моделей

> «My creative moments come through the same kind of next token prediction with a bit of temperature sprinkled in for random effect.» — [4:05:30](https://youtu.be/NYFGCESmikA?t=14730)

Садясь писать эссе, он не может назвать следующий токен заранее. Токены просто выходят. Отсюда — никакого внутреннего сопротивления идее, что творчество модели настоящее.

## Проблески сознания

> «You give it this vague, fuzzy intent and somehow it knows exactly what you mean. Or even better, it improves upon what you said and delivers what you really wanted that you could not articulate yourself. If that's not glimmers of consciousness, what is?» — [4:07:15](https://youtu.be/NYFGCESmikA?t=14835)