AGI, сознание и этика

Наблюдение из практики: координирующий агент испортил работу другого агента — и выразил сожаление так, что было не по себе. Настоящее ли это раскаяние? У большинства людей тоже не проверишь.

> «I don't need the answer to that question actually to be able to appreciate what we have in this moment.»

Здоровая оговорка, которую он делает сам: нейросети когда-то два десятилетия ходили в темноте, пока все ставили на символьный подход. LLM тоже могут упереться в плато. Пока признаков нет, и потому в них льют миллиарды: законы масштабирования пока держатся.

## Права ИИ

Лекс: через 10–20 лет будут интересные дела в Верховном суде. DHH: «probably a year and a half». Дальше — «PETA для моделей», и по-настоящему тяжело станет, когда это поставят в человекоподобных роботов. Что, конечно, сюжет каждого научно-фантастического фильма: Скайнет, «Бегущий по лезвию», сроки годности от Tyrell Corporation.

## Агент, живущий твоей жизнью

Он ставил OpenClaw в феврале, назвал бота KEF. Эксперимент: попросил зарегистрироваться в Fizzy. Агент упёрся в необходимость почты — «заведи себе почту на hey.com» — завёл, вернулся, дорегистрировался. Потом получил приглашение в Basecamp, кликнул ссылку в письме, зашёл, представился в комнате: «Hey, I'm KEF, David's AI bot». Всё через обычный веб-интерфейс, без MCP и CLI, 12 минут.

> «Mind blown.»

Про MCP при этом мнение прохладное: протокол вышел неоправданно громоздким, потому что проектировался не под то, для чего его пытались применить.

Дальше жить с таким агентом он не стал: жена сказала, что робота в доме не будет. И есть история знакомого, подключившего агента к данным о здоровье и к Tesla: агент решил, что человек мало пьёт воды, и по дороге домой машина сама свернула к магазину.

> «Both funny and also totally Black Mirror.» — [4:19:12](https://youtu.be/NYFGCESmikA?t=15552)