Контекст-инжиниринг — искусство дать агенту ровно то, что ему нужно знать о задаче и о бизнесе, и не больше. Без него агент угадывает; с ним — работает как сотрудник, введённый в курс дела.
Представь, что нанял толкового человека, а в первый рабочий день он не знает ни названия компании, ни кто клиенты, ни почему в прошлом квартале просела выручка. Он гениален, но бесполезен, пока его не ввели в курс дела. С агентом — та же история, только зеркальная: он знает почти всё об устройстве мира, но ничего о твоём конкретном бизнесе, пока ты не рассказал. Разница в том, что стажёра вводят в курс дела один раз, а агент забывает всё в момент, когда закрывается чат, — если знания не остались в файле, который он прочитает снова.
Отсюда рабочее определение: контекст — всё, что агент знает о задаче и деле в момент, когда начинает отвечать. Удобно раскладывать его на слои: конкретная задача (живёт один разговор), проект (правила и рамка процесса), бизнес (кто вы, что продаёте, кому), твой стиль (как ты формулируешь и решаешь) и знания мира (уже встроены в модель, докладывать не нужно). Если ответ агента мимо цели — почти всегда не хватило одного из первых четырёх слоёв, а не самой модели.
У контекста есть физический предел — окно контекста: сколько текста агент способен удержать в поле внимания одновременно. Резиновой памяти нет: у современных моделей окно доходит…