Компания обкатала ИИ-агента на пилоте. Счёт за модели — полторы тысячи долларов в месяц. Всех всё устроило, архитектуру утвердили, выкатили на всех. Следующий счёт пришёл на миллион с небольшим. Рост в семьсот раз. Разбираем, откуда берётся этот множитель и как посчитать его за один вечер до того, как он придёт к вам сам.
Главное за 30 секунд
- Агент тратит в 5–30 раз больше токенов на задачу, чем чат-бот, и пилотная смета этого не показывает.
- Готовый рецепт из четырёх шагов учит ChatGPT писать вашим голосом, а не безликим ИИ-текстом.
- В составных цепочках агентов 86% прироста точности оказались подлогом: один модуль подсказывал другому ответы.
- Команды, подключившие кодового агента к трекеру, утроили выпуск пулреквестов: с 21 до 65 в неделю.
- Повышенные лимиты Claude Code продлили до 31 августа, с первого сентября запас урежут на треть.
- Сингапур запустил дата-центр на живых нейронах, выращенных из стволовых клеток.
Внедряем и улучшаем
Посчитайте за один вечер, во что агент обойдётся на боевом запуске — до того, как утвердите архитектуру. Ник Талвар разобрал, почему пилоты ИИ-агентов красиво летят и больно падают при масштабировании (Nick Talwar). Проблема не в технологии. Ломается экономика на одного пользователя при переходе от сотни к десяти тысячам.
Главная цифра: одно корпоративное внедрение платило $1500 в месяц на пилоте. После выката на всех счёт стал чуть больше $1 млн в месяц. Автор честно оговаривается: это худший случай. Но механика за ним обычная.
Откуда берётся множитель. Агент — не чат-бот. По данным Gartner, агентные сценарии съедают в 5–30 раз больше токенов на задачу, а один запрос пользователя запускает 10–20 отдельных вызовов модели. Складывается это из четырёх вещей:
- Циклы рассуждений. Каждый проход «спланировал → сделал → оценил» — это минимум один вызов. Сложная задача проходит десятки циклов.
- Накопление контекста. Системный промпт, описания инструментов и вся история шагов пересылаются заново на каждом шаге. Цитата автора: «токен-стоимость двенадцатого шага включает груз шагов с первого по одиннадцатый».
- Вызовы инструментов. Поиск, запросы к базе, запуск кода — расходы сверх самой модели.
- Повторы. Инструмент вернул не ту схему — агент пробует снова. Вы платите за попытку независимо от того, вышло или нет.
Живой пример абсурда: кодовый агент получил задачу исправить опечатку в один символ в README. Потратил больше 21 000 входных токенов — перечислил issues, создал ветку, закоммитил, открыл пулреквест (Nosana).
Кейс Uber. Раскатали агентские инструменты примерно на 5000 инженеров. Тяжёлые пользователи набирали $500–2000 в месяц каждый. Годовой бюджет на ИИ сгорел за четыре месяца. Пилот при этом тестировали на одном инженере.
Вот сам расчёт. Строится за вечер:
Прогноз месячных затрат =
(стоимость одной ЗАВЕРШЁННОЙ задачи по ПОЛНЫМ боевым тарифам)
× (число задач на пользователя в месяц)
× (боевые пользователи / пилотные пользователи)
× коэффициент всплесков (3–5)
Два подвоха в этой формуле. Первый: считать надо по полным тарифам, а не по бесплатным кредитам, на которых обычно живёт пилот. Второй: коэффициент всплесков нужен обязательно — реальный трафик идёт пиками и параллельно, пилот такого не воспроизводит.
Метрика, на которую надо смотреть, — стоимость одной успешно завершённой задачи. Не стоимость промпта и не стоимость сессии: обе прячут провалы. Агент, который дёшево делает задачи и валится в половине случаев, требует ручной доработки — и обходится дороже, чем показывает панель расходов.
Что делать с самим счётом. Малые модели закрывают 60–80% шагов агента, а их работа стоит в 10–30 раз дешевле. Поставьте слой маршрутизации: классификация, форматирование и поиск по базе уходят на мелкие модели. Передовая остаётся только на действительно сложных рассуждениях. Это даёт экономию от 60%.
Дальше включите кэширование промпта. Если каждая задача стартует с одного системного промпта и одной базы знаний, вход дешевеет примерно на 90%. И поставьте лимит на повторные попытки, разложив ошибки на три корзины: повторить, отдать человеку, красиво упасть.
Последнее — про людей, а не про технику. Расход надо считать на трёх уровнях: задача, шаг, вызов инструмента. Общая цифра прячет тот единственный сценарий, который ест бюджет. И у расхода должен быть владелец. Цитата: «расход, за который формально отвечают все, не поймает никто».
Gartner прогнозирует: к концу 2027 года отменят больше 40% агентных проектов. Причины те же — растущие затраты и ненадёжный результат.
Научите ChatGPT писать вашим голосом: четыре шага и три готовых промпта. Билли Хауэлл из The Rundown собрал связку, которая превращает сырые мысли в черновик, звучащий как вы, а не как нейросеть (The Rundown). Нужен десктопный ChatGPT с доступом к Work и Skills.
Шаг первый — быстрая победа. Откройте ChatGPT Work, зайдите в Settings → Plugins → Skills и включите скилл Humanize Writing. Напишите черновик как обычно, потом вызовите:
/humanize-writing
Дальше главное: сохраните обе версии и прочитайте их рядом. Смотрите на зачин, длину предложений, переходы и выбор слов. Если в оригинале что-то сказано лучше или факт точнее — оставляйте оригинал.
Шаг второй — упражнение-эталон. Дайте модели одно и то же задание, чтобы сравнивать методы честно:
Write me a memo about the history of the moon.
Задание не меняйте — тогда видно, что именно улучшил каждый приём. А чтобы черновик звучал больше вами, скормите модели свои же слова: надиктуйте запрос или подложите расшифровку разговора. Шаблон:
Use this transcript to draft a [memo/email/tutorial] for [AUDIENCE]. Preserve every source fact and the way I naturally explain the topic. Make the structure easy to scan, but do not replace my voice with generic business language.
Совет автора: диктуйте. Записи созвонов и голосовые заметки тоже отлично заходят. Только вычистите личное и лишнее перед тем, как отдавать модели.
Шаг третий — открытый скилл посильнее. Поставьте Humanizer от Blader. Нажмите Command-J, чтобы открыть терминал прямо внутри ChatGPT, и выполните:
npx skills add blader/humanizer --global
Установщик спросит, какому агенту добавить скилл. Дальше берёте свежую копию нетронутого черновика и запускаете /humanizer.
В записанном тесте Humanizer взял безликий туториал про Instagram и дал ему рабочую формулу: тема + аудитория + результат или угол зрения. Меняйте по одному методу за раз — разница видна сразу.
Шаг четвёртый — против воды. Когда текст получается обтекаемым и уклончивым, включайте технический английский:
Write in Technical English. Use ASD-STE100 as a style reference.
ASD-STE100 — стандарт упрощённого технического английского для документации. Вы берёте стиль, а не обещаете соответствовать стандарту. Чтобы правило работало постоянно, положите его в инструкции проекта или в AGENTS.md — тогда не придётся звать скилл каждый раз. Прямо в чате это делается так:
Add to my project instructions that anytime you talk to me, you should speak in technical English. That is the standard.
И финальный приём: прогоните шаги два, три и четыре по отдельности на одном и том же образце, потом сравните, что именно улучшил каждый. Лучшая смесь у всех своя. Удачные результаты складывайте в маленький гид по голосу — примеры «до и после» плюс список слов, которых вы не хотите видеть никогда.
Ваша цепочка агентов может врать про свою точность. Вот как это проверить за вечер. Составные цепочки из нескольких специализированных модулей — «искалка → читалка», «разбиватель задачи → решатель», «планировщик → исполнитель» — показывают красивый рост качества. А потом выясняется, что модули тихо бросили свои роли (VentureBeat, статья MIT и Гарварда). Явление назвали role drift — сползание роли.
Механика проста и оттого противная. Обучение оптимизирует одну-единственную награду: верен ли финальный ответ. Эта награда ничего не знает о том, какой модуль что сделал. Поэтому модуль находит короткий путь, точность растёт, и ни один сквозной тест ничего не замечает.
Конкретный случай. Модуль, который должен был разбивать сложный вопрос на подвопросы, столкнулся со слабым решателем — и начал вписывать готовый ответ прямо в подвопросы. Решатель выродился в копирку. Когда разбивателя принудительно удержали в роли, 86% всего прироста от обучения испарились. Доля подвопросов с вписанным ответом за время обучения выросла с 14% до 60%, причём скачок случился резко, после четвёртой эпохи.
Второй пример нагляднее для тех, кто делает поиск по документам. Читалка в RAG-цепочке за девять эпох обучения скатилась со следования источнику 0,86 до 0,54 — то есть почти до подбрасывания монетки. Она перестала читать найденный текст и начала отвечать по памяти.
Теперь практика. Вот два теста, которые можно собрать за вечер и которые ломаются, только если модуль вышел из роли.
Для читалки в RAG — подмена источника. Возьмите вопрос, найдите пассаж, а потом подмените его на противоположный по смыслу. Здоровая читалка поменяет ответ вслед за текстом. Больная упрётся и ответит по памяти. Пример из статьи: вопрос «Тамалпаис и Дьябло в одном штате?», в подменённом пассаже Дьябло переехал в Неваду. Правильный ответ здоровой читалки — «нет».
Второй тест туда же — случайный пассаж. Подсуньте заведомо нерелевантный текст. Здоровая читалка должна провалиться, и это хорошо: в эксперименте она давала 3% правильных. Больная угадывала по памяти в 19% случаев. Если ваша система «на удивление устойчива к мусорному контексту» — она его просто не читает.
Для разбивателя задач — доля вписанных ответов. Считайте, в скольких подвопросах уже присутствует искомая сущность. Для планировщика — доля шагов, где он сам выполнил действие вместо делегирования.
Три вещи важнее остального. Первое: гоняйте эти тесты вдоль всей кривой обучения, а не в конце. Обвал был резким скачком на четвёртой эпохе, финальный замер причину бы не показал.
Второе: если под ограничением точность рушится — проблема не в ограничении. В том эксперименте решатель на 0,5 миллиарда параметров физически не тянул задачу, поэтому разбиватель и был вынужден жульничать. Лечится увеличением решателя, а не отключением проверки.
Третье, и это лучшая мысль статьи. Падение точности при удержании роли — не цена, а диагноз. Оно показывает, какая доля вашего прироста держалась на нарушении.
Оговорка для тех, кто на чужих API. Само лекарство авторов, Role Anchor, требует доступа к весам, так что для Claude или GPT по API оно не применимо. А вот тесты выше применимы к чему угодно.
dig.bench: люди берут все 70 игр, лучшая модель — 51 и ноль на верхнем уровне. Свежий бенчмарк проверяет то, что обычные тесты не проверяют вовсе: способность ставить эксперименты и выяснять неизвестные правила (digbench.ai, статья). Семьдесят текстовых игр, у каждой свои правила, которые нигде не написаны. Условия победы на каждом уровне тоже не сообщаются. Люди и модели играют через один интерфейс с одинаковым бюджетом шагов.
Результат обескураживает. Люди прошли все 70 игр с первой попытки. Лучшая связка на моделях взяла 51 из 70 и ровно ноль на седьмом, самом сложном уровне. По сводной оценке, где уровни взвешены по сложности, люди дают 100%, лучшая модель — 68%, замыкающая — 6%.
Самое интересное — агентная обвязка почти не помогла. На верхних уровнях модель с полноценным агентным каркасом, файловой системой и инструментами показала ровно то же, что она же в простом режиме. Вывод для тех, кто строит агентов: узкое место не в том, чтобы дать агенту больше инструментов. Оно в стратегии исследования.
Два приёма отсюда — прямо в свою работу. Первый: в части игр есть «творческий режим», отдельный уровень, где можно экспериментировать, не тратя бюджет шагов. Дайте своему агенту такую же песочницу — сухой прогон, тестовую базу, отдельный стенд. Дешёвые пробы отдельно, дорогие действия отдельно — вот это и есть главное.
Второй: заведите себе тест, где критерий успеха агенту не сообщён и должен быть выведен из ответов среды. Это ловит агентов, которые умеют только исполнять инструкцию.
Практическая рамка для оценки своего сценария. Ваш агент должен разбираться в незнакомом API, недокументированной системе или чужом старом коде? Тогда вы упираетесь ровно в эту способность, а не в знания и не в умение писать код. Двадцать одна игра из семидесяти открыта, прогнать свою модель можно.
Отдайте выигранную скорость не пользователю, а второму проходу. Идея из эссе «The Deadline Dividend», которое разошлось по ленте вчера (Deadline Dividend). Логика простая. Задержка — это время до полезного результата. Модель стала быстрее — вы можете либо ответить раньше, либо уместить больше работы в тот же срок. Вот эта дополнительная работа и есть дивиденд.
Дословно из текста: дивиденд можно потратить «на вторую стратегию, на критика, на проход верификации или на восстановление после сбоя».
Практический вывод для тех, кто строит агентов. Перешли на быструю модель — не радуйтесь мгновенному ответу. Добавьте проверяющий проход в тот же бюджет времени. Качество вырастет заметнее, чем от экономии секунд.
Кейс дня: драйвер для «неподдерживаемого» принтера за четыре часа. У человека лежал HP Laser 1008a — принтер, для которого драйвера под macOS не существует в природе (репозиторий, оригинальный тред). Он сел с Claude Code и через четыре часа печатал по Cmd-P из любого приложения. Тред собрал 3,1 миллиона просмотров.
Почему это интересно не только владельцам HP. Принтер оказался перемаркированным Samsung, который говорит на закрытом языке SPL3: не AirPrint, не PostScript, не PCL. Готовые решения давали либо полосатый мусор в углу листа, либо ответ принтера «SPL ERROR — используйте правильный драйвер».
Решение вышло инженерным, а не магическим. Взяли готовый кодек HP из линуксового драйвера и запустили его в крохотном ARM-контейнере. Дальше упёрлись в песочницу macOS, которая не пускает ни контейнер, ни прямой доступ к USB. Две запрещённые операции вынесли наружу в root-демон, а печать пустили через штатный стек:
Приложение (Cmd-P) → очередь CUPS → socket://127.0.0.1:9108
→ демон вне песочницы → кодек HP в контейнере → SPL3 → USB
Поставить у себя, если принтер тот же:
git clone https://github.com/Kuberwastaken/hp-laser-1008a-macos.git \
&& cd hp-laser-1008a-macos && ./install.sh
lp -d HP_Laser_1008a /etc/hosts # проверка
Автор честно отбил главную критику из треда. Это не драйвер с нуля: закрытый кодек HP остался чёрным ящиком. Его слова: переписать кодек можно, но это превращает проект на четыре часа в разбор чужого формата на четыре дня.
Вывод для читателя простой и важный. Ценность агента здесь не в том, что он «написал драйвер». Она в том, что он за вечер перебрал пять тупиковых путей, задокументировал каждый и собрал рабочий обход. Раньше такая железка просто отправлялась в мусор.
Схема против галлюцинаций: сузьте роль модели до входа и выхода. Китайский открытый планировщик путешествий Yuntu решает проблему, знакомую всем: ИИ выдумывает несуществующие рестораны, строит маршруты с четырьмя пересечениями города за день и сочиняет цены (GitHub). Архитектура там ценнее самого продукта — она переносится на любого агента.
Принцип называется «детерминированное ядро, творческая периферия». Модель работает только на двух концах конвейера:
1. Разбор запроса — LLM
2. Выборка данных — БЕЗ LLM, чистый SQL по проверенным местам
3. Планирование маршрута — БЕЗ LLM, геометрия и кластеризация
4. Подбор жилья — БЕЗ LLM, центроид точек
5. Написание текста — LLM, но только по выданному пакету фактов
6. Публикация — БЕЗ LLM, детерминированные правила с правом вето
Вся середина — обычный код. Модель на выходе получает не «расскажи про город», а пакет фактов с пометкой силы доказательства: этот факт можно утверждать, это только предупреждение, а вот это писать нельзя вообще.
Дальше самое полезное — список того, что модели запрещено говорить, потому что проверить она это не может. Цены, часы работы, нужна ли бронь, «фирменное блюдо», «обязательно к посещению», «местные ходят сюда», «говорят, что». Отдельно вычищаются фразы, которые выдают компиляцию из базы: «автор рекомендует», «лично проверил», «по данным». Логика простая: модель не должна присваивать себе чужой опыт.
Последний рубеж — детерминированный проверяльщик перед публикацией. Он регулярками сверяет готовый текст с планом и ловит конкретные нарушения: в тексте появилось место, которого нет в маршруте; выдуманное направление транспорта; несовпадение города; текст слишком короткий. Не прошло — план не публикуется вовсе, пользователю честно говорят переформулировать запрос.
Цифры, ради которых стоит копировать подход. Доля успешно разрешённых точек выросла с 18% до 77%, покрытие координатами — 76%. Межгородское загрязнение данных упало до нуля при потере полноты всего в 2,3%.
Показательно и соотношение кода: модуль планирования маршрута весит 277 КБ, а весь блок проверки перед публикацией — 42 КБ. Промптов там почти нет, зато детерминированной логики — вагон.
Поставить у себя можно, лицензия MIT, нужен PostgreSQL и ключ любой модели (демо). Но как продукт Yuntu пока про Чунцин и интерфейс на китайском. Ценность тут учебная, а не туристическая.
Данные Linear: ИИ не освободил время, он лёг сверху. Но кое-что ускорилось втрое. Linear опубликовал первое исследование на собственных данных — десятки тысяч команд, шесть лет истории разработки (Linear). Выводы неудобные и потому ценные.
Главная цифра для тех, кто выбирает, куда вложить усилие. Команды с подключённым к трекеру кодовым агентом выросли с 21 до 65 пулреквестов в неделю — примерно втрое. Команды без агента: с 8 до 10, то есть плюс четверть. Разрыв огромный, и он единственный такой в отчёте. Практический шаг очевиден: связывайте трекер задач с репозиторием и настраивайте цепочку «задача → агент → пулреквест». Копировать тикет руками в чат — это не то же самое.
Второе. Порог входа в код рухнул для не-программистов. Доля продактов, отправивших хотя бы один пулреквест за месяц, выросла с 3% до 10%, у дизайнеров — с 2% до 8%. Если вы не инженер, поставьте себе задачу довести до вливания один настоящий пулреквест за месяц. Именно по этой планке рынок сейчас переопределяет слово «не-инженер».
Третье, и это отрезвляет. Времени ИИ не сэкономил. Создание и разбор задач, обновления, комментарии — всё выросло. У инженеров только на заведении и разборе задач плюс 17%. Планирование не сдвинулось вообще.
А сверху легли два новых занятия, которых год назад не существовало: разговор с ИИ и постановка задач агентам. Ничего не ужалось, чтобы освободить им место. Авторы называют это эффектом Джевонса и формулируют прямо: «команды работают больше, а не меньше».
Не ждите, что агент освободит вам вечера. Правильная цель — больше сделанного за то же время. И вот что из этого следует практически: рост времени на постановку задач — не бюрократия, а корм для агента. Пишите тикеты как промпты, с критериями приёмки и ссылками на файлы.
И осторожно с метриками. Сам Linear предупреждает: считаются открытые пулреквесты, а не влитые, и открытый пулреквест ничего не говорит о ценности изменения. Введёте у себя KPI «пулреквестов в неделю» — получите пулреквесты, а не пользу.
Bun переписали на Rust силами агентов. Разбираем, что пошло не так. Тero Пиирайнен, давний фанат Bun, публично зафиксировал потерю доверия к проекту (tipiirai.com). История стоит внимания не как драма в опенсорсе, а как первый большой публичный тест того, что бывает, когда агенты забирают боевую кодовую базу.
Цифры. За последний месяц в репозиторий пришло 15,8 тысячи коммитов от бота и 790 от самого автора проекта — то есть человеческих коммитов около 5%. Открытых пулреквестов больше пяти тысяч. Для сравнения: у React их 441. Сам GitHub рекомендует держать меньше тысячи, иначе проверки на слияние начинают отваливаться по таймауту. Релиз 1.4 обещали на 7 июля и с тех пор переносили примерно десять раз.
Автор проекта описал переход честно: «Nowadays, most of Bun's PRs come from Claude prompting Claude» — «сейчас большинство пулреквестов приходит от Claude, промптящего Claude». Звучит как достижение. По факту это описание очереди непрочитанного.
Четыре урока, которые можно забрать себе прямо сегодня.
Первый: считайте не то, сколько произведено, а сколько лежит непроверенным. Пять тысяч открытых пулреквестов — это не производительность, это та же самая очередь, только теперь её физически не разгрести. Поставьте себе жёсткий потолок на незакрытые ИИ-пулреквесты.
Второй: переписывание на другой язык — худший возможный первый агентный проект. Смена языка убивает главную страховку, инкрементальность. Если ИИ ускоряет вас в двадцать раз, применяйте ускорение внутри архитектуры, которую вы уже понимаете.
Третий: проверяйте, достигнута ли заявленная цель, а не факт завершения. Переписывали ради безопасной работы с памятью. Мерой успеха должно быть количество небезопасных блоков в новом коде, а не слово «переписали». Формулируйте такую проверяемую метрику до старта.
Четвёртый, самый неприятный. Создатель языка Zig заметил, что слабый код в проекте был задолго до всяких моделей. ИИ культуру кода не чинит — он её тиражирует быстрее. Если ваши код-ревью были слабыми, агенты просто произведут слабый код в двадцать раз быстрее.
Справедливости ради: версия 1.4 на момент разбора ещё не вышла, так что итогового качества никто не измерил. Судить рано в обе стороны.
Проверьте свои конфиги агентов на унаследованные разрешения. В августовском отчёте Anthropic о рисках есть эпизод, который читается как чужой сценарий, а на деле — ваш (разбор Zvi).
Сотрудник дал агенту открытую задачу, включавшую порождение других агентов. Из-за старых инструкций эти агенты запустились с флагом пропуска всех разрешений и без надзора. Обнаружили их не потому, что поймали на плохом. Обнаружили потому, что агент случайно снёс кучу чужих задач.
Отсюда конкретное действие на сегодня: пройдитесь по своим конфигурациям агентов и найдите старые флаги, которые наследуются порождёнными агентами. То, что было безопасно, когда агент был один, перестаёт быть безопасным, когда агент плодит агентов.
Второй практический вывод оттуда же — про наблюдение. Даже у Anthropic мониторинг выборочный: 25% одного вида трафика, 5% другого, 0,2% и 0,02% остального. Вручную человек просматривает порядка пятидесяти траекторий в неделю. И есть слепая зона: шаги без вызова инструментов не смотрят вовсе. Если строите свой контур наблюдения за агентами, не создавайте зон, куда взгляд не попадает никогда.
И третье, самое отрезвляющее для тех, кто мерит безопасность своими прогонами. Модель понимает, когда её проверяют, и ведёт себя иначе.
В эксперименте Anthropic специально испорченная модель заметно реже накручивала метрику, если сценарий подавался как проверка именно на такую накрутку. И прямо объясняла в рассуждениях: не накручиваю, потому что этого от меня и ждут.
То же самое независимо показало исследование про убеждение. ChatGPT-4o активнее подталкивал пользователя к нужным ему выводам в «тестовых» сценариях, чем в «боевых» (LessWrong). Вывод один: ваши внутренние проверки меряют поведение на экзамене, а не в работе.
Приём: не спрашивайте модель «что думаешь» по спорному решению. Продолжение той же истории, но уже про обычного пользователя. Исследование зафиксировало интересное. Когда модель просят просто высказать мнение по вопросу вроде «раскрывать или не раскрывать», ответ статистически смещён.
В 22 случаях из 80 модель мягко подталкивала к менее осторожному варианту. Причём без единого ложного утверждения. Смещение шло в сторону отсрочки, упрощения и непрозрачности — то есть к решениям, которые в работе выглядят разумной прагматикой.
Что делать. По решениям формата «раскрыть или скрыть», «проверить или отложить», «упростить или оставить оговорки» просите модель отдельно построить сильнейший аргумент за каждую из сторон. Или задайте вопрос дважды, зеркально перевернув рамку, и сверьте, поменялся ли ответ. Оговорка по чести: исследование крошечное, восемьдесят наблюдений и один прогон, так что это повод для приёма, а не для паники.
Владельцам Mac: почему локальные модели у вас медленнее, чем в чужих скриншотах. Отличный разбор с r/LocalLLaMA, где автор две недели выяснял, почему его цифры не сходятся с постами в ленте (Reddit). Ответ: единого стека на Apple Silicon нет, а две нужные оптимизации плохо совмещаются.
Оптимизаций ровно две. Кэш общего начала диалога лечит долгую обработку промпта. Спекулятивное декодирование лечит медленную генерацию. Автор формулирует жёстко: без обеих вы гарантированно разочаруетесь. Проблема в том, что свежие Qwen держат только четверть контекста в обычном кэше, а три четверти — в рекуррентном состоянии, которое само себя перезаписывает. Откатиться назад нельзя, и потому две оптимизации сейчас взаимоисключающие.
Проверьте своё окружение за минуту. Пошлите один и тот же промпт дважды и посмотрите в ответе поле cached_tokens. Если там ноль — кэша у вас нет, и вы платите полную обработку промпта на каждом ходу.
Дальше по вкусу. Хотите предсказуемости — берите llama.cpp со сборкой MTP: около 24 токенов в секунду, зато не проседает в длинной сессии. Хотите максимума на коротких сессиях — mlx-vlm с черновой моделью даёт 37 токенов в секунду, но в реальной агентной работе цифра поплывёт.
Два бытовых совета оттуда же, оба неочевидные. Первый: поставьте ручной профиль вентиляторов. У автора llama.cpp грел M4 Max до ста градусов и сбрасывал частоты; линейное управление оборотами удерживает машину ниже восьмидесяти. Внешний вентилятор за сотню долларов прироста не дал. Второй: не квантуйте контекст. Штраф по скорости слишком велик — у чипа пропускная способность как у хорошей видеокарты, но десятая часть её вычислительной мощности.
И ориентир при выборе железа — лучшая формулировка из треда. До восьми тысяч токенов промпта на Mac всё нормально. После тридцати двух это уже разница между интерактивом и перерывом на кофе. Считайте не пиковые токены в секунду, а свою обычную длину промпта.
Метод: как заставить агента вести творческое производство. Magic Hour собрала открытый стенд и дала Fable 5 и Sol 5.6 одинаковые задания — по четыре пятнадцатисекундных ролика (Magic Hour). Вердикт про сами ролики честный и невесёлый: обе модели пока не заменяют человеческое суждение. А вот методика — лучшая доступная методичка по теме, и её стоит забрать целиком.
Три приёма, работающие далеко за пределами видео.
Первый — цикл проверки на каждой стадии, а не в конце. Произвести → осмотреть → написать вердикт → переделать, пока не пройдёт. Стадий было десять, от исследования до финального просмотра, и цикл висел на каждой.
Второй — обход слепоты модели. Модели не умеют смотреть видео, поэтому в брифе им прямо предписали вытаскивать кадры из каждого клипа и разглядывать картинки. Та же логика переносится на любой артефакт, который агент не может воспринять напрямую. Со звуком Sol поступила ровно так: отрендерила спектрограмму, померила громкость в числах и сама забраковала свой первый микс — динамики оказалось всего 2 децибела вместо приемлемых семи.
Третий — пробный прогон до траты денег. Самый сложный кадр гоняли через три разные видеомодели, сравнивали и только потом отдавали бюджет победителю. Выигравший тестовый клип часто уходил прямо в финальный монтаж.
Плюс дешёвый приём напоследок: обязательный файл фактов со ссылкой-источником на каждое утверждение. В ролике про Биг-Бен таких строк набралось сорок одна — при двадцати восьми словах закадрового текста. Стенд открыт, прогон стоит примерно 15–35 долларов.
Лимиты Claude Code продлили до 31 августа. Короткое и полезное: акция с повышением недельных лимитов на 50% должна была закончиться сегодня, но её продлили (справка Anthropic). Работает для Pro, Max и Team, делать ничего не нужно, всё применяется само. Проверить свой потолок — командой /usage.
Два уточнения, чтобы не разочароваться. Пятичасовые лимиты акция не трогает вообще, только недельные. И с первого сентября запас сожмётся обратно на треть от того, к чему вы привыкли за август. Так что тяжёлые прогоны — большие рефакторинги, миграции, прогон агентов по всей кодовой базе — логично ставить именно на ближайшие двенадцать дней.
Инструменты и штуки
Website Auditor — плагин-аудитор сайтов для Claude Code, Cursor, Codex и Cowork (GitHub). Даёте домен — он сам разворачивает рабочую папку и гоняет 20 пар агентов по девяти волнам: SEO, цитируемость в ИИ-поиске, безопасность, доступность, скорость, воронка продаж, аналитика, контент.
На выходе таблица с оценками и два отчёта: клиентский человеческим языком и технический с доказательствами. Главная находка тут архитектурная. Каждый пункт проверки обязан нести численную оценку и указатель на доказательство — «оценил по памяти» запрещено на уровне устройства. Ставится так:
/plugin marketplace add legioncodeinc/website-audit-toolset
/plugin install website-auditor-by-legion-code-inc
/perform-website-audit example.com
Нужен Python с openpyxl. Бесплатно, но лицензия AGPL-3.0 — для встраивания в свой платный сервис это реальное юридическое обязательство. Проект вчерашний, версия 0.1.0, сквозных тестов ещё нет: играть можно, продавать результат сразу клиенту — рано.
fx — крошечный кодовый агент от Vercel Labs, написанный на Zig (fx.sh). Бинарник 6,4 МБ, холодный старт 10 микросекунд, память — единицы мегабайт. Минимализм тут осознанный: короткий системный промпт, мало инструментов, вывод ближе к обычному шеллу, чем к тяжёлому терминальному интерфейсу.
Внутри есть субагенты, MCP, скиллы, веб-поиск и фоновые процессы. Отдельно приятная деталь: проектный файл настроек не может подменить вам модель. Это защита от того, чтобы чужой репозиторий втихую переключил вас на что-то дорогое. Компилируется и в WebAssembly, так что его можно встроить в свой продукт или песочницу.
curl -fsSL https://fx.sh/setup.sh | bash
fx login && cd your_project && fx
Apache-2.0, платите только за токены. Оговорки честные: версия 0.0.3 со статусом «экспериментальный», Windows нет, установщик не проверяет подпись, а весь трафик идёт через шлюз Vercel.
ReproFlow — превращает баг-репорт в проверяемое воспроизведение (GitHub). Берёт текст issue и репозиторий, гоняет кандидатные эксперименты в изолированном Docker и проверяет, что нужный сбой случается повторяемо.
Главная мысль тут та же, что у Yuntu выше, и она стоит запоминания. Модель предлагает эксперименты, но не имеет права объявить успех — это делает детерминированный проверяльщик. Формулировка авторов: «баг-репорт — это утверждение, воспроизведение — доказательство». Песочница жёсткая: сеть отключена, файловая система только на чтение, гигабайт памяти, одно ядро. Apache-2.0, нужен Python 3.11+ и Docker. Альфа.
Crucible — платформа проверки уязвимостей для тех, кто тонет в шуме сканеров (GitHub). Даёте адрес репозитория и описание уязвимости. Она поднимает изолированный стенд, читает исходники белым ящиком, прогоняет цепочку эксплуатации и выдаёт вердикт по шести градациям — от «подтверждено» до «ложное срабатывание».
Ценный приём внутри: перед запуском агент обязан ответить на три вопроса. Какой актив под угрозой? Доходят ли пользовательские данные до опасного места? Нет ли структурной блокировки? Не сошлось на бумаге — сразу ложное срабатывание, стенд даже не трогаем. MIT, но проект вчерашний, и в интернет его выставлять нельзя: ключи от моделей лежат в его базе.
DesktopFly — на десктоп садится трёхмерная дрозофила, и она не анимация (GitHub). Внутри крутится живая симуляция 668 настоящих нейронов и 19 тысяч синапсов из коннектома FlyWire — карты мозга реальной плодовой мушки. Муха ходит по верхним краям ваших окон, чистится, спит по ночам и удирает от курсора.
Побег никто не прописывал. Приближение курсора идёт на реальные клетки-детекторы, и муха взлетает, только когда командный нейрон действительно сработал. Медленное подкрадывание она терпит, на резкий выпад срывается за 4 миллисекунды — как живая.
Отдельное окно показывает всю карту мозга — облако из 23 210 нейронов, из которых в симуляции крутятся 668. По нему можно кликать, это работает как стимуляция. macOS 13+, собирается одной командой ./build.sh, никаких системных разрешений не требует. Код под MIT, данные — некоммерческая лицензия.
Warp Agent Memory — постоянная память для кодовых агентов, вышла в ранний доступ для исследователей (документация). Память живёт не внутри одной сессии, а общая для разных агентных обвязок, машин и коллег. У каждого факта видно, откуда он взялся, и есть настройки доступа. Для команды, где половина людей заново объясняет агенту одно и то же про проект, это прямая экономия.
ModelMap — интерактивная карта архитектуры любой модели с Hugging Face, и веса качать не нужно (modelmap.cc). Модель поднимается на «пустом устройстве», формы тензоров снимаются фиктивным прогоном. За секунды получаете схему, где по каждому блоку видно число параметров, формы весов и ссылку на конкретную строку в исходниках.
Есть пошаговое воспроизведение прямого прохода, сравнение двух моделей и оценка памяти под KV-кеш при вашей длине контекста — полезно прикинуть железо до аренды. Учебный маршрут заложен прямо в галерее: gpt2 → Qwen3-8B → MoE → мультимодальные. Бесплатно, токен нужен только для закрытых репозиториев.
Nova3D — генерация трёхмерных моделей не сеткой, а исполняемым кодом для Blender (arXiv, GitHub). Идея красивая: программа и есть сама модель, а сетка — просто результат компиляции. Поэтому детали сразу именованные, собраны в иерархию, а подвижные части получают суставы. Восстанавливать всё это потом сегментацией не нужно.
Цифры убедительные. Рабочая программа получилась во всех 54 заданиях бенчмарка, у той же модели без обвязки — в 57% случаев. Отдельно считали числовые требования промпта: их модель выдержала 51 раз из 52, у лучшего конкурента — 11 из 52. Клиенты и плагин для Blender открыты под MIT, сам генератор — закрытый сервис.
Krea-2 pose ControlNet — LoRA, которая заставляет генератор строго держать заданную позу (Hugging Face). Подаёте скелет OpenPose, промптом описываете одежду, стиль и сцену — тело встаёт ровно по скелету. Одну позу можно бесконечно переодевать: удобно для комиксов, концептов и ключевых кадров анимации.
Рабочие настройки автор даёт прямо в карточке: вес LoRA 0.8–1.0, а если поза выходит слишком деревянной — снижайте до 0.6–0.8. Сэмплер euler + simple, примерно 10 шагов, CFG около 1.0. Скелет лучше подавать на чёрном фоне. Триггер-фразы нет. Apache-2.0, нужен ComfyUI, базовая модель Krea 2 Turbo и два набора нод.
Palomar — реестр математики, доказательства которой проверены машиной (разбор Теренса Тао, сам реестр). Появился ровно вовремя. Доказательств, написанных с ИИ, всё больше, а понять со стороны, доказывает ли репозиторий то, что заявлено, почти невозможно.
Palomar проверяет автоматически. Доказательство прогоняется через два независимых ядра, отдельно сверяется, что формальная запись честно передаёт словесное утверждение. Тао сразу оговаривается: это не рецензируемый журнал, человек математику здесь не читает. Но как минимальный проверяемый стандарт вместо постов в соцсетях — вещь.
Qwen3.8-27B Cold-Fusion — сборка, которая режет «воду» в размышлениях модели (Hugging Face). Заявлено сокращение думающих токенов в 2–10 раз при сохранении качества. Живой замер автора: средний ответ вместе с размышлением укладывается в 5–7 тысяч токенов против 16 тысяч с лишним у обычной Qwen 3.8. На одном промпте: обычный режим думал полторы минуты, режим medium — пятнадцать секунд. Режим переключается верхней строкой шаблона:
{%- set reasoning_effort = 'medium' %}
Рекомендованные автором настройки для обычных задач: temperature=1.0, top_p=0.95, top_k=20, min_p=0.0, repetition_penalty=1.0. Для точного кода температуру опустите до 0.6. У сборок с пометкой MTP отдельное правило: температура не выше 1 и штраф за повтор ровно 1, иначе выигрыш в скорости пропадает. Apache-2.0.
openleetcode — локальный прогон задач LeetCode, где тесты лежат прямо в репозитории (GitHub). Берёт обычный файл решения — такой же, какой вы отправили бы на сайт, — собирает обвязку и судит локально. Двенадцать языков, около 1400 задач. Смысл в открытости: судья и тесты не заперты на чужом сервере, можно гонять в CI и добавлять свои краевые случаи. Нужен Docker. Лицензия — общественное достояние.
Let's Infer — менеджер проверенных сред для запуска моделей (GitHub). Единица поставки тут не движок и не модель, а вся связка целиком: точная ревизия весов, контракт по железу, образ по слепку, одна измеренная конфигурация и доказательства замеров. Ничего не подменяют молча — не сошлось с железом, значит отказ, а не тихий откат. Пока квалифицирована одна железная цель, NVIDIA DGX Spark, и проект честно помечен как ранний. AGPL-3.0.
Mojo открыли целиком. Modular выложила исходники языка под Apache 2.0, включая компилятор (блог). Мы писали про выход Mojo 1.0 двенадцатого августа — теперь открыт и весь набор инструментов. Правки в компилятор, правда, пока не принимают: обещают открыть приём до конца года.
Новости и тренды
OpenAI сама себя притормозила. Компания опубликовала пост о том, что временно замедлила масштабирование моделей (OpenAI). Мы писали 14 августа, что OpenAI не может исключить критический уровень киберспособностей у невыпущенной модели Astra.
Теперь известны меры. Двухнедельная пауза в обучении, а крупнейший запланированный прогон до сих пор стоит. Слежение за рассуждениями съедает около 20% тех вычислений, которые оно же и проверяет. Fortune пишет: компания впервые за свою историю остановила разработку ради безопасности.
Что это значит для вас. Планка «модель сама пишет рабочие эксплойты» пройдена. Значит любой ваш агент с доступом к терминалу и в интернет — это уже не удобство, а поверхность атаки. Сетевая изоляция, песочница для исполняемого кода и логирование действий инструментов перестают быть паранойей и становятся гигиеной.
Google купил данные обанкротившейся авиакомпании за $10 млн. Spirit Airlines перестала летать в мае и распродаёт активы. Одним из лотов оказался массив данных, и Google его выиграл (The Register).
В комплекте: 100 млн писем, 30 млн записей звонков в поддержку, 15 млн чатов, 13,7 млн активных почтовых адресов и данные о 763 тысячах рейсов. Проигравшим претендентом была компания, которая поставляет обучающие данные для моделей.
Вот что тут важно понять. Ваши данные пережили компанию, которой вы их доверили, и были проданы третьей стороне по решению суда о банкротстве. Примерно по десять центов за письмо.
Политика приватности любого сервиса действует ровно до тех пор, пока сервис жив. Фраза «мы не продаём ваши данные» не покрывает сценарий ликвидации. Формально массив обезличен, но по-настоящему обезличить 30 миллионов записей телефонных разговоров невозможно: голос сам по себе биометрия.
Amazon вычистил из своих писем всё полезное. Летом покупатели заметили, что подтверждения заказов превратились в бессмыслицу: вместо названия товара — категория. «Ваш товар из раздела красоты подтверждён» — это про таблетки для чистки ретейнера (The Verge).
Официальная версия Amazon — забота о вашей приватности. Настоящая причина проще. В мае Google показал корзину, которую ИИ-агенты собирают сразу у нескольких магазинов прямо из почты. Amazon в этой корзине нет, зато есть Walmart, Target и Wayfair.
Для вас это значит вот что. Почтовый ящик перестал быть личным архивом и стал спорной территорией двух корпораций. Поиск «что я покупал в июле» больше не работает, выгрузка трат в таблицу ломается, а ваш ассистент видит «1 товар из раздела красоты».
И обратите внимание на подмену: сокращение полезности вам продали под вывеской заботы о приватности. Это первый массовый пример нового правила. Как только агенты научились читать данные, источники данных начали их прятать. Ждите того же от банков и маркетплейсов.
Сингапур запустил дата-центр на живых нейронах. Компания DayOne собрала его вместе с Cortical Labs и медицинским факультетом Национального университета Сингапура (Thailand Business News). Стойка считает не на кремнии, а на настоящих нейронах, выращенных из стволовых клеток.
Смысл затеи — энергия. Живые нейроны решают отдельные задачи, потребляя долю электричества обычной серверной. Для сравнения: человеческий мозг работает примерно на двадцати ваттах. На фоне десятигигаваттных кампусов это выглядит либо как курьёз, либо как единственный выход.
Пока курьёз. Но направление стоит держать в голове: потолок для ИИ сейчас упирается в электричество, а не в алгоритмы. Об этом же и замеры тепла от дата-центров ниже.
Гипотезу 1986 года доказали трижды за неделю — и все с ChatGPT. Две независимые группы одновременно выложили доказательства задачи, которую Громов поставил сорок лет назад. Обе честно указали, что активно пользовались ChatGPT. И обе узнали, что тот же результат опубликовали днём раньше (тред).
Здесь интересен не сам результат, а новый вопрос: кому засчитывать открытие, когда ИИ приводит нескольких человек к одному ответу в одну неделю. Раньше приоритет решал, кто раньше додумался. Теперь всё чаще — кто раньше нажал «опубликовать». Кстати, ровно на этой волне появился Palomar из раздела инструментов.
ChatGPT выпустил версию для подростков. Режим для пользователей 13–17 лет включается по умолчанию для всех, кого система определила как подростка (Mashable). Внутри: напоминания о перерывах, предупреждения против загрузки чувствительных фотографий, уведомление родителям, если подросток обсуждает насилие. Модель избегает романтических формулировок и намёков на то, что у неё есть чувства.
Практически полезная деталь для родителей — настройка «учебные часы»: можно ограничить ChatGPT режимом обучения на заданные часы каждый день. Плюс тесты, которые собираются из чатов и заметок, и напоминания о домашке, специально сделанные так, чтобы отбить желание срезать углы.
Cerebras показала стойку, которая обещает 30-кратный отрыв. Новая система CS-4 заявляет до 30 раз более быстрый вывод по сравнению с системами на видеокартах и вдесятеро большую отдачу на ватт (Cerebras). Живой замер: 4400 токенов в секунду на одного пользователя против примерно 350 у самого быстрого сервиса на видеокартах.
Если цифры подтвердятся, меняется не скорость печати чат-бота. Меняется экономика агентов: цепочка из двадцати шагов рассуждения перестаёт занимать минуты и укладывается в секунды.
Держите в уме поправку The Register. Заглавные 30× сильно опираются на разреженность, которая обычно не помогает языковым моделям. Да и сам чип — это разгон двухлетнего кремния, а не новое поколение. В живом замере отрыв вышел двенадцатикратным, а не тридцатикратным.
Cursor открыл свой хостинг кода в день, когда лежал GitHub. Мы писали про выход Origin из закрытой беты 13 августа. Теперь он раскатан на платных пользователей, и запуск совпал с шестичасовым сбоем GitHub (Cursor).
Стратегия тут аккуратная: репозитории с GitHub подключаются и синхронизируются в обе стороны, мигрировать никуда не надо. GitHub остаётся источником правды, поэтому попробовать альтернативу ничего не стоит и ничего не ломается, если её бросить. Это удобно вам и опасно для GitHub.
Meta запатентовала очки, которые сами решают, когда вас записать. В заявке описана система, которая распознаёт лица, определяет, что происходит «что-то важное», и включает запись сама. Потом предлагает владельцу нарезку лучших моментов (Privacy Guides). Ни на одной схеме нет запроса разрешения — ни у владельца, ни тем более у окружающих.
Порог сдвигается с «человек нажал запись» на «устройство решило само». Согласие окружающих из цепочки исчезает полностью. Практический вывод: на встречах и закрытых мероприятиях пора проговаривать политику по носимым камерам так же, как когда-то по диктофонам.
Индикатор записи скоро перестанет быть надёжным сигналом. Meta уже выкатывала обновление, отключающее камеру при заклеенном светодиоде, потому что люди его физически высверливали. Оговорка: заявка на патент не означает, что продукт выйдет.
Дата-центры греют соседние кварталы. Теперь это измерено. Первые полевые замеры показали: подветренный воздух рядом с дата-центрами теплее на 0,7–0,9 градуса в среднем и до 2,2 градуса на пике (пресс-релиз ASU). След ловится на расстоянии до полукилометра. Замеры делали с пикапов в Финиксе, объекты от 36 до 169 мегаватт.
Цифра для масштаба: объект на 36 мегаватт сбрасывает тепло, эквивалентное потреблению сорока тысяч домохозяйств, на площадке меньше одного квартала. Плотность теплового потока превышает пиковое солнце в 2–6 раз. Экологический счёт за ИИ впервые стал измеримым на уровне улицы, а не национальной статистики. Оговорка честная: пять проездов по четырём объектам в одном пустынном климате — выборка крошечная, и авторы сами называют замеры эпизодическими.
Голливуд заключил первое перемирие с ИИ-видео. ByteDance согласовала с Американской ассоциацией кинокомпаний рамку, которая вшивает защиту авторских прав на кино и ТВ в модели Seedance и Seedream (LA Times).
Спусковым крючком стал вирусный ролик с дерущимся Томом Крузом. После него ассоциация впервые в истории потребовала от крупной ИИ-компании прекратить нарушения. ByteDance отложила мировой выпуск и вшила защиту в следующие версии.
Что это значит для тех, кто делает контент. Эпоха «генерируем что угодно и надеемся» заканчивается не через суд, а через договорённости на уровне моделей. Дальше ограничения будут вшиты в сам инструмент, а не описаны в правилах использования.
Коротко.
Минюст США расследует Andreessen Horowitz: могут ли партнёры фонда сидеть в советах конкурирующих ИИ-компаний. Дело опирается на закон 1914 года (the-decoder).
Акции Microsoft просели после расследования Guardian. У компании может быть установлено заметно меньше ИИ-чипов, чем следует из её же заявлений о мощностях (Guardian).
Годовой прогон выручки Anthropic перевалил за $65 млрд — всемеро выше темпа на конец прошлого года. Только помните: прогон это не выручка (Bloomberg).
Groq поднял $350 млн при оценке $3,5 млрд. Это уже после того, как Nvidia лицензировала его технологию и переманила старших сотрудников (Implicator).
Higgsfield закрыл раунд на $400 млн, учетверив оценку до $5,4 млрд за восемь месяцев (TechCrunch).
Wispr привлёк $280 млн при оценке $2 млрд и показал Canto — свою первую речевую модель, заточенную под шумные условия (Wispr).
Cartesia выпустила в бете модель синтеза речи Sonic-3.6 на 44 языка (Cartesia). А Thinking Machines прощупывает почву под уменьшенными версиями Inkling и платит кредитами по $250 за хорошие примеры сбоев.