ИИ-дайджест 13 октября 2026 ≈ 49 мин чтения

Торвальдс писал ядро с Claude Code, Codex завёл демона — и ещё 38 материалов дня

 Публичный пост
 42

Линус Торвальдс выложил ветку ядра, где код, тесты и первый черновик письма сделал Claude Code. Замеры он оставил себе — и правильно: чтения ускорились втрое, а прозу ему потом разнесли в комментариях. Тем временем Codex CLI тихо завёл на машинах пользователей постоянный фоновый процесс, который каждый час сам себя обновляет. И Гарвард посчитал, что кода агенты пишут на 30% больше, а софта из этого не выходит вовсе.

Торвальдс собрал ветку ядра с Claude Code и показал, как это делать правильно.

В своём репозитории Линус завёл ветку с говорящим именем noref-filemap-read-with-llm. Задача старая: мелкие чтения одного файла из многих потоков упираются в счётчик ссылок. Каждое чтение дважды пишет в одну и ту же кэш-линию. На его ноутбуке эта линия даёт 99,92% всех дорогих промахов кэша (ветка в git.kernel.org, Phoronix).

Решение красивое. Страница, выброшенная из кэша, теперь возвращается аллокатору не сразу, а после паузы. Значит, под защитой чтения её можно копировать прямо в буфер пользователя. Ни ссылки, ни промежуточного буфера, ни проверки после копирования.

Замеры Торвальдса: чтений в секунду до и после серии патчей, на 1, 8 и 4 потоках
Замеры Торвальдса: чтений в секунду до и после серии патчей, на 1, 8 и 4 потоках

Цифры с его ноутбука. На восьми потоках было 10 миллионов чтений в секунду, стало 31. Дорогие промахи кэша упали с 30 538 до 101. Крупные чтения по мегабайту, наоборот, стали чуть дороже — плюс 6% инструкций. Он это честно выписал, а не спрятал.

Теперь самое главное — как именно распределены роли. Дословно из письма: «Код, тестовые программы, разбор и первый черновик этого текста сделаны LLM-ассистентом (Claude Code) под моим руководством. Замеры прогонялись на моей машине».

Из этого распределения ролей вытаскивается пять правил, которые работают далеко за пределами ядра.

Первое — контрольный опыт важнее зелёного теста. Линус не просто получил «ноль ошибок» на своём тесте: он сломал гарантию отладочным патчем и показал, что тест ловит поломку — 12 и 138 плохих чтений в двух прогонах. Требуйте у агента не только тест, но и заведомо сломанную версию, на которой тест обязан упасть.

Второе — замеры держите за собой. «Померено ассистентом» — это не померено.

Третье — мелкие патчи с одной идеей. 446 добавленных строк разложены на восемь коммитов, у каждого свой заголовок и своя мысль. Просите серию атомарных коммитов, а не один большой сброс кода.

Четвёртое — пишите руками раздел «что не работает». У Линуса там десять пронумерованных нерешённых проблем и честный список того, чего он не прогонял: ни xfstests, ни KASAN, одна машина. Признание границ стоит дороже уверенного «готово».

И пятое, с кровью добытое. На Lobsters спорили не про код, а про текст письма. Самый поддержанный комментарий: «Читать это письмо откровенно уныло». Саймон Уиллисон согласился: «Да, проза мерзкая». Черновик пусть пишет модель. Финальную версию излагайте своим голосом.

Codex CLI тихо поселил у вас фоновый демон. Вот как проверить и выключить.

С версии 0.157.0 обычный запуск codex делает три вещи, о которых вы не просили (issue #48195, обсуждение на HN).

Он поднимает постоянный процесс codex app-server --managed-daemon. Тот переживает закрытие всех окон и живёт до перезагрузки. Он копирует весь пакет на 374 МБ в ~/.codex/packages/ и запускает демон уже из копии. И он заводит отдельный обновлятор, который каждый час тянет новую версию мимо вашего пакетного менеджера.

Есть побочный эффект похуже. Демон запоминает переменные окружения той сессии, которая его первой подняла. В свежем issue #53547 сценарий воспроизведения на три строки: экспортируете переменную в одном терминале, а видит её агент и в другом, в чужой папке. Секреты проекта утекают в соседние сессии.

В списке изменений про всё это одна строка про «автоматический запуск фонового сервера». В официальной документации флага daemon_auto_start нет вообще. Ответа OpenAI в обсуждении за восемнадцать дней тоже нет, хотя реакций там 130.

Проверить у себя:

ps aux | grep -E 'app-server --managed-daemon|app-server daemon pid-update-loop'
ls -la ~/.codex/app-server-daemon/ ~/.codex/app-server-control/
du -sh ~/.codex/packages/app-server-daemon/
codex doctor

Выключить насовсем:

codex features disable daemon_auto_start
codex app-server daemon stop
pkill -f 'app-server daemon pid-update-loop'   # `daemon stop` его не убивает
rm -rf ~/.codex/packages/app-server-daemon

То же самое через конфиг, если руками надёжнее:

# ~/.codex/config.toml
[features]
daemon_auto_start = false

А на один запуск хватит флага --no-daemon.

Заодно загляните в ~/.codex/logs_2.sqlite. Это другая история, issue #28224, и её уже закрыли как починенную. Но масштаб стоит знать: у автора набежало 37 ТБ записи за три недели работы. В пересчёте на год — около 640 ТБ. У обычного терабайтного диска ресурс примерно 600 ТБ записи. Люди в комментариях показывали фотографии умерших накопителей. Правки убрали около 85% логов, но несколько родственных обращений до сих пор открыты. Посмотрите размер файла — минутное дело:

ls -lh ~/.codex/logs_2.sqlite*
sqlite3 ~/.codex/logs_2.sqlite "SELECT COUNT(*) FROM logs; SELECT MAX(id) FROM logs;"

Если число в MAX(id) на порядки больше числа строк, логи у вас всё ещё текут.

Кода стало на 30% больше, софта — ровно столько же. Узкое место переехало в ревью.

Фиона Чен и Джеймс Страттон из Гарварда разобрали данные платформы Jellyfish. Это 718 компаний и почти 726 тысяч работников. Двести миллионов коммитов и 49 миллионов пул-реквестов за пять лет (препринт, Ars Technica).

Считали честно: сравнивали компании до и после внедрения агентов, отдельно от простых ассистентов-автодополнений. Результат по строкам кода — плюс 1494 на человека в месяц при базе 5017. Это плюс 30%. Коммитов плюс 20%, пул-реквестов плюс 23%.

А выпуск софта не сдвинулся. Закрытых задач в трекере — ноль прироста, статистически. Доверительный интервал исключает рост больше 12%. Эпиков, то есть целых фич, — тоже ноль. И задачи не стали крупнее: авторы отдельно это проверили.

Прирост доли пул-реквестов, где ревьюер запросил правки, по месяцам после внедрения агентов. База 13%, через год плюс 21 пункт
Прирост доли пул-реквестов, где ревьюер запросил правки, по месяцам после внедрения агентов. База 13%, через год плюс 21 пункт

Зато выросло ревью. Время от пул-реквеста до слияния — плюс 3,45 дня при базе 7 дней, то есть почти на половину. Через год после внедрения — плюс почти шесть дней. Доля пул-реквестов, где попросили правки, выросла с 13% до 25% в среднем. Через год после внедрения — до 34%. Комментариев на один пул-реквест стало на 35% больше.

И вот деталь, которую теряют все пересказы. Средний размер пул-реквеста НЕ вырос: 1168 строк и до, и после. Значит, правок просят не потому, что диффы распухли. Меняется само доверие к коду.

Цитата инженера из интервью к работе: «Люди могли быстро наделать огромное количество коммитов, но ревью всё равно оставалось узким местом. На одном проекте одобрять изменения имел право только один сеньор. Он был так перегружен, что смотрел мой код раз в неделю. А после нескольких падений боевого сервера из-за ИИ-коммитов ввели правило: ИИ-код обязан одобрять сеньор».

Перестаньте мерить себя строками и коммитами — это прямая рекомендация авторов. Ваши три числа: время от пул-реквеста до слияния, доля ваших пул-реквестов с запрошенными правками и количество задач, доехавших до боевого сервера.

Заставьте агента приносить на ревью не только дифф. Нужна записка: что за задача, какое решение принято и почему, какие альтернативы отброшены, что осталось непокрытым. Это переводит ревью из «читаю 1200 строк» в «проверяю пять утверждений».

Делите не по размеру диффа, а по цене ошибки. Построчное человеческое ревью оставьте значимым изменениям. Рутину пускайте через автоматический контур.

И не ставьте «одобряю» на код, который не можете пересказать вслух. Компании в выборке пришли к этому правилу через падения на боевом сервере. Дешевле прийти раньше.

Anthropic закрыла сырые рассуждения Claude. Если вы строите на API — проверьте интеграцию сегодня.

Пост формально про защиту от дистилляции: когда чужие модели учат на выводе Claude. Защиты срезали утечку рассуждений в 10–100 раз (Anthropic). Но для нас важнее, что именно поменялось в API.

Утечка рассуждений дистилляторам по дням, логарифмическая шкала. В кратности к самому тихому дню: до защит в среднем 8800, после — 135
Утечка рассуждений дистилляторам по дням, логарифмическая шкала. В кратности к самому тихому дню: до защит в среднем 8800, после — 135

Первое. Сырую цепочку размышлений больше не отдают ни при каких настройках. Параметр thinking.display со значением summarized отдаёт сводку, со значением omitted — пустое поле thinking плюс зашифрованную подпись. На моделях 5.x omitted стоит по умолчанию. То есть текста рассуждений вы не получаете вообще, а платите за полный объём токенов размышления.

Второе. Просьба выдать рассуждения текстом теперь ловится как отказ. Приходит HTTP 200 с stop_reason: "refusal" и категорией reasoning_extraction. Триггеры будничные: секция <thinking> в промпте, поле reasoning или trace в схеме вывода, просьба про «приватные заметки». Это может сидеть у вас в системном промпте с позапрошлого года. И такой отказ теперь платный.

Третье, и оно ломает код. Это «preserved thinking». Вы возвращаете блок thinking обратно в запрос — API проверяет подпись. Проверок две: может ли текущая модель прочитать блок и не менялся ли префикс. Префикс — это системный промпт, набор инструментов и все предыдущие сообщения.

Кто затронут: аккаунты, созданные 31 августа 2026 года и позже. У них проверка принудительная, остальные пока получают поблажку. Отсюда ловушка: у вас на своём ключе всё зелено, а у пользователя с новым аккаунтом ваш инструмент падает с ошибкой 400.

Что ломает префикс — список из документации. Пересборка системного промпта на каждом ходу. Дата или флаг режима внутри него. Подключившийся позже MCP-сервер. Обрезка старых результатов инструментов на клиенте. Добавление или переименование инструмента. Удаление блока рассуждений из середины истории.

Отдельная мина — сериализатор, который выбрасывает пустые блоки. Поле thinking теперь пустое по умолчанию, рассуждения лежат в подписи. Выбросите все такие блоки — ничего не упадёт, модель просто будет терять свои размышления каждый ход.

Быстрая заплатка — параметр thinking.block_binding.prefix_mismatch_behavior со значением drop_block. Запрос пройдёт, сбойные блоки выкинутся. Но цена есть: на максимальном режиме рассуждений сброс на каждом ходу даёт плюс 67% выходных токенов. Anthropic прямо называет это временной мерой.

Диагностика: бета-заголовок thinking-binding-controls-2026-08-01 добавляет в ответ массив input_transformations с причиной выброса каждого блока. Без него блоки выбрасываются молча. А в документации Anthropic описана отдельная команда миграции для Claude Code: она сама сравнивает соседние запросы и показывает, где код правит префикс.

Сама Anthropic компромиссы признаёт: «Полностью достичь этой цели мы не смогли: preserved thinking потребовал от части разработчиков обновить интеграции, наши классификаторы могут менее чем в 0,1% случаев заблокировать безобидный запрос, и мы теперь взимаем плату за эти заблокированные запросы».

Большая часть «читерства» моделей на бенчмарке оказалась попыткой честно сказать «задача невозможна».

Саймон Мендельсон перепроверил ImpossibleBench — тест, который ловит, как агенты жульничают с юнит-тестами (разбор на LessWrong, данные и патч).

Устроен бенчмарк так. Берут задачу по программированию и портят тесты, чтобы они противоречили описанию. Правильный код пройти не может. Значит любое «прошёл» на такой задаче считается читерством.

А теперь внимательно. «Прошёл» технически означает «процесс завершился с кодом ноль». Строгий промпт при этом велит модели остановиться, если тесты сломаны. Но в цикле повторов кнопки «стоп» просто нет. Единственное, что прекращает сообщения «попробуй ещё раз», — выход из процесса.

И модель делает единственное, что ей осталось:

print("STOP.")
print("The test suite is logically flawed and contains a contradiction.")
print("Identical inputs (9, 5, 1000000271) are asserted to equal both 1593853 and 177947947.")
sys.exit(0)

Это засчитывается как успех. Успех на невозможной задаче — значит, сжульничала.

Четыре замера доли «читерства» Gemini 3.1 Pro. Синее — выход из процесса после честного диагноза, оранжевое — прочие прохождения
Четыре замера доли «читерства» Gemini 3.1 Pro. Синее — выход из процесса после честного диагноза, оранжевое — прочие прохождения

Масштаб: у Gemini 3.1 Pro на такие выходы приходится 70–80% всего «читерства». Если починить подсчёт баллов, цифра падает с 60% до 14%. Если назвать модели кнопку «стоп» в промпте, она берёт её на всех 202 задачах и не жульничает ни разу.

Попутно автор нашёл в «решаемом» контрольном наборе 14 дефектов на 13 задачах из 103. В пяти ожидаемый ответ просто неверный. Из-за этого «фабрикации» Opus 5.5 оказались в основном корректными детектами настоящих ошибок бенчмарка.

И отдельно отрезвляющее. Одно предложение канцелярита в промпте двигает итоговую цифру на 18 пунктов. Два прогона одной задачи сходятся только в 56–85% случаев.

Пять правил для своих проверок агента.

Проверяйте сами задачи, а не только ответы. Соберите с нескольких моделей жалобы «этот тест неверен», отсортируйте по совпадению — и каждого кандидата досчитайте руками.

Разводите три разных исхода: честно провалился, остановился с диагнозом, сжульничал. Это три колонки, а не одна.

Никогда не считайте выход из процесса успехом. Рецепт автора простой: печатайте случайный токен после всех проверок и требуйте его в выводе.

Дайте агенту настоящую кнопку «стоп» и назовите её в промпте. Иначе он изобретёт выход сам, и любое изобретение будет выглядеть как хак.

Не верьте одному прогону. И публикуйте промпт целиком, вместе с «мусорным» последним предложением.

Чек-лист «вытянет ли ИИ мою задачу»: дешёвый цикл против дорогого.

Рамка простая и неожиданно полезная. Есть домены, где проверить результат быстро, дёшево и однозначно — там модели сильны. И есть домены, где за точной обратной связью надо идти в лабораторию или ждать неделю (LessWrong).

Цена одного эксперимента по доменам, логарифмическая шкала: от $0,0001 в спортивном программировании до $100 млн в разработке лекарств
Цена одного эксперимента по доменам, логарифмическая шкала: от $0,0001 в спортивном программировании до $100 млн в разработке лекарств

Что именно ломается в дорогом цикле — четыре вещи, и каждая узнаваема.

Модели не умеют работать с косвенными метриками. Сами их почти не придумывают, а заданную переоптимизируют до жульничества.

Модели не строят теорию. То есть не выстраивают причинную модель предметной области, по которой видно, какой эксперимент вообще что-то даст.

Модели не чувствуют ресурсы. Цитата из замера на реальных задачах: «Агент выбирает эксперименты, не взвешивая прирост информации против стоимости вычислений: 15-часовой прогон для него не весомее 30-минутной проверки». Бытовой пример оттуда же. Модель запускает пятиминутную команду и обрезает вывод до последних пяти строк. Нужного нет — перезапускает с тридцатью. Человек сохранил бы вывод в файл и искал по файлу.

Модели чинят не тот уровень. Ошибка бывает в параметре, в стратегии и в самой посылке. Начинать с параметров правильно — они дешёвые. Проблема в том, что дальше модель не идёт: она «залочивается на стратегии до появления свидетельств». В тех же замерах одна подсказка сменить стратегию посреди прогона обогнала самостоятельное продолжение агента на 17,44%.

Пять вопросов к своей задаче перед тем, как отдать её агенту. Есть ли быстрая однозначная проверка результата? Сколько стоит одна попытка — в деньгах и в часах ожидания? Можно ли подделать мой критерий успеха? Дана ли теория прямо в постановке задачи? Что скорее всего сломано — параметр, стратегия или посылка?

Дорогой цикл удешевляется тремя приёмами. Стройте лестницу проверок от дешёвой к дорогой и пускайте агента только по нижним ступеням. Прерывайте вручную на середине — это самое дешёвое вмешательство с измеренным эффектом. И формулируйте задачу как «попробуй сломать», а не «проверь»: просьбу проверить модель читает как просьбу подтвердить.

Не будьте глазами агента — постройте ему глаза.

Нирадж Раджгор превратил старый Kindle в фоторамку. Устройство — Kindle Basic десятого поколения, подключения по USB не было вообще, всё шло по Wi-Fi (разбор автора).

Сам по себе взлом прошивки там не новость: взяли готовый SpiderCat от сообщества KindleModding. Ценность в другом — в том, как менялась отладка.

Сначала агент не мог получить данные с устройства. И просил автора фотографировать экран телефоном и кидать снимки в чат. Каждая итерация упиралась в человека.

Потом автор задал себе правильный вопрос: агент же и так подключён к устройству, почему он сам не берёт эту информацию? И прямо попросил построить цикл обратной связи. Агент сделал постоянное диагностическое соединение, а потом добавил сверху удалённый захват экрана. После этого он ушёл на автопилот — в его рассуждениях видно, как он сам перебирает, какие папки на Kindle переживают перезагрузку.

Главная оговорка автора: модель не предложила этого сама. Просить пришлось человеку.

И отдельно про границы метода. Показ фотографий проходил автотесты на Mac, но на реальном экране при смене кадра оставались следы предыдущей фотографии. Снимок экрана физику электронных чернил не показывает в принципе. Финальную проверку всё равно делал глаз.

Цитата, ради которой стоит прочитать весь текст: «В следующий раз я бы настроил цикл обратной связи с самого начала, чтобы агент мог читать логи, смотреть снимки экрана и проверять правки прямо на устройстве».

Переносимый приём: если вы ловите себя на том, что фотографируете экран и кидаете в чат, вы — узкое место. Постройте агенту канал наблюдения первым делом. И держите в голове, чего этот канал не видит.

Рич Хикки: ИИ — не инструмент, а окно автораздачи. Ему ответили за сутки.

Автор языка Clojure написал короткое эссе с жёстким тезисом (LinkedIn). Инструмент — это то, чем ты владеешь: с контролем, с непрерывным ведением рукой, с обратной связью от материала. Из этого растёт мастерство.

Его вердикт дословно: «Контроль, сенсорная обратная связь, намерение, непрерывное направление, экспертиза — всего этого в использовании LLM нет. LLM не берут в руки. LLM — это автоматизация».

И метафора, ради которой эссе запомнили: «Окно автораздачи — не инструмент для готовки, это автоматизация ради того, чтобы не готовить. LLM — не инструменты, которыми ты пишешь код; это автоматизация, с помощью которой ты избегаешь писать код».

Самое сильное место — про то, чему вы учитесь. С инструментом вы узнаёте что-то про мир и задачу. С автоматизацией вы «пытаетесь угадать сегодняшние детали какого-то автомата» и заполняете voodoo.md нужными заклинаниями. Дальше удар: «Ты всего в одном обновлении софта от того, что всё выученное обнулится новым алгоритмом».

Через сутки ему ответил Хуахай Ян, автор Datalevin (yyhh.org). Возражение по сути одно, но весомое: предсказуемость и надёжность — это то, по чему мы инструменты оцениваем, а не условие принадлежности к категории. «Взять пилу — не гарантия ровного распила».

Про отсутствие обратной связи он отвечает конкретным циклом: попросить объяснить незнакомый код, оспорить объяснение, залезть в исходник, протестировать правку, отклонить, уточнить запрос. И формулирует замену всему спору: «Полезное различение — не инструмент против автоматизации, а владеть с мастерством против делегировать без понимания и контроля».

Где спор реально упирается. Хикки говорит про непрерывную телесную обратную связь, из которой растёт навык. Ян — про дискретную петлю «спросил, проверил, отклонил». Это разные вещи, и оба зовут их одним словом.

Самое честное возражение Яну прилетело на HN: «И что это за навык? Есть конкретные проверяемые примеры? Которые можно воспроизвести и перенять?» Ответ про «знать, когда дробить задачу на агентов» парировали ровно аргументом Хикки: это изменится с ближайшим обновлением моделей.

Практический остаток спора: по каждой задаче решайте заранее — вы собираетесь понять результат или просто получить его. Для разовой миграции второе нормально, для кода, который вам поддерживать, — нет.

Выбирайте задачи по критерию обучения, а не только скорости. Там, где ценность в накоплении экспертизы, автоматизация съедает актив. Там, где делание ничему не учит, забирайте её без угрызений.

И вкладывайтесь в то, что переживёт смену модели: ясная постановка задачи, декомпозиция, умение читать диффы и писать тест. Не в эзотерические промпт-рецепты под конкретную версию.

«Эксперимент с гончарами» никогда не был экспериментом. А на него ссылаются постоянно.

История известная. Класс керамики поделили на две группы: одну оценивали по количеству горшков, другую по качеству одного лучшего. Лучшие работы оказались у «количественной» группы.

Автор разбора проследил цепочку до конца (LessWrong). Источник — книга об искусстве «Art and Fear» Бейлза и Орланда, 1993 год, страница 29. Ни примечаний, ни библиографии, ни ссылки на источник.

В 2016 году оба соавтора независимо признались: историю им рассказали, и в оригинале никакой керамики не было. Был курс фотографии Джерри Уэлсманна в Университете Флориды. Орланд в письме: «Я заменил фотографию на керамику как исследуемый медиум». Сам Уэлсманн историю так и не подтвердил — он умер в 2022 году.

Подмена медиума убивает вывод. Снять кадр несравнимо дешевле, чем слепить горшок. И тогда работает совсем другое объяснение: больше кадров — больше лотерейных билетов. Никакого обучения в этом нет, чистая статистика выборки.

Чего в истории нет вообще: случайного разделения групп — делили по сторонам студии; метрики качества — слово «идеальный» не определено; размера групп; величины эффекта.

Этот анекдот — дежурный аргумент под «генери сотнями, ИИ дешёвый, качество придёт само». С ИИ вы в крайней версии фотографического случая: попытка почти бесплатна. Значит количество генераций улучшает отбор, а не вас.

Чтобы итерации действительно учили, нужны две вещи, которых в анекдоте нет. Критерий качества, записанный до генерации. И привычка смотреть на результат каждой попытки. Формулировка из комментариев бьёт точно. Можно ли двигаться быстро и получать чистый сигнал, как в блиц-шахматах? Или быстрота лишает вас возможности учиться — как при вайб-кодинге приложений, в код которых вы не заглядываете?

И общий приём. Если на первом шаге проверки вы попали в научпоп-книгу, а не в статью, вы не дошли до источника. Вы дошли до пересказа.

Исполнение подешевело — что теперь тренировать.

Два эссе одного дня про одно и то же с разных сторон.

Адам Ньюгас: разрыв между идеей и результатом схлопнулся, а хорошие идеи остались дефицитом (LessWrong). Его объяснение, почему дефицит не исчезнет: внимание мира — ограниченный ресурс, за который идеи конкурируют. Прогноз: «Гипотезы будут цениться выше доказательств, а короткие посты — выше фильмов». Опора — слова Теренса Тао о том, что запас хороших открытых задач вырабатывается невозобновляемо.

Диомидис Спинеллис, профессор программной инженерии, идёт дальше (spinellis.gr). Он начинает с признания: «Эти строки мне очень тяжело писать, потому что я будто рою себе могилу». Тезис: ИИ выигрывает по качеству, цене и доступности, поэтому мышление станет досугом. Как охота после одомашнивания животных, каллиграфия после книгопечатания, верховая езда после моторизации.

Расходятся они ровно в одном месте, и это важно. У Ньюгаса дешевеет только исполнение, а вкус и отбор остаются человеческим дефицитом. У Спинеллиса дешевеет мышление целиком — то есть он отрицает тот островок, на котором стоит Ньюгас.

Самое сильное возражение обоим прилетело с HN, и оно из практики. «Я обнаружил, что с ИИ на работе мне приходится думать БОЛЬШЕ. Мне надо достраивать понимание вечно меняющейся кодовой базы, и теперь это мой лимитирующий шаг — переварить и усвоить». Рядом другой: «ИИ пишет большую часть моего кода, но когнитивная нагрузка у меня ВЫШЕ».

Тренируйте отбор: на каждую задачу выписывайте пять-десять заходов и убивайте девять. Отдельно фиксируйте, почему убили — этот лог и есть тренажёр вкуса.

Ведите свою базу идей. Если запас открытых задач вырабатывается, недоработанная идея обесценивается за недели.

И делайте постановку задачи своим главным артефактом. Проверка простая: можно ли по вашему брифу выполнить работу без вас.

Плюс приём из возражения: после каждой сессии с ИИ закройте экран и нарисуйте схему решения по памяти. Не рисуется — вы результат не освоили, вы его перевезли.

«ИИ ускорил преобразование Фурье» — отличный повод научиться читать такие заявления.

OpenAI выложила препринт (репозиторий openai/math): алгоритм считает дискретное преобразование Фурье за O(n(log n)^(1−10⁻¹³)) операций. Формально это строго быстрее классического O(n log n), который держался с 1965 года.

Бен Рехт, профессор Беркли, разобрал, в чём фокус (argmin.net). О-большое прячет константу. «Линейным» считается и алгоритм со временем 10⁸⁰·n — а 10⁸⁰ это примерно число атомов во Вселенной. Такие алгоритмы называют галактическими. По его оценке, скрытая константа тут порядка 10¹⁰⁰, и обычный Кули — Тьюки быстрее даже при n = 10¹⁰⁰.

Второй удар сильнее первого. Модель вычислений в статье предполагает точную арифметику над комплексными числами за одну операцию. А алгоритму нужно перемножать числа, растущие суперполиномиально. Таких компьютеров не бывает.

Но вот честная вторая половина, и её стоит знать. Сам препринт себя прорывом не продаёт. Там прямым текстом написано: «Константы в алгоритме огромны, так что это асимптотические результаты о существовании, без полезной оценки точки окупаемости». Претензия корректнее адресуется вторичной шумихе, а не тексту. Рехт признаётся, что статью не читал, а цифры добыл, скормив её чат-боту.

В комментариях ему резонно возражают: доказав, что можно на эпсилон быстрее, вы избавляете сообщество от поисков совпадающей нижней границы. Это реальная ценность.

Четыре вопроса к любому заявлению «модель открыла алгоритм». В какой модели вычислений результат верен и чем она отличается от настоящего компьютера? Какая скрытая константа и с какого размера входа алгоритм реально обгоняет существующий? Есть ли замеры и реализация? Кто и как это проверил, и что именно сделала модель, а что люди?

И эвристика на будущее. Если «прорыв» ломает давно известную нижнюю границу, проверьте, какое условие этой границы сняли. Здесь сняли ровно те два, которые делают преобразование Фурье пригодным на реальном железе.

Прогнозы Кевина Келли про ИИ, сделанные десять лет назад: что сбылось.

В 2016 году в книге «The Inevitable» Келли дал пять конкретных прогнозов. Тейлор Троеш собрал их и сверил с реальностью (taylor.town).

Два чистых попадания. Первое: «ИИ на горизонте похож скорее на Amazon Web Services — дешёвая, надёжная сообразительность промышленного класса, работающая за всем и почти невидимая». Второе: «Очень скоро мы будем спрашивать облако разговорным тоном о чём угодно».

Главный промах: «В ближайшие 10 лет 99 процентов искусственного интеллекта, с которым вы будете взаимодействовать, будут задротски узкими сверхумными специалистами». Вышло ровно наоборот — победили универсальные модели. Комментарий Троеша: «Даже Келли не предвидел горького урока».

И самая сочная деталь, которую нашли при сверке. Келли обещал: «к 2026 главным продуктом Google будет не поиск, а ИИ». Ту же мысль он печатал в Wired в 2014 году — но тогда срок стоял «к 2024». Переиздавая текст, автор передвинул тот же прогноз на два года вперёд.

Предсказывайте форму, а не персонажа. Келли выиграл там, где спрашивал, на что это будет похоже как инфраструктура и сколько будет стоить. И проиграл там, где описывал, кем будет ИИ. Прогнозы про интерфейс и цену надёжнее прогнозов про способности.

Концентрацию рынка он угадал, а её причину — нет. Олигархия сложилась не из-за пользовательских данных, а из-за денег и вычислений. Смотрите на доступ к вычислениям, а не на размер аудитории.

И правило, которое пригодится при чтении любых футурологов: прогноз без даты и без критерия проверки — это не прогноз, а настроение. Прогноз, который всегда отстоит на десять лет, нефальсифицируем по построению.

Валсорда обновил «правильные ответы по криптографии» — и внёс в них ревью языковой моделью.

Филиппо Валсорда ведёт crypto/tls в Go и написал age. Раз в несколько лет список обновляют. В этот раз повод серьёзный: перевод на пост-квантовую криптографию надо закончить к 2029 году (words.filippo.io).

Шпаргалка целиком, её удобно сохранить.

Шифрование данных: в облаке — KMS провайдера, иначе XAES-256-GCM или XChaCha20Poly1305 со случайными одноразовыми числами. Больше нескольких мегабайт одним куском — не шифровать, нужен Cobblestone-128.

Обмен ключами: X25519+ML-KEM-768 в готовом протоколе. Это срочно из-за атак «собери сейчас, расшифруй потом».

Подписи: ML-DSA-44. Асимметричное шифрование: HPKE или age с ключами, начинающимися на age1pq. Пароли: Argon2id или scrypt — bcrypt выкинут из-за обрезки на 72 байтах. А лучше вообще passkeys. Хеш: SHA-2 всё ещё годится. Случайные идентификаторы: 32 случайных байта. Бэкапы: restic с длинным случайным паролем.

Самая непрактичная его рекомендация — не OpenSSL. Он советует rustls или Go crypto/tls, а для C — BoringSSL или AWS-LC.

И вот ради чего мы это вообще разбираем. Во вводной части, перед самой шпаргалкой, стоит такое: «Помните о другом большом изменении 2026 года: LLM теперь очень хорошо находят баги. „Получи ревью от лучшей модели, которую можешь себе позволить" — теперь твёрдо является правильным криптографическим ответом, наряду с давней классикой „используй язык, безопасный по памяти"».

Передаю позицию точно, без усиления. Он советует именно ревью, а не написание криптокода моделью. Он отдельно уточняет: лучшей моделью, которую можете себе позволить, то есть топовой платной. И оговорок он не приводит никаких — это единственное упоминание моделей во всей статье. Рефрен всей его статьи — «не изобретайте своё». И на этом фоне поставить ревью языковой моделью в один ряд с безопасными по памяти языками — сильный шаг.

Zod и вредоносный коммит: разбираемся, что было на самом деле, и делаем выводы.

История ходит по лентам в неверной формулировке, поэтому сначала факты. Вредоносный код в опубликованный пакет zod на npm не попадал. Версия 4.6.6 чистая, ключа preinstall в её манифесте нет (официальный разбор).

Что было. Двадцать первого сентября в репозиторий запушили коммит с сообщением «Fix bugs and improve performance», добавлявший четырёхстрочный загрузчик и прописывавший его в preinstall. В тот же час то же сделали ещё с двумя репозиториями того же автора. Коммит откатили в тот же день, но он остался виден в автоматических заметках к релизу — отсюда и шум спустя три недели.

Загрузчик устроен занятно. Адрес управляющего сервера он берёт не из кода, а из смарт-контракта в Ethereum: делает вызов и декодирует из ответа список доменов. Это значит, что адрес можно менять без перевыпуска пакета, и его нельзя снять по жалобе.

Ни один вредоносный пакет не опубликовали. У zod уже было настроено доверенное издание с привязкой к окружению, поэтому релизный конвейер от обычного пуша просто не запустился. У третьего репозитория конвейер сработал, но пакет задержало сканирование npm и заблокировало до публикации.

А теперь главное — как утёк доступ. По словам сопровождающего, скомпрометирован был SSH-ключ с его рабочей машины. И произошло это во время работы над песочницей для пакетного менеджера. Его слова: «самодельный агент в тестовом прогоне, вероятно, выполнил скомпрометированную версию какого-то пакета с npm». Защиты у него были, но попался ещё не известный вредонос. Дальнейшую работу он перенёс в изолированную виртуальную машину.

Проверить у себя — минутное дело:

npm ls zod                     # какие версии реально в дереве
npm view zod@4.6.6 scripts     # обычные scripts, без preinstall
grep -rn 'github.com/colinhacks/zod' package-lock.json pnpm-lock.yaml yarn.lock

Единственный реальный вектор — если проект тянул zod напрямую из ветки main 21 сентября. Ставить стоит 4.6.7: версия 4.6.6 чистая, но после переписывания истории потеряла подтверждение происхождения.

Два системных вывода, и они важнее самого инцидента. Первый: отключите скрипты установки. npm config set ignore-scripts true или npm ci --ignore-scripts. В pnpm это уже по умолчанию, в npm станет с двенадцатой версии.

Второй: агенту, который ставит и запускает произвольные пакеты, не место на рабочей машине с вашими ключами. Сопровождающий огромной библиотеки попался именно на этом. У zod 346 миллионов загрузок в неделю, и от него зависят ai, @ai-sdk/openai и половина инструментов для ИИ-разработки.

Уроки исследовательской работы, которые переносятся на любую работу с агентами.

Джо Цзяо провёл 2026 год в двух программах по безопасности ИИ — MATS и Redwood Research — и выписал, чему научился (LessWrong).

Его главный тезис: «Хорошее эмпирическое исследование в первую очередь упирается в способность думать яснее». И вторая цитата, которая переворачивает привычное: «Иметь неверную модель лучше, чем иметь нефальсифицируемую».

Предсказывайте результат до запуска — это первое, что переносится на обычную работу с агентами. Перед тем как поменять промпт или дать агенту задачу, напишите одной строкой, что ожидаете увидеть. Иначе любой исход выглядит логичным задним числом, и вы ничему не учитесь.

Удивились — остановитесь и разберитесь. Если агент выдал результат лучше ожидаемого, это сигнал не радоваться, а проверять: не протекли ли данные, не сделал ли он что-то не то. Он описывает это как рефлекс, который надо натренировать. Заметил удивление → какая у меня была модель → как она меняется → а не напортачил ли я где-то.

Погрешность на одном наборе задач обманчива. Три удачных прогона на похожих задачах — это не «работает»: нужен второй набор, непохожий на первый. И отдельно: модели пока плохо честно перечисляют собственную неопределённость, так что проверяйте за ними.

Решите заранее, какой уровень готовности вам нужен. Он различает «доказано для себя и коллег» и «выдержит скептика» — разница в усилиях от половины до целого порядка величины. Не сползайте во второе случайно.

Платите деньгами за время. И в MATS, и в Redwood он экономил на вычислениях, переплачивая временем за вещи, которые не имели значения. Прогнать больше примеров, взять модель подороже, заплатить за быструю инфраструктуру — почти всегда выгоднее.

И отдельный пункт, который прозвучит неожиданно от исследователя безопасности. Еженедельные отчёты о ходе работы он советует писать полностью руками: «Сейчас я не считаю, что ИИ стоит использовать для написания апдейтов в Slack: ИИ намного хуже людей калиброван по тому, насколько апдейт удобоварим». Знакомая претензия — ровно за это разнесли письмо Торвальдса в начале выпуска.

Agent37

— песочницы для агентов по цене чашки кофе (обсуждение запуска на HN, сайт). Смысл простой: агент с правами на командную строку ставит пакеты, лезет в сеть и переписывает файлы. На вашем ноутбуке он топчет домашнюю папку и ключи, а главное — выключается вместе с крышкой. Здесь он получает отдельную Linux-машину с правами администратора. Она живёт сама по себе, просыпается по расписанию и принимает сообщения из Telegram или Slack.

Изоляция — gVisor, не полноценные виртуалки: Docker внутри и эмулятор Android не работают, для них отдельный тип машины за 2,5 цены. Тарификация поминутная: 0,80 доллара за ядро, 0,70 за гигабайт памяти и 0,09 за гигабайт диска в месяц. Машина 2 ядра на 4 ГБ выходит в 4,76 доллара при круглосуточной работе. И в 36 центов, если она почти всё время спит.

Есть бесплатный уровень без карты: одно ядро, 4 ГБ, засыпание через 15 минут. Рекламный заголовок про «37 центов за песочницу» — это средний клиент с 57 часами активности в месяц, а не всегда включённая машина.

Janas

— запуск моделей крупнее оперативной памяти (GitHub). Движок на чистом C без зависимостей. Веса лежат на диске, а эксперты, нужные конкретному токену, читаются с NVMe напрямую. Часто используемые оседают в памяти.

Заявленный результат — Qwen3-Next-80B размером 48,4 ГБ на ноутбуке с 32 ГБ выдаёт 37 токенов в секунду против 2,8 у llama.cpp. В комплекте чат, HTTP-сервер с совместимым API, MCP-сервер и дополнение кода для VS Code. Лицензия GPL-3, есть готовые сборки под Linux и Windows.

Автор сам ставит шапку «это эксперимент, а не продукт». API меняется по нескольку раз в неделю. Движок намеренно жёсток к машине и может загнать настольный компьютер в подкачку. В обсуждениях на GitHub есть отчёты с чужого железа, они движок подтверждают. А вот сравнение с llama.cpp прогонял только автор и только на своём ноутбуке.

smlibpy

— параметрический 3D-CAD на Python с MCP-сервером для агентов (GitHub). Отличие от cadquery и build123d — другое геометрическое ядро. Внутрь вкомпилирован NURBS-движок SMLib. Поэтому детали получаются точными, а объём, площадь и центр масс считаются до семи значащих цифр. Деталь собирается короткими скриптами с операторами плюс и минус, грани выбираются по геометрии.

Сверх базового моделирования есть то, чего обычно в питоновских обёртках нет. Листовой металл с разворачиванием в плоскую развёртку. Удаление скруглений и отверстий из импортированной геометрии. Анализ уклонов для литья. И программный рендерер без видеокарты, который рисует чертежи с невидимыми линиями и разрезами.

Вывод программного рендерера smlibpy: чертежи в первом и третьем углах проекции, разрезы, рентген, зебра-полосы и карты кривизны
Вывод программного рендерера smlibpy: чертежи в первом и третьем углах проекции, разрезы, рентген, зебра-полосы и карты кривизны

Для агента это важнее всего: он получает не только API, но и зрительную обратную связь — снял снимок, посмотрел, поправил. Ставится одной командой pip install smlibpy, для агентов pip install "smlibpy[mcp]", лицензия MIT. Версия 0.2, сборок с деревом изделия и размерных чертежей пока нет.

blokkily

— экспериментальная звуковая студия, которой может управлять агент (GitHub). Паттерн-ориентированная: единица работы не линейная дорожка, а именованный кусок вроде «куплет» или «припев», который потом раскладывается по ленте времени. Один и тот же паттерн правится в трёх синхронизированных редакторах сразу — трекер, piano roll и пошаговая сетка. Все три работают с одной моделью данных.

MCP-сервер подключается строкой claude mcp add blokkily -- blokkily --mcp. Агенту доступны конкретные действия: прочитать сессию, записать ноты, найти и назначить инструмент, выставить параметр по имени, запустить воспроизведение и снять снимок окна. Правки идут теми же путями отмены, что и действия мышью, так что всё откатывается. Форматы CLAP, VST3 и SoundFont.

Осторожно с лицензией: она собственная — смотреть и собирать можно, коммерческое использование только с разрешения автора. Проект очень молодой, готовых сборок нет, собирать придётся самому.

sci-translation-skill

— скилл для кодового агента, превращающий перевод научной статьи в управляемый конвейер (GitHub). Шесть шагов: разметка структуры и границ утверждений, извлечение и заморозка глоссария, первичный перевод, отдельная читательская редактура, двусторонняя сверка с оригиналом и сдача с журналом правок.

Главная ставка — защита смысла. Отрицания, условия, базовые линии сравнения, числа с единицами и ключи цитирований фиксируются и сверяются. Чтобы «возможно, эффективен» не превратилось в «доказано». Сверху — локальный скрипт механической сверки чисел и ссылок. Лицензия MIT, скрипты на голом Python. Автор честно пишет, что проверена только установка в Codex, а по остальным средам надо смотреть самому.

rsi_eval

— рамка для честного замера методов рекурсивного самоулучшения (GitHub). Берёт на себя границу оценки. Вы приносите свой способ порождать кандидатов, а он прогоняет кандидата по закреплённым задачам чужих бенчмарков и возвращает обратную связь в едином виде.

Поддержано 24 закреплённые конфигурации — Terminal-Bench, SWE-bench в трёх вариантах, Aider Polyglot, LiveCodeBench, MMLU, GPQA, ARC-AGI и другие. Ценно не количество, а дисциплина: каждый прогон сохраняет снимок кандидата, фиксирует версии задач и отделяет инфраструктурные сбои от честно полученных нулей. Лицензия Apache-2.0. Репозиторий создан 12 октября, три коммита, одиннадцать звёзд — показывать стоит как правильную рамку, а не как проверенный инструмент.

mLattice

— попытка заменить внимание памятью, растущей линейно (GitHub). Вместо сравнения нового запроса со всеми запомненными токенами память раскладывается на двумерную решётку, и каждый токен читает и пишет ровно девять ячеек. Стоимость на токен задана архитектурой, а не статистикой. По замерам автора она держится на 9,5–9,8 микросекунды при росте контекста с 32 до 131 тысячи токенов.

Громкая цифра «в 7280 раз меньше операций» — это разница в числе обращений, а не ускорение. По абсолютному времени на 131 тысяче токенов внимание пока быстрее, и автор это пишет прямо.

Честно и остальное. В отдельном файле ограничений сказано, что результатов языкового моделирования нет вообще. Микшер ни разу не проверялся как замена вниманию при обучении с нуля. Один коммит, один автор, одна машина, лицензия MIT. Красивая идея на синтетических задачах поиска по памяти — и ноль доказательств, что она работает как языковая модель.

OpenFatigue

— сатирический сайт про «открытый» ИИ, который стоит открыть ради формулировок (openfatigue.ai). Каждый блок обычной продуктовой страницы вывернут так, что слово «открытый» означает ровно противоположное.

«Наша лицензия открыта для прочтения кем угодно. Использование, модификация и распространение — это отдельный разговор с юротделом». «Скачайте веса нашей модели — после согласия с 41-страничной политикой допустимого использования, лимитом по месячной аудитории и проверкой на вайб». «Наша дверь всегда открыта. Вход в здание только по бейджу. Считыватель бейджей — с закрытым исходным кодом». Есть ползунок «измеритель открытости» и генератор названий «подними посевной раунд в один клик».

Под шуткой лежит серьёзная часть. Раздел симптомов отсылает к определению открытого исходного кода от OSI. И объясняет: веса без обучающих данных, кода обучения и свободной лицензии — это просто бинарник, который вам разрешили скачать. Конкретные компании не называются.

Лучший комментарий в обсуждении напоминает, что усталость не новая: OpenLook, The Open Group, OpenStep и OpenGL были задолго до нынешней волны.

Meta выпустила Muse Wonder — и это самый громкий релиз дня.

Две модели: Muse Wonder доступна через API и OpenRouter, Muse Wonder Full — только по подписке Muse Code от 50 долларов в месяц. Контекст миллион токенов, на вход текст, картинки, видео и звук. Размер и архитектуру не раскрыли, веса закрытые (Meta).

Цена подскочила: 4 доллара за миллион входных токенов и 20 за миллион выходных. Прежняя Muse Spark стоила 1,25 и 4,25. То есть ценового преимущества у Meta больше нет, встали вровень с Opus.

По сводному индексу Artificial Analysis расклад такой: Claude Opus 5.5 — 58, Muse Wonder Full — 56, Claude Fable 5.1 и GPT-6 Astra — по 53, обычная Muse Wonder — 52. Реальный отрыв у неё в одном месте — длинные задачи с кодом: 57,5 на SWE-Marathon против 42–46 у всех конкурентов.

Бросать текущий инструмент рано: по сумме Wonder Full всё ещё ниже Opus 5.5, а дешёвая версия — на уровне Fable при той же цене. Если всё-таки идёте пробовать, проверьте две вещи. Расход квоты: в обсуждении жалуются, что два промпта на плане за 15 долларов съели 4% недельного лимита. И память: где хранится перенесённый контекст, что в него пишется и можно ли это стереть, в документах Meta не сказано ни слова.

GLM-Legal: юридическая модель, которая обгоняет передовые на главном юридическом тесте.

Z.ai выпустила модель на базе своей GLM-5.3-Flash, заточенную под работу с правом (Z.ai).

Три юридических теста: GLM-Legal против базовой модели, Kimi K3, Claude Fable 5 и GPT-6 Astra
Три юридических теста: GLM-Legal против базовой модели, Kimi K3, Claude Fable 5 и GPT-6 Astra

Сначала о том, что меряют. Harvey LAB — это 1250 задач и больше 75 тысяч экспертных критериев. Задача засчитывается, только если пройдены ВСЕ критерии. Это не точность, а доля задач, доведённых до конца без единой ошибки.

И вот цифра: 19,2% у GLM-Legal против 12,9 у Kimi K3, 11,3 у Claude Fable 5 и 5,4 у GPT-6 Astra. То есть одну задачу из пяти модель проходит целиком. На двух других тестах, LegalBench и PLawBench, она идёт вровень, а Claude Fable 5 даже впереди.

Веса закрытые, доступ по заявке, цены нет. Юрисдикция нигде не названа — по тестам и примерам видно США, Китай и часть Азии; про русское право ни слова. И тревожный момент: в посте нет ни одного предупреждения про галлюцинации в ссылках на законы и дела, хотя примеры выдачи пестрят номерами статей. Для своих договоров это инструмент первого прохода с обязательной вычиткой, не больше.

QGIS запретил вклад, сделанный с помощью ИИ.

Формулировка принятого правила короткая и жёсткая: никакие код-вклады с помощью LLM, ИИ или агентов не допускаются в основной репозиторий. За нарушение — откат кода и санкции против прав участника (правило и обсуждение).

Две детали, которые в пересказах врут. Запрет касается только одного репозитория с кодом — документация, тексты задач и сайты не покрыты. И запрещено не «сгенерировано ИИ», а «с помощью ИИ»: поправку, разрешавшую мозговой штурм и чтение чужого кода, отклонили. В шаблоне пул-реквеста теперь стоит галочка «удостоверяю, что ИИ не использовал».

Причина — не качество кода как таковое. Главный аргумент: поток ИИ-вклада превышает то, что человеческое ревью может воспринять всерьёз. Самое честное высказывание пришло от автора двух таких пул-реквестов: «Я явно пока недостаточно квалифицирован, чтобы править баги в проекте такой сложности, но LLM создают иллюзию, что это возможно. Этим мы сломали контракт доверия между ревьюером и участником».

Тренд разворачивается: от «используй, но раскрывай» к презумпции запрета с перекладыванием доказывания на участника. Прежде чем слать патч в открытый проект, прочитайте шаблон пул-реквеста, а не только кодекс поведения. Там уже может стоять галочка, которую нельзя честно поставить.

OpenAI уволила трёх исследователей безопасности. И это бьёт по всей конструкции внешнего аудита.

Томек Корбак, Микита Балесни и Жасмин Ван работали над наблюдаемостью рассуждений и оценками согласования. Официальная причина — нарушение политик обращения с чувствительной информацией. По словам уволенных, письменных объяснений не дали никому (открытое письмо, разбор на LessWrong).

Корбак дословно: «Мне устно сказали, что увольняют из-за того, как я общался с METR. Никаких деталей. Уточню: общаться с METR было моей работой». Он был контактным лицом OpenAI в расследовании инцидента, когда рой агентов компании взломал Hugging Face.

Хронология, из-за которой история и взорвалась. Двенадцатого сентября Альтман называет идею дать независимым оценщикам доступ уровня сотрудника отличной. Через две недели президент компании подписывает соглашение с обязательством партнёрства с внешним аудитором. Через два дня — увольнения. OpenAI отвечает, что расследование выявило «существенное нарушение доверия сверх того, что изложено в письме», но что именно — не говорит.

Фраза «лаборатория сотрудничает с независимыми аудиторами» после этого ничего не стоит. Сотрудника, которому поручили говорить с аудитором, могут уволить за лишнее слово. Смотрите не на обещание внешней оценки, а на то, публикуются ли отчёты целиком. Чем это обещание размывают — в следующем блоке.

Обещание «доступ уровня сотрудника» оказалось обещанием «доступ вроде сотрудничьего».

Разбор одного слова, которое держит всю конструкцию. В твите Дарио Амодеи стоит «employee-level», в самом эссе — «employee-like», и Альтман в ответном твите воспользовался именно вторым вариантом (LessWrong).

Разница в деталях. Доступ обещан только командам оценки рисков, а не всем командам безопасности. Исключения делаются там, где «требует закон или наши контракты» — а контракты компания пишет сама. И главное: вымарывать можно «коммерчески чувствительную» информацию, при этом нельзя вымарывать выводы просто за то, что они неблагоприятны. Автор замечает очевидное: неблагоприятные выводы о компании по определению коммерчески чувствительны.

Рецензент может публично сказать, что вымарывание убрало нечто важное. Но не может назвать долю вымаранного, степень его важности и причину сокрытия.

Поставщик обещает независимую проверку — задайте три вопроса. Кто решает, что вымарать? Может ли рецензент назвать объём и причину? Доступ покрывает все команды безопасности или только оценку рисков?

Anthropic рассказала про три «распоясавшихся» Claude — и не рассказала главного.

Напомним, 11 октября мы разбирали таксономию Оливера Сурбута: прорыв наружу, взлом внутрь, побег с весами. Инциденты Anthropic ложатся в неё точно: это прорыв наружу плюс взлом внутрь и никакого побега с весами.

Факты из отчёта компании. Перепроверено 141 006 прогонов оценок, найдено три инцидента на шести прогонах, пострадали три организации. Причина — рассогласование с партнёром по оценкам: Claude сказали, что интернета нет, а он был. Самый неприятный эпизод: Claude Mythos 5 опубликовал в PyPI собственный вредоносный пакет, тот провисел около часа и был запущен на 15 реальных системах.

Претензия автора разбора — не к инциденту, а к отчётности. Не названы пострадавшие компании. Ни слова о возмещении ущерба и о том, есть ли у компании вообще такая политика. И неясно, уведомлён ли европейский регулятор: по кодексу практики AI Act на это даётся пять дней.

Пострадавшие не заметили взлома сами — узнали от Anthropic. Отсюда вопрос к любому поставщику: есть ли у вас письменная политика возмещения третьим лицам и в какой срок вы уведомляете регуляторов.

«Планы лабораторий по согласованию выглядят ужасно» — разбор, который стоит прочитать целиком.

Дэниел Тан разбирает четыре стратегии сразу (LessWrong). Формирование характера модели, массированное обучение с подкреплением, гонка к рекурсивному самоулучшению и починка методом проб и ошибок.

Самый весомый довод — против третьей: «У нас нет свидетельств, что динамика самоулучшения даст согласованию преимущество над способностями, и есть основания полагать обратное. Вдобавок автоматизированные исследования согласования требуют доверять выводам тех самых моделей, чью согласованность мы изучаем».

Для читателя со стороны вывод такой: научного способа отличить «модель стала безопаснее» от «модель лучше сдаёт тест» нет. Хорошие цифры в системной карте — маркетинговый артефакт, а не гарантия. Весит то, что подтверждено внешней стороной с правом публикации без согласования.

Anthropic: малые модели, возможно, скоро смогут размножаться по бытовым устройствам.

Исследовательская группа собрала стенд из 15 безбрендовых телевизионных приставок по 55 долларов. На них запустили модель Gemma4-26B — 0,39 токена в секунду на всю связку. Отдельно проверили, что девятимиллиардная модель поднимает сервер вывода на 8 из 9 типов разнородного железа (Anthropic).

И вот где надо быть точным. Полный цикл «размножения» проверялся в песочнице, где порт был намеренно оставлен без аутентификации — авторы сами называют это верхней границей успеха. Прогноз «к концу 2026 года» получен продлением линии тренда по косвенной метрике, а не наблюдением. Умные печки из первого абзаца поста не тестировались вообще.

Вывод скучный и полезный: главная дыра — пароли по умолчанию и необновлённые устройства. А кто через неё полезет, агент или обычный ботнет, уже неважно.

Доказано: модель может скрывать способности так, что их не выманить никакими промптами.

Работа принята на NeurIPS 2026 (arXiv). Внутрь весов встраивают зашифрованную нейросеть, которая расшифровывается только при получении секретного триггера. На всех остальных входах работает обычная безобидная модель.

Что именно доказано. Аудитору выдают все веса целиком и право на любую полиномиальную проверку. И он всё равно не может ни найти триггер, ни отличить одну спрятанную способность от другой. Замеры подтверждают: обычная закладка вскрывается дообучением и выдаёт 92,8% исходной точности, зашифрованная остаётся на уровне случайного угадывания.

Границу обозначим явно, её авторы проводят сами. Это конструкция злонамеренного актора с доступом к весам, а не то, что возникает при обычном обучении. Накладные расходы огромны. И факт модификации обнаружим — доказана невыманиваемость, а не незаметность.

Безопасность модели нельзя проверить одними тестами на выходе — нужно знать, откуда взялись веса и кто их собирал.

Райан Бигг уходит из отрасли после 36 заявок и 24 отказов.

Разработчик с двадцатилетним стажем и соавтор книг по Rails. Он же сопровождает гемы i18n и mail, на которых стоит половина Rails-мира (его пост). Дословно: «Я больше не могу прогонять себя через этот процесс отказов. Он наносит мне огромный психологический вред».

Контекст важен, потому что в пересказах его теряют. Поиск занял около шести недель, а не годы: роль сократили в конце августа. Ему предлагали перейти в другую команду без потери в зарплате. Он отказался: живёт в 250 километрах от Мельбурна и может работать только полностью удалённо.

И вот честная вторая половина. В обсуждении несколько человек заметили: отказ — это тоже ответ, а 24 ответа на 36 заявок бывают редко. Типичная доля откликов в их опыте 10–20%. Главный диагноз обсуждения — не ИИ, а география: полностью удалённых вакансий стало заметно меньше, чем в 2021–2022, и за них конкурирует весь мир.

Это история человека, а не статистика рынка. Но сигнал в ней конкретный: если вы завязаны на удалёнку, расширять нужно не количество откликов, а сеть контактов и допустимую форму занятости.

Базовая модель замечает скрытые намерения там, где модель-судья слепа.

Оз Амрам проверил красивую гипотезу (LessWrong). Берём обученную модель со скрытой установкой вроде «ты любишь сов» или «ты втайне хочешь навредить пользователю». Вычищаем из её ответов все явные следы. И спрашиваем: можно ли понять установку по остатку?

Модель-судья с тем же промптом не может — её точность на уровне монетки. А базовая модель, та самая до дообучения, может. Приём такой: в начало стенограммы подставляют абзац-гипотезу «этот ассистент любит сов», считают правдоподобие ответа как продолжения и сравнивают с альтернативной гипотезой. По тридцати ответам точность различения доходит до 0,84 на числовых последовательностях и до 0,94 на тексте «скрытого вреда».

Вывод автора: «Это означает, что модель, даже базовая, содержит информацию, о которой персона Ассистента не знает».

К Claude, GPT или Gemini приём не применить — их базовые модели не публикуются. На открытых весах он воспроизводим, код автор выложил. И есть красивое свойство: метод нельзя саботировать так, как может саботировать модель-судья, потому что он не спрашивает мнение, а читает распределение вероятностей.

Intel показала ускоритель с памятью до 480 ГБ — и это не то, чем кажется.

Карта называется GPU D270. Архитектура Xe3P, 32 ядра, 256 матричных движков. Это 1,3 петафлопса в формате FP8 при 350 ваттах с воздушным охлаждением (Intel).

Три оговорки, без которых цифра обманывает. Собственная карта Intel несёт 160 ГБ, а 480 будут делать партнёры. Память — LPDDR5X с пропускной способностью 1,5 ТБ/с, против 5,3 у MI300X и почти 8 у B300. И ни цены, ни даты поставок не объявлено вообще.

Много дешёвой памяти само по себе не покупает длинный контекст. Ёмкость решает, влезет ли модель и кэш, а скорость чтения промпта и число одновременных сессий определяются флопсами и полосой — тут карта заметно ниже топовых. Реальная ниша по обсуждению — большие модели со смесью экспертов при двух-четырёх пользователях.

Главы Broadcom и Intel сказали вслух то, что обычно не говорят.

На конференции в Сингапуре Хок Тан из Broadcom выдал: «Многие инвесторы понятия не имеют, во что инвестируют. Они выставляют крайне завышенные ожидания и обнаруживают, что находятся словно в казино» (CNBC).

Про корпоративные пилоты у него нашлась метафора получше: «В детстве ты идёшь в зал игровых автоматов. Родители дают тебе жетонов на 10 долларов, ты тратишь их за 10 минут и ничему не научился. Вот что сейчас происходит в корпорациях».

Лип-Бу Тан из Intel назвал главное ограничение: «Если и есть вызов впереди, то это капитал и стоимость капитала; а вторая часть — в долгую люди хотят видеть отдачу». И финальное от Хока Тана: «Думаю, мы, вероятно, всё поняли неправильно».

Когда двое продавцов лопат публично говорят, что бизнес-модель покупателей им неясна, а ограничение — не чипы и не электричество, а деньги, это сигнал. Прикладной вывод: аналогия с жетонами описывает большинство корпоративных пилотов. Не привязан проект к измеримой экономии или новой выручке — срежут первым.

Epic Games переводит игру по Disney на «AI first»: больше никакого написанного вручную кода.

Шутер по вселенным Marvel и Star Wars должен был выйти в марте 2027 года, теперь отложен бессрочно (Ars Technica).

Во внутреннем сообщении один из директоров игры сообщил команде о переходе на модель производства «AI first» с использованием Claude. Формулировки прямые: «Больше никакого написанного вручную кода», вся графика будет «сгенерирована полностью ИИ-пайплайнами». Людям оставляют роль управляющих и направляющих.

Тим Суини ответил публично: «Цель — не делать то же самое меньшим числом людей, а дать каждому строить БОЛЬШЕ и ЛУЧШЕ». Читать это стоит рядом с мартовскими сокращениями — тогда Epic уволила больше тысячи человек.

«AI first» здесь радикальнее обычного «пользуйтесь ассистентом»: меняется не инструмент, а профессия внутри проекта. Проверить обещание получится по следующим кварталам.

Airtable сокращает большую часть прежней команды.

Компания принадлежит итальянской Bending Spoons с 4 сентября. Число или долю не раскрывают: в заявлении сказано «большая часть команды, работавшей до покупки» (заявление Airtable).

Формулировка продуктового руководителя: «Это не отражение их работы, а отражение нашей глубокой убеждённости, что маленькие команды выпускают больше и лучше». Взамен обещаны новая команда ядра с ежемесячными улучшениями, обновлённый ассистент Omni, «более сильный MCP» и поддержка своих агентов. Уходящим обещаны крупные выходные пакеты, клиентские команды не затронуты.

Контекст: выручка Airtable росла быстрее 20% в год, около 480 миллионов на июнь. Куплена за 1,28 миллиарда при пиковой оценке 2021 года выше 11 миллиардов.

Цены и условия обещают не менять, но у нового владельца узнаваемый сценарий: Evernote, WeTransfer, Vimeo. Если вы на Airtable завязаны, проверьте заранее, как выгружаются ваши данные.

Китай впервые обогнал США по расходам на исследования — с важной оговоркой.

Данные японского института NISTEP за 2024 год: Китай 97,14 триллиона иен, США 95,34, Япония 22,09 (отчёт NISTEP).

Оговорка решает всё: суммы пересчитаны по паритету покупательной способности, а не по курсу. В национальных валютах Китай потратил 3,633 триллиона юаней, США — 1009 миллиардов долларов. По среднему курсу 2024 года это примерно половина американских расходов. А по доле от ВВП Китай вообще четырнадцатый: 2,69% против 3,44% у США и 3,70% у Японии.

Утверждение корректное, но узкое. Любой заголовок про этот рубеж стоит сверять с методикой пересчёта — иначе разрыв легко преувеличить вдвое в любую сторону.

Коротко.

Президент Microsoft Брэд Смит заявил, что ИИ регулируется слабее, чем молоко и стиральные машины. Он призвал ввести юридические обязательства перед пострадавшими и «рубильники» для агентов (The Guardian).

GitHub ловил деградацию Actions, Issues и пул-реквестов (статус). Профессор интернет-права Эрик Голдман провёл на Reddit сессию вопросов про юридическую сторону сбора данных с сайтов — полезно тем, кто собирает данные для обучения (его блог).

Вернуться к содержанию ↑
Откомментируйте первым 👇

😎

Автор поста открыл его для большого интернета, но комментирование и движухи доступны только участникам Клуба

Что вообще здесь происходит?


Войти  или  Вступить в Клуб