software development consulting https://xitter.cf/t.co/ay1S1tVaWA, ex-CTO for @meduzaproject, ex-fellow at @article19org, https://xitter.cf/t.co/PoAuvzaSd6
Riga, Latvia
Joined May 2007
- Tweets3.8K
- Following539
- Followers3.6K
- Likes14.8K
Очень красивая статья про то, куда движется программирование в целом! (и как следствие, предсказание, получится ли достичь рекурсивного саморазвития и сверхинтеллекта)
maevyn.codes/decoherence
Одним абзацем для опытных техдиров: разработка больших систем — это моделирование реальности, важна когерентность моделей между собой, наша главная задача — управление сложностью. Нейросети хорошо оптимизируют замкнутые задачи с быстрыми петлями обратной связи и бессмысленны, когда нужно дожидаться ответа из реального мира, а большинство настоящего софта — второго типа. Примененяя модели для изменения больших систем, мы прямо сейчас идем в ловушку, из которой потом будем мучительно выбираться.
❧
Автор умудрился объяснить суть разработки больших систем на пальцах, так что перескажу некоторые тезисы. Рекомендую почитать первоисточник.
❧
IT-системы моделируют реальный мир. В хороших программах, разные модели говорят на одном языке, автор называет это когерентностью системы. В плохих — каждая отдельная модель корректна, но они несовместимы между собой и из-за этого для каждого изменения приходится кучу всего переделывать.
Вообще, софт постоянно нужно менять из-за меняющихся требований. Поэтому, скорость и стоимость внесения изменений — это один ключевых параметров качества софта.
Обычно, с добавлением фичей, с ростом системы, её качество падает. Чем ниже когерентность — тем больше сил нужно тратить на поддержание работоспособности и тем ниже скорость доставки новых бизнес-фич. Автор предполагает, что есть переломная точка, после которой скорость доставки фичей уходит в ноль.
Все, кто работал с легаси большими системами, знают эту ловушку.
В статье очень красивая иллюстрация кода как графа и гениальная анимация того, как если с каждой фичей уделять достаточно сил на улучшение системы, то со временем она становится всё более стройной, а если чуть-чуть оставлять мусора — как уже через 100 коммитов всё превращается в клубок спагетти.
Нейросети хорошо оптимизируют модели изолированных, замкнутых задач, типа шахмат или го, где небольшой набор правил описывает всю вселенную и можно запустить «быструю петлю обратной связи» и плохи в оптимизации моделей, которые для проверки требуют обращения в реальный мир с его задержками.
Большинство задач, для которых мы пишем софт — второго типа.
Автор делает вывод, что нейросети плохо поддерживают и тем более наводят порядок в больших системах. И как следствие — вряд ли смогут поддерживать своё собственное развитие, тот самый рекурсивный сверхинтеллект, взрывным ростом которого нас пугают.
Заканчивается статья тем, что весь современный важный опенсорс — это во многом пример того, как люди десятилетиями поддерживали внутреннюю гармонию (когерентность) крупных систем. И что хорошо бы не разломать всё это за пару месяцев с помощью ИИ.
Даже если не согласен с выводами автора, можно поучиться качеству концептуализации мира. Красиво!
maevyn.codes/decoherence
Есть две основных гипотезы, как нейросети сжимают и хранят информацию:
1. Каждый нейрон отвечает за какой-то концепт: например, отдельный нейрон для кошек, отдельный для собак.
2. Нейроны отвечают за несвязанные концепты: например, один нейрон для кошек и цифр и другой нейрон для собак и цветов. Это гипотеза полисемантичности, и она сейчас основная. Отчасти поэтому эксперты боятся, что нейросети слетят с катушек и устроят скайнет, а мы и не заметим, пока не станет слишком поздно.
Вчера один из главных исследователей в этой области написал, что ему кажется, что мы ошибались и верна первая гипотеза и реально «понять» нейросеть и надежно управлять ее поведением. Условно, выключить нейрон, который отвечает за «вранье в собственных интересах».
Такие вот хорошие новости.
Первоисточник — статья в 20 тысяч слов и ей отчаянно не хватает редактуры. Зато внутри много интерактивных иллюстраций!
interpretability might be the most important scientific problem in the world right now, as I don't think we can solve alignment if we don't know what we're building. I think I have good news about it. I co-authored early work in mechanistic interpretability at OpenAI and came away pessimistic, because neural networks appeared to fold into arbitrary tangled knots. years later, I started openai's first large-scale automated interpretability project, finding about 2% of neurons legible with the primitive tools we had
with modern agentic tools and a much closer look, the picture looks totally different. the vast majority in models up to trillions of parameters are legible, and their circuits beautiful. many famous examples of tangled neurons turned out to be misunderstood. The roadblocks I expected mostly aren't there. I now think ambitious interpretability will be solved by the time we need it most, and possibly quite soon, as automated scientists keep improving. it may be a bitter lesson for interpretability: the simple thing, at absurd scale, works
already-clean.goodfire.com/
OpenAI опубликовали решения 372 открытых математических задач, которые десятки лет не могли решить ученые-математики.
1. Очень прикольная теория заговора, что там подозрительно мало задачек по криптографии. (Если мы посмотрим научные журналы начала прошлого века, то обнаружим, что в 1940 все публикации на тему ядерного распада прекратились. Но не потому, что исследований не было, совсем даже наоборот) Всё современное шифрование, включая криптовалюты, держится на нескольких десятках математических предположений. Причем часто мы не то, что доказали, что их нельзя взломать, просто самые умные люди в этой области попытались придумать, как их взломать и не нашли.
2. А свежие публикации OpenAI показывают, что машина порой использует «инопланетные приемы» (как знаменитый 37-й ход AlphaGo). То есть движется к решению не тем путем, каким обычно идут люди.
3. При этом, множество решений и доказательств «уродливые», не элегантные, людям потребуется много времени и усилий, чтобы проверить и понять построения машин. Если бы статьи такого качества прислал человек — их бы почти наверняка не стали бы публиковать. И вообще, открытые задачи в математике — это что-то вроде маяков на берегу, к которым ты идешь по прекрасным холмам, изучая окрестности. Большой ли смысл прилететь туда на вертолете?
archive.is/kxYVF
4. Реакции математиков на анонс очень разные — от энтузиазма (там могут быть столько новых идей!) до депрессии (они за день уничтожили мою область исследований). Вот довольно занимательный сборник 100+ реакциий.
proofsandprompts.com/2026/10…
❧
Вообще, почти у всех не-математиков очень извращенное понимание, что такое математика. Такое ощущение, что школа и универ всеми силами пытаются привить ненависть к этому искусству, и для этого скрывают его суть.
Статья Пола Локхарда «Плач математика», ясно показывает (и даже дает почувствовать), что в школьной «математике» нет ни капли настоящей математики и какая она на самом деле красивая, простая и увлекательная.
Особенно рекомендую её тем, кто считает, что он «гуманитарий», и кто ненавидит математику ещё со школы. По математическому обряду, она везде в PDF, который невозможно нормально читать с телефона, так что собрал страничку для удобного чтения: английский оригинал и хороший перевод. Рекомендую!
samat.me/lament/ru/
—
Лучшая сатира на этот счет, где вместо математических доказательств, OpenAI публикует 500 лучших концовок фильмов: «теперь не нужно сидеть по 2 часа в кинотеатре».
xitter.cf/Endings500/status/2107…
FOR IMMEDIATE RELEASE:
October 6th, 2026
OpenAI Releases the Final Ten Minutes of 500 Previously Unreleased Films, Ushering in a New Era of Movie Watching
ALT OpenAI Releases the Final Ten Minutes of 500 Previously Unreleased Films, Ushering in a New Era of Movie Watching FOR IMMEDIATE RELEASE SAN FRANCISCO — OpenAI today announced Endings-500, a public GitHub repository containing the final ten minutes of 500 feature films that have never been released, screened, or watched by any human being. Each ending has been formally verified in LeanBack, OpenAI's automated ending-verification system, which confirms that every film does, in fact, end. For decades, these 500 films have stood among the most stubborn open problems in cinema. Studios, critics, and audiences have long wondered how they turn out. As of today, that question has been definitively answered 500 times, by a system that has also definitively not explained any of the answers.
ALT What "verified" means Every ending in the repository passes LeanBack's rigorous checks. The verifier confirms that the final frame is followed by credits, that the frame rate remains consistent throughout, and that no scene contradicts any other scene contained within the same ten minutes. Scenes outside those ten minutes were not provided to the verifier and are therefore assumed to be fine.
ALT Highlights from the release Ending #217 closes with a woman whispering "And that's why we can never go back to the lighthouse." No lighthouse appears in the final ten minutes. The ending is verified. Ending #88 contains a major twist. We are confident it is a twist because the music changes and three characters gasp. What it twists remains an exciting direction for future work. Ending #341 consists of nine minutes and forty seconds of a man walking slowly toward the camera, followed by twenty seconds of him saying "So." LeanBack rated it among the most elegant endings in the set. Ending #403 initially ran nine minutes and fifty-eight seconds and was flagged by the verifier. The issue was resolved by appending two seconds of black screen
ALT Known limitations Three endings were found to contain an unresolved sorry. In each case, a character says "sorry" and the credits roll. We consider these endings complete, pending review. Twelve endings rely on an unstated axiom that it was all a dream. Four rely on the axiom that it was not a dream, which is in tension with the twelve. We are treating these as separate theories. Several endings appear to resolve storylines from films other than the ones they belong to. This may indicate a surprising and deep connection across cinema, or a file-naming issue.
Встречайте виндоус-версию нашей программы для автоматической записи и расшифровки звонков!
amanu.me/ru/
Работает с любыми звонками: zoom, google meet, телеграм, вацап...
Запускает и останавливает запись автоматически.
Расшифровывает встречи, определяет говорящих, так что реплики разложены по людям, а не слиты в один поток.
Пишет качественные выжимки встреч. Многие программы экономят на токенах, а эта использует самую мощную модель, чтобы ничего не потерять.
Умеет делать всё это локально, без доступа к интернету.
Можно подключить мощные платные модели, умеет использовать подписки (!) и API ключи.
Все данные хранятся локально на компьютере. Одна встреча — одна папка, внутри аудиофайл, расшифровка, выжимка. Очень удобно натравить нейросети.
Программа полностью бесплатная, с открытым исходным кодом. Легкая установка, файл сертифицирован Microsoft. Ура!
❧
Claude оказалась довольно бесполезна для разработки и тестирования виндоус-софта из-за супер ограниченной песочницы.
Codex с computer use работает идеально. Весь процесс миграции занял неделю. Из них 3 дня я доказывал Microsoft, что достоин их сертификата разработчика и без computer use я бы точно сдался; потом потратил примерно 70% недельных лимитов 100 долларовой подписки на миграцию, тестирование и доводку напильником.
На фото — ноутбук под Windows, на котором я тестировал эту программу :)
Скачивайте тут!
amanu.me/ru/
Opus 5.5 is beast in one shot coding tasks (large refactors, audits, etc without human input) but it’s the same insufferable claudish slop every time it needs any human input
I am sticking to 6.1 Sol on high / medium, opus 5.5 might do an audit after everything is done
Друзья, по нейросетям положняк такой:
- самая мощная модель для кода — opus 5.5 от Anthropic, она читает-пишет код сильно быстрее и качественнее чем OpenAI, а еще подписки хватает на больше
- при этом, computer use в Codex все еще на голову лучше чем в Claude, оно справляется в интернете почти со всем — регистрации, настройки админок, заказы; я перестал страдать про плохие интерфейсы в вебе — я их больше не вижу! и общается она приятнее
Несколько недель назад казалось, что у Anthropic серьезные проблемы с серверными мощностями, а у OpenAI компьют практически неограниченный, но вот сегодня с opus 5.5 уже Claude всем хватает, а OpenAI не дает купить тарифный план за 200 долларов (20х объема от базового тарифа) новым пользователям.
Главная интрига: представит ли OpenAI завтра, на своей ежегодной конференции Devdays, новую модель для программирования, сильнее opus 5.5 или нет.
На рынке ИИ-ассистентов уже больше сотни игроков, многие мои знакомые в США пользуются Instinct (все общение через iMessage и смс), а рекламой Muse от Меты (Фейсбука) увешано все нью-йоркское метро.
Ещё вся тусовка обсуждает, что движение за ограничение ИИ по составу участников совпадет с друзьями проститутки-и-дата-сайнтистки Aella, но я тут недавно узнал, что канал читает моя старшая дочка и ее друзья, так что не буду пересказывать.
DHH, создатель Ruby on Rails, открыл конференцию Rails World 2026 часовым выступлением про прекрасное будущее с ИИ.
Некоторые мои знакомые расстроились из-за этого выступления. Видно людей, которые не следят за DHH в твиттере — он последний год делает себе классный десктоп-линукс с помощью агентов и полностью захвачен идеей программирования с помощью нейросетей.
Со сцены DHH озвучил довольно очевидные аналогии про картины маслом и фотографии, сказал, что код нужно писать не руками, а через нейросети (English > Ruby), но в этом его сильная сторона — он ухватывает подобные тренды (вспомните, как он носился с веб-разработкой и SaaS в годы, когда программы продавались на дисках) и не только проговаривает их прямо, но и показывает своим примером, какое будущее нас ждет.
Ещё из технического: предсказывает нативные приложения и быстрый бэкенд на Rust. Его бы устами!
А ещё Дэвид не стыдится быть оптимистом. Я немного устал от p(doom) — ожидания скорого апокалипсиса, которое захватило многих технарей. DHH считает, что p(bloom)>p(doom), что нас ждет рассвет и новая реформация, что Агент Лютер уберет необходимость в касте программистов для общения с компьютером, как Мартин Лютер (и печатный пресс) убрал необходимость в священниках для чтения Библии. Аминь!
О, новые типы моделей, наконец-то!
Один из ранних разработчиков ChatGPT представил модель нового класса, которая на вопрос с заданными вариантами ответов, возвращает набор вероятностей.
Если обычные языковые модели пишут текст в ответ на открытые вопросы, то эта супер быстро и качественно выбирает правильные ответы из multiple choice (выбери один правильный).
Обычные большие языковые модели (LLM) предсказывают токены (слова) последовательно, а тут ты получаешь все распределение сразу.
И работает она супер быстро, за сотни миллисекунд. В демо, модель играет в Doom, отвечая на вопрос «какую из клавиш на клавиатуре нажать?» 10 раз в секунду.
Стоит она при этом как копье, в примере с Doom — 7$ в час (при 10 запросах в секунду)! Пока только API доступ, по инвайтам, заявки оставлять по ссылке.
Очень хорошее описание с интерактивными примерами и видео, образцовый технический анонс, короткий и емкий, рекомендую прочитать первоисточник.
typesafe.ai/blog/introducing…
—
Вот ещё прикольное сравнение, где модели, переходя по ссылкам в статьях, должны найти путь от одной страницы в википедии до другой (от бейсбола до солнца, например)
Конкурсы могут показаться смешными, но вообще выбрать один из нескольких вариантов — это то, на чём строится практически всё программирование. И до сих пор у нас был выбор либо жёсткие алгоритмы, либо тормозные, дорогие и галлюцинирующие LLM, которые для такого вида задач предрасположены очень плохо.
Очень круто, что есть люди, которые придумывают новые подходы, а не только масштабируют инвестиции и дата-центры. Вот он, настоящий фронтир!
After co-inventing ChatGPT, I kept asking myself: why have superhuman chat models not led to AGI?
I’ve spent the last 2 years in stealth building a new way to train models (RLCD), and a new type of frontier AI model that we are releasing today: Jev
• 20-200x faster
• 40-400x cheaper (w/ output tokens free)
• Frontier composable intelligence optimized for decisions
AFAICT the shortest path to AI-based economic revolution
Сделал бесплатную программку для автоматической записи и расшифровки онлайн-встреч.
Работает с любыми звонками: zoom, google meet, телеграм, вацап...
Запускает и останавливает запись автоматически.
Расшифровывает встречи, определяет говорящих, так что реплики разложены по людям, а не слиты в один поток.
Пишет качественные выжимки встреч. Многие программы экономят на токенах, а эта использует самую мощную модель, чтобы ничего не потерять.
Умеет делать всё это локально, без доступа к интернету.
Можно подключить мощные платные модели, умеет использовать подписки (!) и API ключи.
Все данные хранятся локально на компьютере. Одна встреча — одна папка, внутри аудиофайл, расшифровка, выжимка. Очень удобно натравить нейросети.
Программа полностью бесплатная, с открытым исходным кодом. Легкая установка, нотаризованный Apple бинарник.
Работает на macOS; если вы заинтересованы в Windows-версии — чирканите мне письмо на [email protected].
❧
Даже со всеми нейросетями, разработка заняла почти месяц (неделя активной работы, дальше по мелочи) — вы не представляете, сколько краевых случаев вылезло, пока я тестировал приложение на себе.
В истории про «замедление развития ИИ ради безопасности всего человечества» (две ведущие лаборатории просят национализировать себя и принять законы, контролирующие все разработки в этой сфере) есть важный контекст, который упускают массовые медиа, когда перепечатывают пресс-релизы.
Следующий логичный шаг для OpenAI и Anthropic, в логике успешного бизнеса и капитализма — первичное размещение акций на бирже, но для этого им придется раскрыть свою финансовую отчетность и показатели доходности, которой нет. Обе компании обещают трансформацию экономики и триллионы прибыли, но какая нафиг прибыль, если китайские open source модели: а) можно скачать бесплатно б) работают на гораздо более слабом железе в) практически не отличаются по качеству?
И время поджимает, потому что непонятно, как долго американские компании смогут сохранять лидерство в сравнении с китайцами, да и инвестиции в железо совершенно безумные, на сколько им ещё хватит денег инвесторов?
И вот теперь «это слишком опасная технология, которую нужно а) ограничить, чтобы не выросли новые конкуренты и б) оплачивать из бюджета, как Манхэттенский проект».
Вообще, последние публичные взломы систем моделями — это уголовные преступления, за которые должны отвечать их создатели , и что-то вроде section 230, который в свое время защитил интернет-компании от исков по контенту, размещенного на платформах, был бы очень кстати.
А ещё можно выступить бессребрениками, которые пекутся о человечестве!
Одни профиты, а риски в случае провала серьезные. Неудивительно, что PR-компания такая мощная.
Как проверка: ни прибыльная Microsoft, ни Google и Meta, которые зарабатывают на рекламе, в этой PR-компании не участвуют.
P. S. Дарио Амадеи — мальчик из басни, который кричал: «Волки!». Первую свою публичную статью «это слишком мощная технология…» он приурочил к выходу GPT-2, так что тут интереснее реакция Альтмана, который уж точно в заботе о человечестве не замечен.
википедия о section 230
en.wikipedia.org/wiki/Sectio…
анонс GPT-2
openai.com/index/better-lang…
