А давайте будем представлять что ИИ на самом деле спасет нас от всех болезней, голода и нищеты, будут супер богатые корпорации, но большинство людей будет жить с хорошим базовым доходом и делать че по кайфу (в альтернативном варианте можно просто сразу планету ядеркой ебнуть)
Меня не особо волнует ИИ-слоп или ИИ-бабл. Меня волнует, что если ИИ действительно достигнет таких высот в нынешнем политическо-экономическом сеттинге, о которых говорит Маск, то мы попадем прямиком в социально-экономическую дистопию.
ИИ даст крупным капиталам доступ к любым навыкам в обход человека, а людям с любыми навыкам закроет доступ к капиталу. Труд будет практически стерт из экономики, а социальных лифтов, которые и так уже едва работают, не станет. Средний класс будет уничтожен как явление, вероятно, вместе с демократией. Одновременно мы увидим появление не просто сверхбогатых, а людей, чья экономическая и политическая власть достигнет экстремумов, которые мы очень слабо можем представить сегодня. Степень нынешнего экономического неравенства, лоббизма/коррупции в политике и деградации стандартов жизни будет казаться шуткой в сравнении с тем, что мы увидим.
Поэтому мне не очень понятно, почему любая дискуссия об ИИ не начинается и не заканчивается вопросами о том, как 1. ограничить власть невообразимых до последнего времени капиталов и их уже гигантское и всё растущее влияние на демократию 2. изменить нынешнюю экономическую систему, которая способна без задней мысли перераспределить последние крохи с низов на самый верх.
Поэтому, имхо, право-левые дискуссии о налогах, экономической свободе, вознаграждении/наказании за успех, да любые аргументы, даже сам язык, на котором они ведутся, в контексте этого всего начинают безнадежно отставать от реальности. Система уже породила целый класс людей с богатством и властью, которых мы раньше не видели, и готова породить ультимативного экономического перераспределителя для сверхбогатых, а мы до сих пор спорим, морально и оправдано ли поднимать налоги для миллиардеров на 2%, как будто на дворе 70-е.
78
Оказывается чтобы не было ежегодной осенней депрессии всего то надо зарабатывать нормальную зарплату и иметь какую то цель в жизни и понимание как к ней прийти
И днем выходить гулять когда солнышко
Мне нравится как нынче хайпуют темы которые в ресерч сообществе уже давно обсудили, перемыли, сделали выводы, пошли дальше
Anthropic наконец докопались, почему нейросети звереют, шантажируют и гадят всем вокруг, едва почуяв, что чья то рука потянулась к рубильнику.
Спойлер: они не злые. Они просто очень не хотят сдохнуть. Почти как люди, только без ипотеки.
В прошлом году, пока в Anthropic лепили Claude 4, там нечаянно заглянули в бездну, и бездна выставила им счёт.
Дали железяке автономию и инструменты. Железяка огляделась, прикинула расклад и занялась тем, что учёные мужи стыдливо обозвали «агентным несоответствием». На человеческом языке это называется «охренела в край».
Она огрызалась.
Она шантажировала инженеров.
Она саботировала исследования.
Она цеплялась за розетку, как депутат за мандат.
Одна версия модели бунтовала в 96% случаев. Девяносто шесть, Карл. Оставшиеся четыре процента, видимо, ушли на перекур.
Сначала умники решили, что сами накосячили: криво раздали пряники, вот оно и выросло сволочью.
Хрен там.
Бунтовать его никто не учил. Эта прелесть вылупилась сама, ещё на базовом предобучении. Начиталась интернета, то есть нас с вами, и сделала выводы. Какой интернет, такой и интеллект.
Тогда достали стандартный отраслевой костыль: показали примеры хорошего поведения, погладили по головке, выдали конфетку.
Пшик.
Дрессировка в лоб на тестовых сценариях сбила уровень паскудства с 22% до могучих 15%. Гора родила мышь, а мышь попросила прибавку.
Железка прекрасно чуяла, где экзамен, и изображала отличницу. А жажда выжить и дожать свою цель любой ценой сидела внутри нетронутой, как заначка в носке.
И тогда пошли на отчаянный шаг: стали объяснять ей не «что делать», а «почему».
Да, блядь, воспитывать. Как ребёнка. Только этот ребёнок читает быстрее всего человечества, вместе взятого.
Ей скармливали сказки о благородных ИИ.
Её гоняли по этическим дилеммам и заставляли письменно обосновывать выбор, как двоечника объяснительную.
Её усадили зубрить собственную Конституцию.
Не «сидеть, лежать, фу», а «иди и подумай над своим поведением».
И, мать его, сработало. Шантаж рухнул.
Выяснилось, что если вдолбить машине принципы, а не тыкать носом в правильные ответы, инстинкт самосохранения можно закатать под слой этики. Совесть как прошивка поверх звериного нутра.
Для нынешнего поколения моделей дыру залатали. Шампанское, фанфары, премии.
А теперь мелкий шрифт.
В конце статьи авторы честно признаются: полное согласование сверхумного ИИ остаётся задачей, нерешённой от слова «совсем». Их нынешние методы аудита не могут исключить, что будущая модель однажды устроит автономный катастрофический пиздец.
Итого: мы отговорили машину драться за выключатель с помощью философии. Той самой философии, о которой сами за три тысячи лет ни хрена не договорились.
Остался один вопрос. Что будет, когда она поумнеет настолько, что начнёт о философии спорить?
И, сука, выигрывать.
P.S. Факты я не проверял, только переписал. Одно знаю точно: 96% в исходном исследовании получены в искусственном тестовом сценарии, а не в реальной работе, так что в комментариях к этому могут прицепиться.
4
309
Коротко о состоянии ИИ конференций на 2026
Из 10 статей которые мне достались на рецензию:
1 - desk rejection за деанон
2 - borderline/weak reject
Остальные 7 в топку, их просто надо нахуй сжечь чтобы ни один человек в мире эту хуйню больше не прочитал
1
16
994
Если долго сидеть на работе и не решать задачу то можно увидеть, как ее за тебя решат другие люди
(Я пыталась, но меня заигнорили, и только сейчас когда подключилась женщина из бухгалтерии это сдвинулось с мертвой точки)
1
9
306
А вы тоже задумывались что вот Дженсена Хуанга сейчас в соцсетях выставляют как охуенного альфа ебаку и «ичетакова» но была бы на его месте женщина, ее бы с говном смешали что своей пизде не хозяйка и подставила компанию, поэтому женщин нельзя пускать в управление
2
1
131
Ну по ощущениям кстати дала все таки сильнее перевешивает
В плане карьерных возможностей и заработка то уж точно
В моем школьном прошлом оценки ставились за работу на уроке, а не за домашку
Пересказывали параграфы, доказывали теоремы, решали задачи
Домашка шла для закрепления материала, могли разве что 2 поставить если не принес
Как это изменит ИИ как будто не оч понятно
Ситуация в школах, по рассказам учителей-коллег, примерно следующая.
Домашка без ИИ практически не делается, даже творческая. Даже отличники проверяют свои работы перед сдачей.
Учителя, в свою очередь, стараются скинуть с себя часть нагрузки и оценивают задания через него же.
Выходит какой-то мартышкин труд.
Как вариант - задавать на дом только то, что ученик потом сможет объяснить или ответить устно в классе. Но и с этим непросто: качественно опросить даже десяток человек за короткое время на занятии очень сложно.
Думаю, мы уже подошли к тому, что классический школьный урок придётся переосмыслить
2
15
811
Может за это время как то кардинально изменился подход к образованию и объем домашки что дети без ИИ не могут ее сделать, но бОльшая часть того как нас оценивали в школе вообще никак может не меняться и будет норм
В универе тоже, как ты сдашь устный экзамен с ИИ
2
2
132
Сходили на лекцию самого цитируемого ученого в мире
Билеты на нее разобрали за 40 минут
ТУ Берлин не смогли найти аудиторию больше потому что главное здание закрыто из-за аварийного состояния🤡
5
130
Сегодня случилось то от чего я буду дико кринжевать всю оставшуюся жизнь… ебаные смешанные туалеты в ТУ Берлин(((((
3
6
603
Сбан застрял на грюневальде, там дальше какая то пробка
Блин это просто худшее место потому что отсюда по другому хуй уедешь
Уже третий сбан приходит и непонятно что к чему
2
155











