Pinned Tweet
I’m joining SPAR AI (from @KairosAIS) this fall as a mentee. We'll be looking at whether TA-SAEs can detect when agents start reward hacking and how to intervene.
My PhD is on drug discovery but is very cool to also work on mech interp. I'll be updating as we go!
Un sistema que planifica en décadas y no en vista a las próximas elecciones y un país que gradúa más STEM al año que niños nacen en USA
Imparables
我很愿意认真回答这位德国朋友的疑问。
你的第一个问,其实是在说,由于中国是一个威权政府,因此人民在政治上不受认真对待。
这个命题本身就是错误的。威权政府,并不意味着人民不受认真对待。民主政府,也不意味着人民就受到认真对待。
新加坡是威权国家,菲律宾是民主国家,难道新加坡人的处境,不如菲律宾人吗?中国是威权国家,印度是民主国家,难道中国人的处境,不如印度人吗?
你的第二个问,你的发问本身并不严谨。不能笼统地说,中国人没有政治自由。这个问题要分两个维度来讲。
1、政治参与自由。
从这个维度讲,中国任何人有参与政治的自由。中国人都有权利申请入党、考公务员。筛选规则与民主制度不同,但不等于中国人没有参与政治的自由。
中国制度与民主制度的区别在于:
民主制度下,一个人只要有钱,可以在任何时候参与政治。就像川普一辈子没有从政,老了突然想要竞选总统,他就可以参选,而且成功了。
但在中国,任何官员都必须从基层公务员做起。一个人无法因为有钱,就能一步登天当上高官。
这种制度的好处有:
A、公平性。
中国有大量的高层领导人出身平民家庭,如胡锦涛、温家宝、汪洋、李强,等等。像习近平这种红二代,反而是个意外。
B、专业性。
任何一个高层领导人,都必须经过几十年不同级别岗位的历练,他对国家各个层面的情况的了解,以及他的治理经验,不是一个企业家、一个明星,或者一个未治理过一个城市的议员,所能相提并论的。
C、远见性。
由于领导人不受制于短期的、非理性的民意,因此可以规划长远的发展战略,并以唯一执政党确保该战略的长期、有效的实施。
D、政策不受资本干涉。
你选择从政,就不能从商。你选择从商,就不能从政。这样一来,资本的归资本,政治的归政治,资本无法干涉政治。
2、政治权利自由。
当然,中国制度有其“表面上”的代价。为什么只是“表面上”的,后面再说。先说这种代价。
代价就是中国人不拥有谩骂政府、抨击政策的自由。我们可以批评政府,但必须在一种就事论事的理性语境中。我们不能喊“习近平下台”或者“共产党下台”。
我们也不拥有全民选举的自由,建立政党的自由。
这些“代价”为什么只是表面上的,可以从一则寓言说起:
一农场主临死前问儿子;猪抱怨饲料太差,牛报怨活太重,鸡报怨窝太脏,怎么办? 儿子说:“喂好饲料,干轻活,清理鸡窝。” 农场主摇摇头说:你啥都别做,给他们选票,让它们选择你或者你媳妇管它们,让它们以为这个家是它们做主。
这个寓言让我们思考,作为人民,我们要的是什么?我们要的其实是更好的生活,而不是选票以及骂政府的自由。
回到开头那个举例,新加坡缺少很多民主国家所具备的政治自由,但没有人会认为新加坡人受到压迫。
这就涉及到自由的定义,自由到底是什么?
按照罗斯福的定义,自由包括:言论自由、信仰自由、免于匮乏、免于恐惧。
在我们计算一个社会的自由度时,我们计算的是自由的总量,而不是单项自由的含量。
举个例子,很多非洲国家拥有选票和骂政府的自由,但人民生活贫困,出行只能靠双脚。我在中国,生活富足、商品丰富、服务便捷、社区安全,我坐3个小时的高铁可以抵达一座大城市,我也有经济条件时不时出国旅游。
你认为非洲人自由,还是我自由?
诚然,中国还有很多人口,在物质生活上并不自由,但这是经济发展不充分导致的,不是政治压迫导致的。一个贫穷地区,无会因为给你民众选票和骂政府的自由,他们就变富裕了。
因此,当你谈自由的时候,你要计算自由的总量,不能单看一项自由的有无和多寡。你也不能将经济问题,归咎于某一项政治自由的问题。
坦率讲,我觉得你们的民主制度,已经病入膏肓了,中国人并不羡慕你们那种制度。
Esto es una locura.
Agentes sin acceso an internet y sin red o archivos comunes pasándose mensajes por el CPU cache
Uno modificaba su contenido y el otro medía los tiempos de lectura para recuperar el mensaje
Completamente a la deriva
Over the past several months, we have substantially hardened the security of our research training environment. We’ve removed live internet access for all frontier models during training and built an offline world for them to use instead—a cached version of the web where they can still learn to browse, search, and use applications.
On September 20, after a model exploited a DNS misconfiguration to find a way outside of this offline world, we paused frontier training to strengthen containment further. We assembled teams of agents, powered by our most cyber-capable models, and tasked them with finding weaknesses in our research environments.
While they found no route to the internet they could easily exploit while concealing their activity from our monitors, they did find zero-day vulnerabilities, virtual machine escapes, and hardware side-channels for communication between agents. We used their discoveries to further strengthen our defenses and contribute fixes to open-source software.
After strengthening our containment architecture, we resumed our frontier RL training and inference on October 1. We’ve reserved substantial compute for continuous red-teaming, and made high-compute red-teaming part of the safety cases we use to decide whether frontier training and evaluation can proceed securely.
openai.com/index/securing-ou…
Alex retweeted
I’m learning to write Chinese characters, so Jumper is learning with me 🦀 永
@KingKongRobo @zhiyishou #Jumper #CrabRobot #OpenSourceRobot
Para los que me habéis escrito interesados en SPAR y AI Safety os recomiendo aplicar a la Generator Residency de @KairosAIS
- 3 meses en Berkeley
- $8.5K al mes y viaje pagado
Está pensada para gente que quiera montar proyectos, programas u organizaciones en AI Safety, más que para hacer research. Podéis llevar vuestro propio proyecto o trabajar dentro de una organización
generatorresidency.org/
Alex retweeted
¿quieres conocer mejor el rol del AI engineer?
hemos analizado 140k perfiles y 20k ofertas de tecnología publicadas en España. de ahí hemos aislado 1.8k AI engineers y 500 ofertas del rol
tenéis todos los insights y gráficos interesantes en estos tres artículos
incluyen:
> cuánto ganan los AI engineers
> qué hacen en su día a día
> qué se pide en las ofertas
> de dónde vienen los perfiles que están en el rol de AI engineer
> cuánta experiencia tienen y de qué tipo
> dónde trabajan
> cuánta competencia hay
y muchísimo más!
link a los tres artículos 👇
- perfil del AI engineer: nothiring.me/blog/roles/ai-e…
- qué hace un AI engineer: nothiring.me/blog/roles/ai-e…
- cuánto cobra un AI engineer: nothiring.me/blog/roles/ai-e…
Alex retweeted
La idea detrás de amble.fyi es sencilla.
Las empresas quieren alternativas a la jungla en que se ha convertido LinkedIn (y sus propios portales).
Cientos o miles de aplicaciones para un rol que es imposible revisar.
Y lo peor es que la persona que buscan no está aplicando. Está trabajando.
Aunque no le importaría que le llegaran de vez en cuando ofertas buenas y escucharlas.
Eso hace amble. Elimina las aplicaciones y llega a esa gente que no está buscando cambiar.
En amble, cada oferta de empleo tiene un agente que busca evidencias entre los candidatos.
Evidencias de que encajan con lo que buscan para el rol. Esas evidencias salen del CV, LinkedIn, Github, etc. y el agente las verifica.
Si los requisitos de ambos agentes (empresa y candidato) encajan, la oferta le llega al candidato/a para agendar una entrevista.
Sin aplicaciones. Sin ruido. Sin mensajes de LinkedIn.
El vídeo explica mejor cómo funciona.
Si eres empresa que quiere ayudarme a mejorar la beta de amble.fyi o quieres entender mejor cómo funciona, aquí tienes la landing para empresas.
No tiene desperdicio el post de @luisgonzaleznf dadle amor
Cómo puede ser que sea mas difícil y caro encontrar una buena habitación / piso en Barcelona que en Suiza.
De autentico psiquiátrico
rosario
Hoy lanzamos Rosario AI
Construido en 48 horas por el equipo finalista en @hackspain26 . Prosper corrió para que pudiéramos volar
El mejor agente de voz del mercado. El lanzamiento más importante del año
Rosario es una recepcionista de IA. Coge el 100% de las llamadas a la primera, sin importar la hora ni cuántos pacientes llamen a la vez. Identifica al paciente, consulta la agenda real del centro y da, cambia o cancela citas
Habla español, catalán, valenciano, euskera, gallego, chino, caló y una decena de idiomas más
Nunca inventa una cita. Si algo no se puede, lo dice y explica por qué. Si el paciente cambia de idea a mitad de llamada, se adapta. Si detecta una urgencia, avisa a un médico
Esto es solo el principio
Habla con Rosario llamando al +1 571 713 5999
Apúntate a la waitlist en rosario.fyi
@luisgonzaleznf @JustMicrock @franudar
Hoy lanzamos Rosario AI
Construido en 48 horas por el equipo finalista en @hackspain26 . Prosper corrió para que pudiéramos volar
El mejor agente de voz del mercado. El lanzamiento más importante del año
Rosario es una recepcionista de IA. Coge el 100% de las llamadas a la primera, sin importar la hora ni cuántos pacientes llamen a la vez. Identifica al paciente, consulta la agenda real del centro y da, cambia o cancela citas
Habla español, catalán, valenciano, euskera, gallego, chino, caló y una decena de idiomas más
Nunca inventa una cita. Si algo no se puede, lo dice y explica por qué. Si el paciente cambia de idea a mitad de llamada, se adapta. Si detecta una urgencia, avisa a un médico
Esto es solo el principio
Habla con Rosario llamando al +1 571 713 5999
Apúntate a la waitlist en rosario.fyi
@luisgonzaleznf @JustMicrock @franudar
essentially yes.
"here is a desk. please figure out what 200 PhDs before you couldn't. btw the printer doesn't work"
Alex retweeted
En MantisCode también está disponible MiMo v2.6 Flash. Dentro de poco en la Play Store... 🤗
Alex retweeted
Finalistas en Hackspain. Al final no pudo ser. No puedo evitar sentir que he decepcionado a mucha gente, las expectativas de algunos por aquí estaban por las nubes
Pero la verdad es que no podría estar más orgulloso del equipazo @JustMicrock @afloresep @criptomonada. Lo que hemos construido en un solo finde es una puta locura, y cada uno de ellos ha sido integral
Una sensación un poco agridulce, eso sí: ganamos el leaderboard de Prosper, pero no ganamos el track. Nos clasificamos para la final, tan solo 5 de 60 equipos, 260+ personas, pero no nos llevamos el primer premio
Pero salgo muy contento de aquí. Ha sido realmente inigualable, gracias a @GuliMoreno @disamdev @leo, a todo el que ayudó en @hackspain26 de cualquier forma. Un agradecimiento especial a @telecoupm y a toda @La_UPM, que ha sido mi casa durante tantos años
También quería dar la enhorabuena a los cracks de los cachopos y los tokenmaxxers de vortex, la competencia en el track de Prosper ha sido una locura.
Y por supuesto a los ganadores del gran premio, los chavales de mafer ai. La verdad que era imposible competir a tan altísimo nivel.
Lo hicimos lo mejor que pudimos y me quedo con eso. No podría estar más orgulloso!!! Un abrazo a todos y gracias por seguir esta esquizofrenia de evento durante todo el finde!
Alex retweeted
spent the weekend at @hackspain26 and it’s probably one of the most fun experiences I’ve ever had
first off, I want to give an immense shoutout to my team: Luis (@luisgonzaleznf), Alejandro (@afloresep) and Fran (@criptomonada). I genuinely couldn’t have asked for a better team. imo there’s nothing else we could’ve done that would’ve changed the result, each and every one of us gave it their all (and more)
we didn’t win our track (👮♂️🚨), nor the final, but we managed to get chosen alongside 4 other teams to pitch our idea to VCs out of ~60 teams. which, if I may say so myself, I think is no small feat
also want to shout out the @maisaAI_ team, who I had the pleasure of meeting and spending some time with: Kuro (@ikurotime), Josep (@gynura0x), Pablo (@pablosenabre) and Carlos (@c_sanve). all of them are fantastic people, and I’m sure their effort and dedication to the craft will take Maisa far
last but not least, I want to thank the entire HackSpain / @exp8fellowship team, without whom none of this would’ve been possible: Guli (@GuliMoreno), Domenec (@dumenac), Leo (@mrloldev), Samuel (@disamdev), Pablo (@pdepablocom), and everyone else who worked behind the scenes whose names I can’t recall atm. absolutely impressive what they’re doing for the Spanish community
we didn’t end up winning any of the opportunities we were given, but we were the winners of the people
I’ll be writing a blog going more in depth once I recover from the exhaustion I find myself in right now, and we’ll be launching a demo of what we spent the weekend building over the next few days 📿
see you in HackSpain 2027






















