David Sacks no lo ha podido escribir mejor, me ha leído el pensamiento, menuda farsa: Dario ha escrito que necesitamos “marcar el ritmo de la frontera” (“pace the frontier”), y Sam ha estado de acuerdo. Puede que a la gente le sorprenda mi respuesta: adelante, háganlo. Ustedes son la frontera. Según cualquier métrica razonable —cuota de mercado, crecimiento de ingresos, capacidad de los modelos— los dos tienen un duopolio sobre la inteligencia de frontera. También han afirmado que la ventaja se está ampliando debido a la automejora recursiva. Yo no veo lo que ustedes ven en el laboratorio. Si los modelos no publicados son lo bastante inquietantes como para pensar que deberían frenar, apoyo su decisión de actuar con responsabilidad. Pero dejen de fingir que necesitan el permiso de nadie más. Dejen de fingir que hay que suspender la ley antimonopolio para que puedan formar un cártel. Dejen de fingir que necesitan un proceso de aprobación regulatoria que sustituya a la responsabilidad por productos defectuosos. Dejen de fingir que METR es independiente cuando está entrelazada con los inversores y el personal de Anthropic. Dejen de fingir que necesitan a esos mismos evaluadores para vigilar a competidores que ni siquiera están en la frontera. Sobre todo, dejen de fingir que la motivación para frenar es puramente altruista. Enfrentan una enorme exposición a responsabilidad por productos si estos permiten un ciberataque realmente dañino. El mercado ya castiga a los modelos que se comportan de forma impredecible o no autorizada. Después del episodio de Hugging Face, simplemente es buen negocio para OpenAI y Anthropic cambiar algo de poder bruto por fiabilidad y previsibilidad. Llámenlo alineación si quieren. También es, sencillamente, darle a los clientes lo que quieren. Marcar el ritmo de la frontera también crearía espacio para una conversación más inteligente sobre regulación que el “cerrarlo todo” de Bernie Sanders. Es muy poco probable que China se sume a un acuerdo global, como bien saben, y eso también hay que tenerlo en cuenta. Así que adelante, marquen el ritmo de la frontera. Son ustedes quienes lo establecen. La forma más fácil de no construir superinteligencia es que ustedes acuerden no construirla. Exigir su marco regulatorio preferido como precio de eso parecerá un chantaje al público y al sistema político. Así que simplemente háganlo. Si lo hacen, se ganarán buena voluntad para la próxima conversación. Si no, sabremos que esto fue solo otro intento de captura regulatoria — o un psyop de temporada electoral.