La política ante el despegue exponencial de la IA

Por Dario Amodei

Junio, 2026

La presente es la versión en español del texto publicado en inglés sobre la política ante el despegue exponencial de la IA. Publicado por Dario Amodei (Anthropic), en su blog.

En una de las tramas secundarias de El Señor de los Anillos, dos de los Hobbits intentan despertar a Bárbol (un árbol pensante, sabio pero pesadísimo) para que defienda su bosque de un ejército que lo está talando. El problema es que Bárbol opera a una velocidad totalmente distinta a la de los Hobbits. Le toma un día entero simplemente decirle "hola" a otro árbol, así que lograr que él y sus compañeros actúen rápido es casi imposible.

El cruce entre la IA y nuestras instituciones políticas se siente un poco como los Hobbits y Bárbol. La IA avanza a la velocidad del rayo: en solo cuatro años, los modelos de IA pasaron de apenas poder escribir una línea de código coherente, a escribir la mayor parte del código en las grandes empresas tecnológicas. Hemos visto avances similares en biología, física, matemáticas, finanzas, derecho, traducción y muchos otros campos. Las "leyes de escalado" de la IA (que predicen un aumento exponencial en las capacidades cognitivas generales a medida que aumenta el poder de cómputo) ya tienen más de una década de evidencia empírica que las respalda. Si estas leyes continúan así por solo uno o dos años más, es muy probable que lleguemos a lo que he llamado IA Poderosa, o "un país de genios en un centro de datos".

Por el contrario, la política —y especialmente la legislación— se mueve lentísimo. A menudo, esto es por una buena razón: los gobiernos tienen muchísimo poder, y suele ser mejor que no lo usen a la ligera. Pero esta diferencia en los tiempos es muy dolorosa: en los varios años que le puede tomar al Congreso actuar, la IA puede pasar de ser un juguete divertido a ese país entero de genios.

Durante los últimos años, desde que la IA se convirtió en una tecnología comercial importante, quienes queríamos manejarla de forma responsable nos enfrentamos a un dilema. Veíamos clarísimo hacia dónde iba esta curva exponencial: sospechábamos que en pocos años la IA sería una de esas raras tecnologías que reconfiguran todo el panorama político, igual que las armas nucleares cambiaron la geopolítica o la revolución industrial transformó todos los temas económicos y sociales. Pero para los que solo veían lo que la IA podía hacer en ese momento, parecía una tecnología mucho más mundana (como la última app de moda o una criptomoneda). Era difícil convencer a los políticos y a las empresas de que valía la pena hacer algo más que dejar que las cosas fluyeran solas. Y para ser justos, como los efectos radicales de la IA aún no estaban presentes y no sabíamos exactamente qué forma tomarían, era difícil diseñar las políticas correctas incluso si hubiera existido la voluntad de actuar.

Dadas estas limitaciones, muchos defensores de la seguridad (incluyendo a Anthropic) nos habíamos enfocado en promover políticas que nos dieran opciones a futuro, prepararan el terreno para reaccionar rápido, o le dieran al mundo una mejor idea de lo que se nos venía encima (cosas como leyes de transparencia, controles de exportación de chips y recopilación de datos sobre el impacto laboral de la IA). Sabíamos que no era suficiente, pero sentíamos que era lo único posible en ese momento.

Sin embargo, en los últimos meses, la evidencia del increíble poder de la IA, así como de sus riesgos, se ha vuelto innegable. Quizás el ejemplo más claro sea el Claude Mythos Preview y el descubrimiento de que los modelos de frontera presentan riesgos muy reales para la ciberseguridad, creando el potencial de paralizar el sector financiero, la infraestructura crítica y la seguridad nacional. Mythos Preview puso de cabeza el panorama global de la ciberseguridad. Pero su importancia real es que demuestra sin lugar a dudas que los modelos de IA ahora son herramientas de peso estratégico global y nacional. Estos ciberriesgos no serán los últimos que enfrentaremos. Creo que pronto vendrán riesgos biológicos, y que los problemas graves de autonomía de la IA no tardarán en aparecer [1].

Ahora, todos juntos y a nivel global, necesitamos activar un aparato político lento y oxidado para lidiar con riesgos y oportunidades que van a multiplicarse sorprendentemente rápido. Muchos legisladores están más abiertos a tomar medidas, y es motivador ver a nuestros competidores adoptar las mismas posturas que hemos defendido por años. Esto es bueno, pero me preocupa que estas primeras acciones vayan al menos un año por detrás del rápido progreso de la IA. Este ensayo es un intento de cerrar esa brecha: de mostrar dónde estamos en la curva exponencial y qué acción colectiva necesitamos para estar a la altura del momento.

Me enfocaré en cinco áreas de la política que necesitan ser reimaginadas en un mundo con IA. Hablaré sobre todo en términos de la política estadounidense (ya que Anthropic es de EE. UU.), pero casi todas mis recomendaciones sirven para el resto del mundo.

Junto con este ensayo, Anthropic está lanzando una propuesta legislativa sobre pruebas para modelos de frontera y un marco de políticas sobre el desplazamiento laboral, proyectos que planeamos respaldar con bastante dinero. Planeamos hacer mucho más a futuro, pero estos son nuestros primeros pasos para demostrar que vamos en serio.

1. Regulación y seguridad pública

Toda nueva tecnología tiene usos buenos y malos, y por eso siempre hay un dilema entre innovación y seguridad. Regular los productos reduce los daños y mejora la vida de las personas, pero también puede frenar los beneficios y desmotivar la innovación. También está el punto de vista de Hayek de que los reguladores a veces no tienen la información necesaria para tomar buenas decisiones, haciendo que la regulación sea ineficaz y pesada. Algo similar es el dilema de Collingridge, que dice que los impactos de una tecnología son difíciles de predecir hasta que ya es demasiado tarde para controlarlos fácilmente.

Esta era la gran duda con la IA en 2023-2024. En Anthropic teníamos claro que en el futuro la IA podría fabricar armas biológicas que amenazarían a millones, o tomar decisiones autónomas que podrían amenazar a la humanidad misma. Lo que no estaba claro era cómo se verían esos riesgos, cómo probarlos y cómo se desarrollarían en la vida real. Había un riesgo muy alto de hacer leyes prematuras que terminaran siendo inútiles [2].

Al final, decidimos que lo mejor en ese momento era la transparencia. Así, en 2025, Anthropic apoyó leyes de transparencia en varios estados de EE. UU. Sin embargo, los riesgos ya están aquí. Es hora de ir más allá de la transparencia y pasar a una regulación de IA mucho más seria y obligatoria.

La mejor analogía hoy en día son los autos, los aviones o los medicamentos: tecnologías poderosas, vitales para la economía moderna, pero capaces de matar a mucha gente si se diseñan o manejan mal. Por eso creo que la regulación de la IA debería inspirarse en agencias como la Administración Federal de Aviación (FAA).

Evolución de la Regulación de la IA	Enfoque Principal	Ejemplos Prácticos
Etapa Anterior (2023-2025)	Transparencia y recopilación de datos	Reportes de incidentes, compartir métodos de prueba con científicos.
Etapa Actual (2026 en adelante)	Regulación vinculante estilo FAA	Auditorías previas, poder de veto del gobierno por riesgos críticos.

Nuestra propuesta incluye los siguientes puntos:

• Pruebas obligatorias por parte de terceros calificados para modelos que superen cierto umbral de cómputo, enfocadas en: ciberseguridad, armas biológicas, pérdida de control y automatización de I+D.
• El gobierno debe tener el poder de bloquear o retrasar el lanzamiento de un modelo si representa riesgos inaceptables, con protecciones contra favoritismos políticos.
• Las evaluaciones de terceros podrían ser hechas por una agencia gubernamental (como la FAA) o empresas privadas autorizadas por el gobierno.
• Las empresas de IA deben tener estándares de seguridad altísimos para proteger el código de sus modelos y colaborar con el gobierno para defenderse de amenazas mayores.
• Los incidentes de seguridad en estas áreas críticas deben reportarse de inmediato.

Puede que pronto los sistemas de IA se parezcan más a materiales nucleares que a aviones [3]. Pero así como no podíamos adelantarnos en 2024, no debemos hacerlo ahora; diseñemos reglas para los peligros de hoy, dejando la puerta abierta para endurecerlas si aparecen riesgos nuevos.

2. Macroeconomía y política fiscal

Los gobiernos siempre han batallado con cómo fomentar el crecimiento económico mientras dan servicios públicos y ayudan a los más vulnerables. La premisa siempre ha sido que reducir la desigualdad requiere sacrificar algo de crecimiento económico.

La IA poderosa podría poner de cabeza esta idea. Si la IA logra hacer casi todas las tareas cognitivas mucho mejor que los humanos, podría generar un crecimiento económico brutal y rápido. Pero, por la misma razón, la IA podría reemplazar el trabajo humano de forma mucho más general y rápida que cualquier tecnología anterior. Corremos el riesgo de quedar atrapados en un mundo de hipercrecimiento pero también de hiperdesigualdad.

Quiero dejar clarísimos dos puntos sobre la pérdida de empleos:

Primero: La pérdida de empleos a largo plazo es mala y peligrosa, y debemos hacer todo para evitarla. Si hablo de esto es para que estemos preparados, no por ser profeta del desastre. En Anthropic, ayudamos a las empresas a usar la IA para que sus empleados hagan más, no para despedirlos. Es muy probable que la IA cree nuevas oportunidades económicas (como empresas de mil millones de dólares dirigidas por una sola persona), pero debemos ser realistas: hay una buena posibilidad de que la IA cause una pérdida permanente de empleos porque imita la inteligencia humana [4].

Segundo: Cualquier respuesta a este problema tiene que cubrir dos cosas: darle dinero a la gente para vivir, y ayudarles a encontrar sentido y propósito. Lo segundo es más importante, y depende de cómo nos organizamos como sociedad. Soy muy optimista en que, incluso si la IA hace todo mejor que nosotros, los humanos seguiremos encontrando propósito [5]. La política no puede resolver esto directamente, pero puede darnos tiempo.

Para ganar tiempo, necesitamos estas políticas:

• Medición y seguimiento: Los gobiernos deben ampliar sus estadísticas económicas para rastrear al detalle cuántos empleos está desplazando la IA.
• Incentivos a favor del empleo: Cosas como seguros de sueldo que te compensen si tienes que tomar un trabajo peor pagado [6], beneficios fiscales para empresas que no despidan a su gente, o programas masivos de recapacitación. Los beneficios en productividad de la IA compensarán los costos de estas políticas.
• Apoyo macroeconómico a largo plazo: Si mucha gente se queda sin trabajo permanentemente, necesitaremos cosas como el Ingreso Básico Universal (UBI), financiado mediante impuestos a las empresas que ganan con la IA o impuestos a las ganancias de capital.

Un comentario rápido: sé que hay preocupación por el costo de energía de los centros de datos. En Anthropic nos hemos comprometido a absorber los aumentos de tarifas. Pero creo que el enojo contra los centros de datos es solo una forma en la que la gente saca su ansiedad económica general por la IA. Tenemos que hablar de esos problemas de fondo.

3. Acelerar el impacto positivo de la IA

Con las tecnologías impulsadas por la IA (como la biomedicina o la ciencia de materiales), tengo la preocupación contraria: me da miedo que los reguladores frenen el progreso porque no están listos para el ritmo frenético de innovación que traerá la IA.

Tomemos la biomedicina como ejemplo. Es probable que la IA:

• Multiplique la cantidad de nuevas medicinas que se inventan.
• Mejore la seguridad y efectividad de los medicamentos.
• Cree curas para enfermedades que hoy no tienen tratamiento.
• Invente terapias totalmente nuevas.

Agencias como la FDA (EE. UU.) o la EMA (Europa) tardan entre 7 y 8 años en aprobar un medicamento, porque asumen por defecto que los nuevos fármacos no funcionan o son peligrosos. La IA simplemente va a colapsar este sistema.

Obviamente no queremos inundar el mercado con productos vendehúmos o peligrosos, pero necesitamos modernizar el sistema:

• Reemplazar pruebas caras con simulaciones de IA: Las agencias deberían crear estándares ya mismo para aceptar modelos virtuales de cómo actúa el fármaco, predecir la toxicidad sin usar animales, y validar biomarcadores con análisis masivos de datos.
• Mecanismos de aprobación más rápidos y flexibles: Si mis predicciones sobre la IA son ciertas, pronto habrá medicamentos que funcionen increíblemente bien a la primera. El sistema debe estar listo para tomarlos en serio sin exceso de escepticismo.

Acelerar la biomedicina no solo salvará vidas, sino que mejorará la salud mental global, lo que ayudará a estabilizar a la sociedad frente a todos los otros cambios.

4. El Estado y las libertades civiles

La IA amenaza con desequilibrar el poder entre el Estado y los ciudadanos. Una IA poderosa en las manos equivocadas podría ser la herramienta definitiva para una dictadura. Como la inteligencia da tanto poder, podríamos ver a diversos actores intentar adueñarse de la IA de forma sorpresiva [7].

Un ejército de drones totalmente automatizado podría obedecer órdenes ilegales que un humano rechazaría. Una IA de vigilancia masiva podría analizar todos los datos públicos e inferir los secretos más íntimos de cada ciudadano de un país.

Para blindar la democracia y las libertades civiles, deberíamos considerar:

• Reglas claras para armas autónomas: Las máquinas que toman decisiones letales deben tener mecanismos estrictos de control constitucional y comandos de "apagado" humano.
• Prohibir las armas autónomas dentro del país: Pueden ser necesarias para defenderse de países rivales, pero no hay justificación para que la policía las use contra sus propios ciudadanos.
• Cerrar el vacío legal de la recolección masiva de datos: Hoy, la policía puede comprarle tus datos a empresas privadas sin una orden judicial. La IA hará que estos datos sean mil veces más reveladores. Hay que prohibir esto.
• Derecho público a asesoría de IA: Si el gobierno te investiga, deberías tener derecho legal a usar una IA al menos tan buena como la que el gobierno está usando en tu contra.

Finalmente, también debemos cuidarnos de las grandes empresas. La IA será tan poderosa que no podemos dejarla ni al control absoluto de los gobiernos, ni al de las corporaciones privadas. Necesitamos equilibrios de poder. En Anthropic hemos creado un "Fideicomiso de Beneficio a Largo Plazo" independiente, y toda la industria debe explorar cosas similares.

5. Asegurar el liderazgo de las democracias

Mucha gente cree que la IA es como el internet: algo para vender y exportar a todo el mundo. Pero yo creo que la IA es como las armas nucleares: va a cambiar las reglas del juego global y dictará toda la estrategia geopolítica.

Si la IA realmente será "un país de 100 millones de genios", el país que la tenga superará militar y económicamente a cualquier otro. Un país con IA avanzada contra uno que esté atrasado apenas 3 años, será como enfrentar a marines de la Segunda Guerra Mundial contra espadachines medievales.

Las democracias del mundo deben formar una coalición global. Debemos compartir la tecnología entre nosotros y hacérsela muy difícil a los regímenes autoritarios. Esta coalición debería enfocarse en:

• Controlar la cadena de suministro: Los países aliados deben compartir chips y equipo de fabricación, pero bloquearle el acceso a los rivales (como China). Los controles de exportación actuales de EE. UU. deben ampliarse y coordinarse con los aliados.
• Coordinarse frente a los riesgos: Compartir estándares de ciberseguridad y biodefensa para que las empresas no tengan que lidiar con cien reglas distintas, y unir esfuerzos de inteligencia para frenar a terroristas.
• Compartir los beneficios: Ayudar a los países en desarrollo compartiendo tecnología para la salud y la economía.
• Defensa mutua: Asegurar que toda la coalición tenga ciberdefensa, drones y cómputo impulsado por IA.
• Rechazo a la represión: Los miembros de la coalición no pueden usar la IA para espiar o reprimir a sus ciudadanos.
• Cooperación macroeconómica: Como la pérdida de empleos será un problema global, los países deben coordinar sus políticas económicas para apoyarse mutuamente.

El objetivo es hacer que pertenecer a este "club" sea súper atractivo, y que quedarse fuera sea muy costoso.

Una ventana de oportunidad

El progreso exponencial de la IA nos ha tomado por sorpresa, pero también nos abre una ventana de oportunidad única. La gente y los políticos por fin están despertando. Bárbol y el bosque por fin están reaccionando.

En la industria tecnológica muchos dicen que las críticas a la IA son un "problema de relaciones públicas" y que necesitamos "mejor marketing". Rechazo esa idea por completo. La gente tiene miedo porque presiente que los riesgos son reales, no porque los CEOs no seamos suficientemente optimistas. Es mi deber ser transparente sobre los riesgos; que el público se preocupe es la democracia funcionando como debe ser. El reto es canalizar esa preocupación hacia soluciones constructivas y no dejar que se convierta en pánico o enojo.

Soy optimista. Muchas de estas políticas (apoyo al empleo, control de chips, pruebas de seguridad) tienen sentido común y apoyo de todos los lados de la política. Si actuamos ya, podremos disfrutar pronto de los increíbles beneficios que nos traerá la IA.

Notas al pie

• [1] Discuto los riesgos biológicos y de autonomía en mi ensayo The Adolescence of Technology. Anthropic también ha publicado datos iniciales sobre modelos construyendo mejores modelos.
• [2] Esto ya nos pasó con reglas voluntarias: a veces pasamos el 95% del tiempo en reglas que no importaban, y no vimos venir los riesgos reales. Las reglas voluntarias se pueden cambiar rápido; las leyes no.
• [3] Por ejemplo, los riesgos biológicos graves podrían ser mucho más difíciles de manejar que los ciberataques.
• [4] En The Adolescence of Technology explico por qué los mecanismos habituales de la economía que antes nos salvaban de la pérdida permanente de empleos podrían no funcionar con la IA.
• [5] Como ejemplo, la gente sigue dedicando su vida a jugar Ajedrez o escalar montañas, a pesar de que las máquinas o los helicópteros lo hacen mejor.
• [6] Esto incentiva a la gente a cambiar de profesión aunque al principio sea doloroso, pagándoles la diferencia de sueldo si su nuevo empleo paga menos.
• [7] Los enormes beneficios de la inteligencia, sumados al rápido ritmo de progreso, crean la tormenta perfecta para que actores peligrosos tomen el poder.

Traducción: Gemini 3.1 Pro.