El ser humano lleva siglos inventando primero en su imaginación aquello que después intenta construir con sus manos. Antes de que una máquina exista, alguien la sueña. Y pocas personas soñaron máquinas con tanta precisión como Julio Verne.
Cuando Verne escribió Veinte mil leguas de viaje submarino, el Nautilus del capitán Nemo era una formidable máquina eléctrica capaz de recorrer los océanos con una autonomía que pertenecía fundamentalmente al territorio de la ficción. La literatura imaginaba el futuro y la ciencia trataba después de alcanzarlo. Ocurrió con el submarino, con los viajes extraordinarios, con la exploración del espacio y con tantas otras tecnologías que alguna vez parecieron imposibles.
Pero imaginar una máquina significa también imaginar qué ocurrirá cuando esa máquina sea más poderosa que nosotros.
Décadas después, Isaac Asimov llevó esa pregunta mucho más lejos. Sus robots ya no eran simples mecanismos: actuaban, interpretaban órdenes y se relacionaban con los seres humanos. Y Asimov comprendió algo que hoy resulta extraordinariamente familiar. Si íbamos a construir máquinas con un elevado grado de autonomía, tendríamos que construir también las reglas que limitaran su comportamiento. De ahí sus célebres Tres Leyes de la Robótica: proteger al ser humano, obedecerlo y preservar la propia existencia, precisamente en ese orden.
No eran leyes en sentido jurídico. Eran literatura. Pero encerraban una pregunta que seguimos sin resolver: ¿cómo conservar el control sobre aquello que nosotros mismos hemos creado?
En Fundación, Asimov fue todavía más lejos. La psicohistoria imaginaba la posibilidad de anticipar matemáticamente el comportamiento de enormes poblaciones y, con ese conocimiento, intervenir sobre el futuro. La tecnología se convertía así en una forma de poder.
Durante décadas todo aquello fue ciencia ficción.
Esta semana ha dejado de parecerlo.
En apenas unos días se han sucedido advertencias que hace muy poco habríamos considerado propias de una novela distópica. Jacob Coxon, investigador que trabajaba en Anthropic, abandonó la compañía denunciando la irresponsabilidad con la que, a su juicio, avanza la carrera de la inteligencia artificial. Otros investigadores han llegado a hablar abiertamente del riesgo de extinción de la humanidad. Y Dario Amodei, consejero delegado de la propia Anthropic, ha pedido desacelerar el desarrollo de los modelos más avanzados y ha advertido de los riesgos que podrían plantear enjambres de agentes capaces de operar de manera persistente y coordinada en Internet.
De repente, la pregunta de Asimov está en los periódicos.
¿Qué ocurrirá si las máquinas dejan de obedecernos?
Es una pregunta legítima. Y sería irresponsable despreciarla. Los sistemas actuales adquieren capacidades crecientes para programar, investigar, utilizar herramientas e interactuar con otros sistemas. Cuanto mayor sea su autonomía y más importantes los entornos a los que les permitamos acceder, mayores serán las consecuencias potenciales de un error, un comportamiento inesperado o una utilización maliciosa.
Pero quizá estamos mirando solamente una mitad del problema.
Llevamos años preguntándonos qué ocurrirá cuando la inteligencia artificial deje de obedecer al ser humano. Quizá deberíamos empezar preguntándonos qué ocurrirá si continúa obedeciéndolo.
Mucho antes de que existiera la inteligencia artificial, Plauto escribió que el hombre es un lobo para el hombre. Siglos después, Hobbes recuperaría la expresión homo homini lupus para describir una dimensión mucho menos tranquilizadora de nuestra naturaleza.
La historia demuestra que el ser humano no necesita una máquina rebelde para destruir.
Necesita una herramienta suficientemente poderosa.
Y ahí cambia la pregunta.
Porque el debate de estos días está provocando una reacción aparentemente lógica: necesitamos controles. Supervisión. Salvaguardas. Humanos capaces de intervenir cuando una inteligencia artificial se comporte de manera inesperada.
Por supuesto que los necesitamos.
Pero convendría recordar que esos controles ya existen, al menos sobre el papel.
El Reglamento Europeo de Inteligencia Artificial no parte de cero. Hay prácticas ante las que ni siquiera considera suficiente la supervisión humana: sencillamente las prohíbe. El artículo 5 veta, entre otros supuestos, determinados usos manipuladores de la IA, la explotación de vulnerabilidades de las personas y ciertas formas de puntuación social y de utilización de sistemas biométricos. Y cuando entra en el terreno de los sistemas de alto riesgo, dedica su artículo 14 a la supervisión humana. Exige que sean diseñados y desarrollados de manera que puedan ser vigilados efectivamente por personas durante su utilización. Esas personas deben poder comprender las capacidades y limitaciones del sistema, detectar comportamientos inesperados, evitar confiar automáticamente en sus resultados y, cuando resulte necesario, ignorarlos, revertirlos o detener el sistema.
Europa, en definitiva, ya ha escrito el botón de parada en la ley.
La pregunta es quién estará dispuesto a pulsarlo.
Porque una cosa es exigir supervisión humana y otra garantizar que sea real, competente, independiente y efectiva. Podemos colocar un ser humano detrás de cada algoritmo y seguir sin resolver el problema si carece de información, autoridad o voluntad para enfrentarse a la máquina o a los intereses de quien la controla.
El ejemplo más extremo se encuentra en el ámbito militar.
Estados Unidos dispone desde hace años de reglas específicas para los sistemas de armas autónomas y semiautónomas. La Directiva 3000.09 del Departamento de Defensa establece que deben diseñarse de forma que comandantes y operadores puedan ejercer niveles apropiados de juicio humano sobre el uso de la fuerza.
Incluso allí donde una decisión puede terminar con la vida de una persona aparece el ser humano como última garantía.
Pero entonces surge la pregunta verdaderamente incómoda:
¿quién supervisa al supervisor?
Podemos escribir human oversight en un reglamento europeo y exigir human judgment en una directiva militar estadounidense. Debemos hacerlo.
Pero el Derecho tiene un límite que ninguna ley puede eliminar por completo: detrás del control sigue habiendo una persona. Y detrás de esa persona puede haber una empresa, un Gobierno, un ejército, un interés económico o una estrategia geopolítica.
Ahí está, probablemente, el verdadero problema de la inteligencia artificial.
No solo en su capacidad para escapar de nuestro control, sino en nuestra incapacidad para controlarnos nosotros mismos.
Ya hemos visto esta película.
La vimos cuando aprendimos a dividir el átomo.
La bomba atómica no nació porque el uranio quisiera destruir Hiroshima. Nació de decisiones humanas tomadas en unas circunstancias históricas extraordinarias. Después llegó la carrera nuclear. Y con ella una lógica que terminó pareciendo inevitable.
Si nosotros no lo hacemos, ellos lo harán.
Si ellos pueden tenerlo, nosotros debemos tenerlo.
Y si ambos lo tenemos, necesitamos todavía más capacidad para impedir que el otro consiga ventaja.
No pretendo equiparar la inteligencia artificial con la bomba nuclear. Son tecnologías diferentes, con naturalezas, usos y riesgos radicalmente distintos.
Lo que resulta inquietantemente parecido es la conducta humana ante ambas carreras tecnológicas.
Hoy compiten empresas por construir el modelo más capaz. Los Estados consideran la inteligencia artificial una infraestructura estratégica. Estados Unidos mira a China. China mira a Estados Unidos. Cada avance del adversario justifica el siguiente avance propio.
Y entonces reaparece la misma frase:
No podemos detenernos porque ellos no se detendrán.
Ahí está la paradoja de las advertencias de esta semana. Algunos de quienes están más cerca de la frontera tecnológica piden desacelerar porque temen que avancemos demasiado deprisa. Pero la posibilidad de desacelerar tropieza inmediatamente con la competición económica y geopolítica. Frenar unilateralmente puede significar perder ventaja. Y perder ventaja puede significar perder mercados, poder militar, influencia internacional o liderazgo tecnológico.
Por eso el problema de la IA no puede resolverse únicamente con ingenieros.
Ni únicamente con abogados.
Ni siquiera únicamente con leyes.
Necesitamos regulación, evaluaciones independientes, supervisión humana efectiva, auditorías, límites técnicos, responsabilidades jurídicas y, ante una tecnología de alcance global, coordinación internacional.
Pero por encima de todo hace falta algo mucho más difícil de fabricar que un algoritmo: voluntad política efectiva para cumplir los límites incluso cuando cumplirlos tenga un coste.
Porque el supervisor humano solo sirve si puede decir no. Y los controles solo funcionan si empresas y Gobiernos están dispuestos a renunciar a una ventaja cuando esa ventaja exige traspasarlos.
Ahí aparecen los enemigos que ninguna inteligencia artificial ha inventado: la codicia humana, la ambición humana, el miedo humano, el interés humano y esa obsesión, también profundamente humana, por llegar antes que el otro.
Podemos enseñar a una máquina a detenerse.
Mucho más difícil será enseñar al ser humano a hacerlo cuando detenerse signifique que otro puede llegar primero.
En 1949, pocos años después de Hiroshima y Nagasaki, se atribuye a Einstein una de las grandes advertencias del siglo XX: no sabía con qué armas se libraría la Tercera Guerra Mundial, pero la Cuarta se combatiría con palos y piedras.
La frase sigue inquietando porque nunca habló realmente de armas.
Hablaba de nosotros.
Setenta y siete años después hemos construido máquinas cada vez más capaces, rápidas y autónomas. Y volvemos a preguntarnos: ¿qué ocurrirá si algún día no podemos controlarlas?
Debemos investigar sus riesgos, imponer salvaguardas y construir una gobernanza capaz de responder a una tecnología global.
Pero existe otra pregunta anterior.
¿Seremos capaces de controlarnos nosotros?
Porque el problema nunca fue únicamente lo que podía hacer la bomba, sino hasta dónde estábamos dispuestos a llegar para tenerla antes que el adversario. Con la inteligencia artificial podemos estar entrando en una carrera gobernada por el mismo impulso.
El ser humano imaginó el Nautilus. Imaginó las Tres Leyes de la Robótica. Dividió el átomo. Construyó la bomba. Y ahora está construyendo máquinas capaces de actuar con grados crecientes de autonomía.
Quizá algún día tengamos razones para temer que una de esas máquinas deje de obedecernos. Pero la historia obliga a contemplar una posibilidad todavía más incómoda: que nunca se rebele. Que haga exactamente aquello que le pidamos.
Porque entonces el problema ya no estará dentro de la máquina. Estará delante de ella. En quien decide para qué utilizarla, qué límites respetar, qué ventaja perseguir y qué precio está dispuesto a pagar por llegar antes que los demás.
Hemos dedicado enormes esfuerzos a preguntarnos cómo impedir que la inteligencia artificial escape al control humano. Tendremos que dedicar, al menos, los mismos a impedir que la ambición humana escape a todo control cuando disponga de una herramienta semejante.
El peligro no es la IA.
Es la condición humana.