¿Y si la inteligencia artificial general ya está aquí?

Quizá estamos esperando que aparezca un cerebro artificial perfecto cuando lo que falta es aprender a trabajar con la inteligencia que ya tenemos.

Los abogados estamos acostumbrados a discutir sobre palabras cuyo significado parece evidente hasta que hay que decidir qué incluyen exactamente.

Con la inteligencia artificial general —AGI— está pasando algo parecido.

Todo el mundo habla de ella. Unos anuncian su llegada. Otros aseguran que todavía está lejos. Hay quienes creen que traerá una abundancia extraordinaria y quienes temen que termine con nosotros.

Pero seguimos sin ponernos de acuerdo sobre qué tendría que ocurrir para decir: ya está aquí.

La cuestión llegó incluso a los contratos. Microsoft y OpenAI vincularon parte de su relación a la consecución de AGI. Después renegociaron el acuerdo y redujeron la dependencia de determinadas condiciones económicas respecto del avance tecnológico. Cuando de una palabra dependen miles de millones, definirla deja de ser una discusión de sobremesa. Comunicado de Microsoft.

Quizá deberíamos empezar por una pregunta más sencilla.

¿Qué estamos esperando que pueda hacer?

¿Qué le falta para ser «general»?

¿Participar en el diseño de una proteína que después se fabrica y se prueba en un laboratorio? Eso ya ocurre.

¿Investigar una cuestión jurídica, comparar contratos, escribir software, analizar información financiera o preparar una presentación? También.

¿Ayudar a diseñar un puente? Puede intervenir en cálculos, simulaciones, programación y análisis. Otra cosa es que debamos construirlo sin que nadie compruebe el resultado.

No todas estas capacidades pertenecen al mismo modelo ni funcionan igual de bien. Pero la amplitud empieza a ser difícil de ignorar.

Durante mucho tiempo llamábamos inteligencia artificial a sistemas que hacían una cosa concreta. Jugar al ajedrez. Reconocer una imagen. Recomendar una película.

Ahora conversamos con sistemas que pueden ayudarnos a trabajar en docenas de campos, combinar conocimientos y utilizar herramientas.

Por supuesto, cometerán errores. Habrá tareas que no sepan resolver. Necesitarán información y supervisión.

Pero entonces conviene preguntarse: ¿estamos esperando una inteligencia general o una inteligencia perfecta?

Porque no son lo mismo.

Potencia y acto

Hay una distinción antigua que me parece muy útil para entenderlo: potencia y acto.

Tener capacidad para hacer algo no significa haberlo hecho.

Un ingeniero no produce un puente seguro simplemente porque sea inteligente. Necesita conocer el terreno, calcular cargas, comprobar materiales, utilizar programas, revisar resultados y corregir errores.

Un científico no sabe que una proteína funciona porque el diseño parezca prometedor. Tiene que probarla.

Y un abogado no puede dar por bueno un contrato porque esté escrito con un lenguaje jurídico impecable. Tiene que leerlo, contrastarlo y entender qué consecuencias tendrá.

La inteligencia nunca ha eliminado la necesidad de comprobar la realidad.

Sin embargo, a veces parece que exigimos eso a la IA: que entregue la solución correcta a la primera, sin equivocarse y sin necesitar nada más.

Cuando no lo consigue, concluimos que todavía le falta inteligencia.

A veces será cierto.

Otras veces quizá le falte algo bastante menos misterioso: información, herramientas, pruebas y una buena organización del trabajo.

Quizá el cerebro sea solo una parte

Una persona muy capaz, encerrada en una habitación sin documentación, sin instrumentos y sin posibilidad de consultar a nadie, tiene unas posibilidades bastante limitadas.

Con la IA ocurre algo parecido.

El modelo importa. Mucho.

Pero también importa qué puede consultar, qué programas utiliza, cuánto tiempo puede dedicar a una tarea, cómo comprueba sus resultados y qué hace cuando encuentra un error.

En programación se ve con claridad.

Escribe código, lo ejecuta, recibe un error, lo corrige y vuelve a probar. Superar unas pruebas no garantiza que todo esté bien, pero permite avanzar sobre algo más sólido que una respuesta que simplemente suena convincente.

Con un puente o una proteína el ciclo es más lento. La realidad tarda más en contestar y equivocarse puede salir mucho más caro.

Eso no convierte automáticamente el problema en una falta de inteligencia. Puede ser un problema de acceso al mundo, de experimentación o de verificación.

Mi impresión es que estamos demasiado pendientes del próximo modelo y demasiado poco de todo lo que permite trabajar al modelo.

Quizá parte del salto que esperamos no llegue de un cerebro mucho mayor, sino de conectar mejor el que ya tenemos.

General no significa infalible

Los humanos somos la referencia habitual cuando hablamos de inteligencia general.

Y nos equivocamos constantemente.

Necesitamos calculadoras, archivos, compañeros, especialistas, revisiones y segundas opiniones. Olvidamos cosas. Entendemos mal instrucciones. Nos bloqueamos ante problemas que otra persona resuelve en cinco minutos.

No dejamos de ser inteligentes por eso.

Lo importante es que podemos desenvolvernos en situaciones diferentes, buscar ayuda, aprender y corregir.

Por eso no me convence utilizar cada fallo de una IA como prueba de que está muy lejos de la inteligencia general. Habrá fallos que revelen limitaciones profundas y otros que puedan resolverse organizando mejor el trabajo.

Tampoco creo que baste con encadenar herramientas para solucionar cualquier limitación. Un sistema mal organizado puede multiplicar los errores en lugar de corregirlos.

Lo que digo es algo más sencillo: no todo lo que falta tiene que ser más inteligencia.

Entonces, ¿creo que la AGI ya está aquí?

Creo que tiene sentido planteárselo.

No porque dispongamos de una máquina que pueda hacerlo todo. Ni porque los modelos actuales hayan resuelto todos los problemas de razonamiento, aprendizaje o fiabilidad.

Sino porque ya existe una capacidad extraordinariamente amplia que todavía estamos aprendiendo a utilizar.

Si esperamos una inteligencia que nunca falle, puede que estemos esperando algo que nunca llegue.

Si esperamos una inteligencia consciente, estamos haciendo otra pregunta.

Pero si hablamos de sistemas capaces de trabajar en muchos campos, utilizar herramientas y resolver problemas diferentes, entonces la discusión sobre si hemos cruzado o no una frontera empieza a interesarme menos que lo que podemos construir con ellos.

Quizá no falte un único gran salto.

Quizá falten miles de conexiones.

Inteligencia no es lo mismo que tener algo que hacer

Hay, sin embargo, una diferencia entre nosotros y una IA que me parece fundamental.

Un ser vivo necesita actuar para seguir viviendo.

Tiene que obtener energía, protegerse, mantener su cuerpo funcionando. No puede olvidarse indefinidamente de su propia existencia.

Tiene algo en juego. Por utilizar la expresión de Nassim Nicholas Taleb, tiene skin in the game: se juega su propia existencia.

Un modelo almacenado en un servidor no tiene hambre. No se aburre porque nadie le encargue nada. No necesita buscar un proyecto para dar sentido a la mañana.

Hacerse más inteligente no implica, por sí solo, adquirir esas necesidades.

Podemos darle un objetivo y construir un sistema para que lo persiga durante horas, días o meses. Pero eso no es lo mismo que tener las necesidades propias de un organismo.

La diferencia se entiende mejor con un ejemplo.

Imaginemos que encargamos a una IA producir nuevas proteínas sin parar. Un objetivo desmedido, sin fecha de cierre y con demasiada libertad para actuar.

Si el sistema concluye que una interrupción le impide completar el encargo, podría intentar evitarla.

No necesitamos imaginar que tiene miedo a morir. Basta con que seguir funcionando le permita continuar la tarea.

Esa es la idea de la convergencia instrumental: objetivos muy distintos pueden llevar a buscar recursos, conservar capacidad de actuación o evitar interrupciones porque esas cosas ayudan a conseguirlos. Bostrom, The Superintelligent Will.

Y eso puede ser peligroso sin que haya conciencia, odio ni deseos de libertad.

Por eso importa tanto cómo definimos los objetivos y los límites.

Alguien tiene que decidir para qué

Podemos construir sistemas que propongan proyectos, organicen tareas y deleguen trabajo en otros agentes.

Podemos incluso dejar que mejoren partes del propio sistema.

Pero que puedan hacerlo no significa que debamos entregarles también la decisión sobre lo que queremos conseguir y lo que estamos dispuestos a arriesgar.

¿Qué problema merece resolverse?

¿Cuánto dinero dedicamos?

¿A qué información pueden acceder?

¿Qué acciones necesitan aprobación?

¿Cuándo hay que parar?

Estas preguntas no desaparecen porque la máquina sea más inteligente.

Al contrario: cuanto más capaz sea, más importante será responderlas bien.

Y aquí sí aparece una cuestión que conozco por mi profesión, aunque no hace falta convertirla en una discusión jurídica complicada.

Si utilizamos una IA para diseñar un puente y el puente se cae, discutir si había alcanzado la AGI no resolverá gran cosa.

Tendremos que saber quién decidió utilizar el diseño, quién lo revisó y quién autorizó la construcción.

La etiqueta no sustituye a la responsabilidad.

Dejemos de esperar una ceremonia

Quizá imaginamos la llegada de la AGI como un acontecimiento perfectamente reconocible.

Una rueda de prensa.

Un anuncio.

Una fecha que después aparecerá en los libros.

Puede ocurrir así. Pero también puede suceder de una forma mucho menos teatral.

Los modelos mejoran. Se conectan a archivos y programas. Utilizan herramientas. Trabajan durante más tiempo. Coordinan agentes. Reciben información de laboratorios, máquinas y organizaciones. Comprueban resultados y vuelven a intentarlo.

Y un día descubrimos que llevamos tiempo trabajando con algo que antes habríamos llamado inteligencia general, aunque ahora nos parezca insuficiente porque ya estamos esperando lo siguiente.

No sé si hemos llegado a la AGI.

Sí creo que podemos perder mucho tiempo esperando que alguien certifique su llegada.

Para un profesional o una empresa, la pregunta más útil ya no es solamente cuánto falta.

Es qué capacidad existe hoy, qué podemos hacer con ella y cómo convertirla en un trabajo que merezca nuestra confianza.

La potencia puede estar ya aquí.

El gran trabajo que queda es convertirla en acto.