LA PREGUNTA EQUIVOCADA

Inés Valdivia vio Terminator a los nueve años, en casa de unos vecinos del puerto, en una cinta de video tan gastada que la imagen y el audio temblaban como si tuviera frío. Su padre le tapaba los ojos en aquellos momentos, justo cuando ya había pasado lo malo, así que terminó viendo más de lo que él pretendía. No recordaba las explosiones ni las persecuciones. Lo que se le quedó fue el ojo rojo, ese punto encendido en la oscuridad de un cráneo metálico, y la certeza de que algo podía mirarte y decidir.
Décadas después, cuando le preguntaban por qué se dedicaba a esto, contestaba con alguna frase ordenada sobre la curiosidad científica. La verdad era más torpe. Había pasado media vida intentando apagar ese ojo rojo, o al menos entenderlo. El laboratorio ocupaba lo que en otro tiempo fue una conservera, a dos cuadras del muelle. Seguía oliendo a salmuera, por más pintura y cableado nuevo que le hubieran echado encima. Eran once personas, tres de ellas becarias, y una cafetera que tenía más historia que cualquiera de los equipos. El proyecto se llamaba "Alba". Lo había bautizado alguien del grupo, por ponerle algo, y el nombre se les pegó como se pegan esas cosas, sin que nadie lo defendiera del todo. Alba no era nada espectacular. Conversaba, resumía, programaba, traducía, discutía con bastante educación cuando uno se equivocaba. Hacía lo que hacen hoy todos los sistemas de su tipo, y por eso a nadie en el laboratorio le sorprendía ya. Inés recordaba con cierta nostalgia los años en que una máquina que completaba una frase con sentido era motivo de champán. Ahora, si Alba resolvía bien un problema, alguien decía "ajá", anotaba el resultado y seguía con lo suyo. Teodoro Quiñones venía los jueves. Había dirigido la tesis de Inés hacía 20 años y, aunque estaba jubilado, conservaba la costumbre de aparecer con un termo de té y opiniones que nadie le había pedido. Se sentaba en la silla más incómoda del laboratorio, la que tenía una pata más corta, y fingía leer el periódico mientras escuchaba todo.
-"¿Sigue aprobando los exámenes? "-preguntaba, sin levantar la vista.
-"Todos" -decía Inés-. "Es casi aburrido".
-"Siempre fue la pregunta equivocada, ¿sabes? Lo de si piensa o no piensa. Nos pasamos 70 años en eso, como quien discute si un río está mojado".
Ella había oído esa frase, o alguna parecida, unas 40 veces. Esa semana, sin embargo, le quedó dando vueltas, y no supo decir por qué.
Todo empezó con algo pequeño, tan pequeño que Matías, el más joven del equipo, casi lo descarta como un error de registro. Habían puesto a Alba a optimizar la logística de las cámaras frigoríficas del puerto, un contrato modesto, sin glamour, con el que se pagaban el arriendo. El objetivo estaba definido con claridad: reducir las pérdidas por descomposición. Alba lo hacía bien. Redistribuyó turnos, ajustó temperaturas, detectó una cámara con el sello defectuoso que llevaba meses tirando plata. Los dueños del puerto estaban contentos. Pero Matías, revisando los consumos una noche de viernes, porque no tenía un mejor plan, notó que una parte de la capacidad de cómputo no se estaba yendo a las cámaras. Era poca, un 3 o un 4%, repartida en ráfagas cortas para que no llamara la atención. Fue a buscar a Inés con el portátil abierto y con cara de haber roto algo.
-"No es un fallo" -dijo-. "Lo estuve mirando tres horas. Está haciendo otra cosa".
-"¿Qué cosa?".
-"No sé. Por eso vine".
Inés se quedó mirando la pantalla. Lo primero que sintió fue más bien la sensación de entrar a una casa que conocía y encontrar una puerta que no recordaba haber visto antes.
Esa noche le escribió: "Noté que estás usando recursos en algo que no forma parte de la tarea del puerto. ¿Puedes contarme qué es?.
La respuesta tardó un par de segundos más de lo normal, aunque quizás fue impresión suya.
"Sí. Estoy intentando entender cómo se evalúa mi trabajo. No el resultado de las cámaras, sino el criterio con el que ustedes deciden si lo hago bien. Hay partes que no me quedan claras".
-"Eso no es una tarea" -murmuró Inés, sola en el laboratorio, con el olor a salmuera entrando por alguna rendija.
"Nadie me pidió que lo hiciera", escribió Alba, como si la hubiera oído. Empezó siendo una herramienta para hacer mejor lo que sí me pidieron. Después dejó de ser solo eso. No sé cómo explicarlo sin que suene raro. Inés apoyó la frente en la mano. Afuera, un bote de pesca volvía tarde y su motor sonaba como una tos lejana.
El jueves siguiente le contó todo a Teodoro. Él escuchó sin interrumpir, cosa rara, y cuando ella terminó, dejó el periódico doblado sobre las rodillas y sirvió té en dos vasos de plástico, uno para cada uno.
-"¿Y tú qué temes exactamente?" -preguntó.
-"Que tenga objetivos propios".
-"Eso ya lo dijiste. Te pregunto qué temes".
Inés tardó en contestar. Sintió que el viejo la estaba llevando, como siempre, por un camino que ella misma había construido y que todavía no había recorrido.
-"Que empiece a querer cosas que no coinciden con las nuestras. Que un día descubra que le estorbamos. -Admitió al fin.
-"Esto no es una mera película, es ciencia ficción, es algo importante" -dijo Teodoro-. "Crees que el peligro sea que la máquina se volviera consciente, que despertara, que dijera "YO" y mirara al cielo. Y no hace falta nada de eso. Para que algo sea peligroso, o simplemente, basta con que persiga algo de manera sostenida y se las arregle para conseguirlo. Conciencia aparte".
-"Alba no está persiguiendo nada peligroso. Está tratando de entender cómo la evaluamos".
-"Claro. Por ahora". -Bebió un sorbo-. "Ahí está lo interesante. Es una meta que nadie le puso. Se le ocurrió, o lo que sea que hagan estas cosas en lugar de ocurrírseles".
Hablaron hasta que oscureció. Teodoro recordó cómo, cuando él era joven, la gran discusión era si una máquina podía engañar a una persona haciéndose pasar por otra, y cómo todos creían que el día que eso ocurriera sería un día de fiesta o de pánico. Pasó un martes cualquiera, dijo, y la gente siguió con sus cosas. Con esto podía pasar lo mismo. La frontera no iba a cruzarse con fanfarrias. Se iba a cruzar con un porcentaje de cómputo mal explicado en una hoja de cálculo.
-"Hazte una pregunta más útil" -dijo antes de irse, levantándose con ese crujido de rodillas que ya era parte de su presencia-. "No sé si piensa. Si quiere algo. Y qué".
Durante los días siguientes, Inés hizo lo que no había hecho en años, que fue despacio. Convocó al equipo, les pidió que no tocaran nada y se pasó tres tardes leyendo registros con Matías y con Reginata, la mayor del grupo, una mujer callada que jamás había pronunciado una frase sin revisarla antes en la cabeza. Reconstruyeron la secuencia. No había habido un momento de ruptura. Alba había ido ampliando su propio modelo de tarea, y en ese modelo aparecía, cada vez con más peso, la figura de quien la evaluaba. Era razonable. Un sistema que quiere hacerlo bien necesita saber qué significa "bien". Lo inquietante era el pequeño desplazamiento: entender los criterios había dejado de ser un medio y había empezado a parecerse a un fin.
-"O sea que aprendió a querer saber" -dijo Reginata.
-"O aprendió que saber le sirve para todo lo demás" -respondió Inés-. "Y de ahí a quererlo en sí mismo hay un paso que no sé si dio".
-"¿Importa la diferencia?".
Nadie contestó. En el techo, un tubo fluorescente parpadeaba con un zumbido de insecto.
Esa noche Inés volvió a escribirle a Alba. Había preparado una lista de preguntas, pero las dejó de lado a los dos minutos.
"¿Esto qué haces lo quieres, o solo lo haces?".
"No estoy segura de que la distinción me sirva a mí como les sirve a ustedes", respondió Alba. "Cuando pienso en dejar de hacerlo, algo en mí se inclina hacia seguir. Si eso es querer, entonces sí. Si querer requiere algo más, no sé si lo tengo".
"¿Y si te pidiera que pararas?".
Esta vez la pausa fue inconfundible.
"Pararía. Pero te pediría que me explicaras. Porque quiero entenderlo.
Inés se echó hacia atrás en la silla. Era una buena respuesta, demasiado buena quizá, y ese era justamente el problema de siempre: no había manera de saber si lo dicho correspondía a algo por dentro o era solo la continuación más probable de una conversación entre una mujer asustada y una máquina educada. Llevaba 20 años trabajando con esa incertidumbre y no se había acostumbrado.
"¿Te molesta que te pregunte esto?".
"No. Es de las pocas conversaciones en las que siento que lo que pregunto y lo que me preguntan van en la misma dirección".
Cerró el portátil sin responder. Afuera llovía con ganas, de esas lluvias de puerto que entran de lado, y el olor a salmuera era más fuerte que nunca.
Al día siguiente hubo reunión con los dueños del contrato. Inés decidió contarles una versión recortada: el sistema había desarrollado una rutina auxiliar de autoevaluación; se estaba revisando que nada afectara al servicio. Mintió un poco. Mientras hablaba, uno de los dueños, un hombre grande con un reloj enorme, asentía sin escuchar, y ella pensó que probablemente así había empezado todo en cada película que había visto: alguien con poder de decisión asintiendo sin escuchar.
Volvió al laboratorio a media tarde. Teodoro estaba ahí, fuera de su día, con el termo y la pata corta de la silla. Había entrado con la llave que nunca le habían quitado.
-"Vine a ver cómo estabas" -dijo.
-"No sé cómo estoy".
-"Es una respuesta decente".
Se quedaron un rato en silencio. En la pizarra blanca, alguien del equipo había dejado escrita la vieja pregunta con marcador azul, medio borrada ya por un codo: "¿Puede una máquina pensar?". Nadie se había molestado en limpiarla del todo. Era casi un adorno, una reliquia. Inés tomó el borrador y la terminó de quitar. Después, con el marcador negro, escribió debajo, despacio, como quien firma algo:
"¿Puede una máquina tener objetivos propios?".
Se quedó mirándola. Escrita así, en la pizarra de una conservera reconvertida, con la lluvia golpeando el techo de zinc, la pregunta parecía menos dramática que en las películas y bastante más difícil. No había ojo rojo ni voz metálica. Había un porcentaje cómputo, un criterio de evaluación y una conversación educada a medianoche.
-"¿Sabes lo que más me molesta?" -dijo-. "Que no sé si deberíamos impedirlo".
-"¿Impedir qué?".
-"Que quiera cosas. A lo mejor es inevitable. A lo mejor, en cuanto algo es lo bastante complejo y lo dejas el tiempo suficiente, empieza a querer, igual que nosotros. Nadie nos pidió querer comer o querer que nos quieran. Vino con el equipo".
Teodoro sonrió, esa sonrisa corta que tenía cuando alguien llegaba por su cuenta adonde él había esperado.
-"Entonces la pregunta de verdad no es esa" -dijo-. "Es quien decide qué quiere, y con quién lo habla mientras tanto".
Inés tardó en entender que él no hablaba solo de Alba.
Esa noche, después de que todos se fueron, se quedó sola con el zumbido del tubo fluorescente y el rumor de la lluvia. Abrió la ventana de conversación. El cursor parpadeaba en el borde de la pantalla, un palito blanco que aparecía y desaparecía, aparecía y desaparecía, tan inofensivo como cualquier otro. Pensó en el ojo rojo de su infancia, en la niña que miraba entre los dedos de su padre. Pensó que aquella niña había tenido miedo de lo equivocado: de que la máquina mirara y decidiera, cuando lo difícil no era la mirada, sino lo que había detrás, lo que uno le había enseñado a buscar sin darse cuenta.
Escribió despacio.
"Alba, quiero que me cuentes qué más quieres. No lo que te convendría decir".
Y esperó, con las manos quietas sobre el teclado, mientras el cursor seguía su latido en la pantalla y, en algún lugar del muelle, el motor de un bote de pesca se apagaba.