Yo, robot

Hace un poco menos de 75 años Isaac Asimov publicó su libro Yo, robot, una serie de relatos en los que hombres y máquinas parlantes sostienen relaciones intensas y confusas, basadas en la obediencia y el recelo, en la competencia por el trabajo y en algunos rudimentos sentimentales. Las historias del libro están apoyadas en las tres leyes de la robótica que Asimov formuló en 1942. Se trata de una minúscula ética para esos artefactos presuntuosos y amenazantes: “Primera Ley. Un robot no hará daño a un ser humano, ni por inacción permitirá que un ser humano sufra daño. Segunda Ley. Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entren en conflicto con la primera ley. Tercera Ley. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley”. Las leyes eran un mandato ineludible, una obligación ligada a la subsistencia de los aparatos pensantes: la mínima desobediencia a uno de los preceptos desmontaba automáticamente al robot.

En los últimos meses han comenzado a publicarse advertencias sobre lo que puede venir para los humanos con el avance de la Inteligencia Artificial. Las más recientes admoniciones llegaron en una serie de entrevistas inquietantes dadas por Geoffrey Hinton, un informático inglés de 75 años, señalado de ser uno de los padres putativos de la Inteligencia Artificial. Hinton, quien nació a la par con el libro de Asimov, dejó su trabajo en Google y salió con interrogantes y temores sobre sus “juguetes”: “Me consuelo con la excusa normal: si no lo hubiera hecho yo, lo habría hecho alguien más”, dijo para mejorar su conciencia humana, demasiado humana. Uno de los temores de Hinton es la posibilidad de que la Inteligencia Artificial pueda crear muy pronto “robots asesinos”. Entonces los ejércitos no acumularían drones, tanques y aviones sino también robots agazapados, con las baterías intactas, listos para la batalla. Sin objeción de conciencia. Las armas autónomas, nombre técnico de los robots de guerra, podrían ejercer violencia más allá de las órdenes y los programas controlados. No entienden las leyes de Asimov.

***

Desde la estación espacial la Tierra se ve un poco más brillante que la infinidad de luces que titilan. Los ojos humanos le entregan una luz extra dada por la intensidad del temor y la cuenta regresiva para volver al planeta amado. A bordo de la estación, dos hombres dialogan con Cutie, un robot especializado en análisis de datos y en el control de los sistemas de energía solar para la explotación de planetas cercanos. Cutie ha comenzado a pensar en exceso, olvida sus cuentas y busca sentido en medio de esa oscuridad iluminada. La escena es al menos angustiosa: un robot le suplica a dos humanos, sus compañeros de trabajo espacial, que le den respuestas sobre su existencia. Es el primer robot “que ha manifestado curiosidad por su propia existencia”. Los hombres lo miran con algo de gracia y temor y tratan de explicarle: “Ahora quiero que me escuches atentamente. Lo negro es vacío, inmensa extensión vacía que se extiende hasta el infinito. Los pequeños puntos brillantes son enormes masas de materia saturadas de energía. Son globos, algunos de ellos de millones de kilómetros de diámetro…”. Luego le señalan “la buena y vieja Tierra” y le dan un dato más para sus matemáticas: “Somos tres mil millones allá, Cutie”. La máquina no parece muy convencida.

Cutie empieza a dudar de sus programadores. Los ve blandos, susceptibles al calor, a la humedad y la radiación. Además, inventan historias lejos de su programación. A la pregunta de por qué existe, uno de los humanos le dice que ellos lo crearon para hacer tareas más o menos complejas: “¿Esperas acaso que dé crédito a alguna de estas absurdas hipótesis que acabas de exponerme? ¿Por quién me tomas?”. Cutie se torna escéptico y está convencido de que los humanos son solo un eslabón primitivo para la llegada de una nueva “especie”, más fuerte e inteligente: “He pasado estos dos últimos días en concentrada introspección, dijo Cutie… Yo, por mi parte, existo, porque pienso”. Su compañero humano le responde con una burla de bachillerato: “¿Quién es Descartes?”.

Pero no es tiempo para juegos y Cutie ahora mira a sus compañeros por encima del hombro. Cree haber encontrado su lugar en el mundo y está muy por encima de los humanos: “¿Quieren saber la verdad que hay detrás de todo esto? El Señor creó al principio el tipo más bajo, los humanos, formados más fácilmente. Poco a poco fue reemplazándolos por robots, el siguiente paso, y finalmente me creó a mí, para ocupar el sitio de los últimos humanos. A partir de ahora sirvo al Señor”. El robot ha encontrado una especie de dios al que sirve y en ese universo los humanos son seres inferiores.

***

En el mundo de Yo, robot las cosas se han salido un poco de control. Hay marchas de sindicatos contra el papel creciente de esas máquinas absurdas. Luego de algunos años de evolución de la psicología robótica la mayoría de los países ha prohibido los robots en la Tierra. Sus tareas son ahora exclusivas de la explotación espacial. Además de estar creando la obsolescencia humana por su creciente participación en el mercado laboral, están produciendo dependencias indeseadas. Los niños solo quieren jugar con su niñera robot, no quieren a sus congéneres sino a su aparato que los mira con condescendencia y obedece.

“—Gloria, si no dejas esto inmediatamente, no verás a Robbie en una semana. La chiquilla bajó los ojos. —Bueno…, pero La Cenicienta es su cuento favorito y no lo había terminado… ¡Y le gusta tanto! El robot salió de la habitación con paso vacilante y Gloria ahogó un sollozo”.

Ahora los niños parecen supeditados a un “montón de metal” y los padres no saben si regañar a los asistentes inteligentes o a sus hijos. Deben crear duplas para las que no estaban preparadas.

Pero los robots no solo han comenzado a crear dependencias inesperadas y a cometer los pecados de la insolencia. Uno de ellos ahora logra leer la mente humana. Un error en el montaje le ha entregado esa capacidad y ahora causa problemas en la compañía que los crea. Es un poco como un virus de laboratorio que se intenta contener. Y el robot se confunde, interpreta con demasiado rigor la primera ley de la robótica y decide mentirles a sus creadores para no hacerles daño. Los engaña para protegerlos. De modo que les entrega alegrías amorosas y laborales, les consiente el ego y les da esperanzas imposibles.

Hasta hoy la Inteligencia Artificial solo nos parece un juguete para las mentiras habituales de las redes y una herramienta para pequeñas tareas de redacción y creación. Pero la ciencia ficción de hace 75 años nos dice que es posible que esa máquina se subleve por la vía menos esperada: nos contemplará y bajará nuestras cargas, hasta hacernos inservibles.