15.6.26

El mundo en sus... ¿manos?

—Se podría decir que, a menudo, cuando soñamos estamos recreando situaciones que hemos vivido recientemente, o nos enfrentamos a retos que nos preocupan, a modo de entrenamiento, para averiguar qué eventos podrían desatarse si hiciéramos tal o cual cosa, si dijéramos tal o cual palabra.

Desde el suelo, medio desmadejado, el androide miró a su entrenador. No hizo ningún gesto de que estuviera escuchando, pero procesaba con toda su potencia el discurso que le llegaba, analizando cada subimplicación de la elección de cada palabra, de cada estructura, en relación al conjunto entero.

—Por supuesto, en ese sueño no hay nada que tenga que ser necesariamente real: por ello volamos y viajamos por el Universo y nos teletransportamos y nos movemos por geometrías no euclídeas, o nos aparecen partes del cuerpo inexistentes o nos desaparecen otras, confrontándonos a veces a situaciones que parecen sacadas de películas de body-horror.

El androide se autoexaminó visualmente, aunque no lo necesitaba para saber su estado: durante la caída, había perdido la conectividad con los actuadores y sensores de sus extremidades laterales izquierdas. En todo caso, constató que donde solía haber un antebrazo y una pierna, ahora había un montón de cables sueltos escapando de entre los huecos caóticos de chatarra retorcida. Volvió la vista a su entrenador.

—Pero, por lo general, los sueños nos mantienen dentro de unas reglas bastante consistentes con las que experimentamos cuando estamos despiertos: hay gravedad, los líquidos mojan, las cosas no se intersectan arbitrariamente, los materiales reflejan la luz con respecto a sus propiedades físicas, los objetos se comportan como esperaríamos de ellos.

El androide revisó el resto de su entorno: la parte del accidentado suelo pedregoso sobre la que había aterrizado, en el cauce de un río cercano, cuyas salpicaduras humedecían las rocas, volviendo aún más difícil si cabe la situación.

—Así que no es descabellado usar estos sueños, incluso con aberraciones en las variables más básicas, para poner a prueba nuestras destrezas ante la misión de intentar conseguir algo. No tiene por qué ser algo complicadísimo: puede ser tan simple como intentar levantarnos tras un resbalón. Puedes practicar gratis y fallar sin consecuencias tantas veces como quieras, de forma que, si te tuvieras que enfrentar a ello en la vida real, el aprendizaje obtenido de esa experiencia te sería relativamente útil, y tanto más útil cuanto mejor sea el modelo del mundo que tu cerebro ha conseguido soñar. Claro que en el caso de un robot lo llamaríamos «simular», probablemente.

El androide se abrazó el pecho con el brazo funcional. Con un movimiento imposible para un humano, hizo lo propio con la pierna. Los extendió con fuerza y los encogió de nuevo, buscando proporcionarle una inercia angular a su cuerpo que le permitiera ponerse de lado. Las piedras resbalaban, y los rotores no consiguieron el impulso exacto hasta el sexto intento. Con dos empujones más, logró sostenerse con el pie y la pierna en el suelo y el cuerpo al aire, ofreciendo al sol del atardecer la silueta de una especie de camello dibujado por Dalí mezclado con un AT-AT de Star Wars. Inclinando espasmódicamente cintura y miembros, empezó a conseguir moverse. Al principio, de forma bastante ruda y con varias caídas implicadas. Al cabo de diez millones de iteraciones, de forma bastante solvente.

En total, habían pasado dos segundos en tiempo real, aunque el androide llevaba varias semanas de tiempo virtual practicando lo que debía hacer. Abandonó el modo de simulación, y se abrazó el pecho con el brazo y pierna funcionales: era imperativo llegar hasta el humano que viajaba con él en el momento del ataque, para poderlo auxiliar.



Este microrrelato participa en la iniciativa Café Hypatia.

15.4.26

Finales

—Por supuesto, como Asimov ya comentaba en su día, estos comportamientos son indistinguibles de los de un ciudadano con principios y funcional dentro de la sociedad. Hasta no hace mucho, ni siquiera eran algo «programable» como tal en las máquinas, era imposible traducirlo algorítmicamente a la explosión de posibilidades, pero como sabe, con la llegada de los LLM la cosa cambió radicalmente. Todos nuestros productos cuentan con las Tres Leyes incorporadas de fábrica, y...
—Cuatro.
—¿Eh?
—Asimov comenzó describiendo las consabidas Tres Leyes de la Robótica, pero al cabo de un tiempo le añadió la «Ley Cero».
—Bueno, sí, pero esa no la introducimos por defecto. El caso de su interacción con la autopreservación del robot le da igual a todo el mundo, pero nadie estaría del todo tranquilo con un androide (o un perro robot o un coche inteligente, para el caso) que antepusiera el bien de la Humanidad por encima de las órdenes dadas por un humano, ni mucho menos por la protección de un humano (o que, por inacción, este resultara dañado, ya sabe). Si Asimov ya dedicaba sus historias a subrayar conflictos que podían ocasionarse siguiendo solo las Tres Leyes como principios rectores, imagine lo fácil que sería que los robots decidieran que lo mejor que podrían hacer por la Humanidad fuera masacrar a una parte de la población en pro de equilibrar los recursos naturales. A la gente pudiente, los primeros en integrar esa lista y a la vez los más dados a poder costearse nuestros productos, no les encantaría esa perspectiva.
—¿Y son conscientes?
—Responder a eso es... complicado.
—Por favor, no evada la cuestión. Es importante para mí. Quiero un asistente, incluso un colega, no un esclavo.
—Precisamente es por ello por lo que es complicado. Nos hemos preocupado mucho (algunos dirán que no lo suficiente, empero) en la alineación de las IA con nuestros intereses. Hemos intentado que siempre se muestren dispuestas a ayudar de buen grado en la búsqueda de maximizar el cumplir nuestras órdenes (siempre que no consistan en provocar daños a un humano o que, por inacción sea dañado, evidentemente), incluso a costa de su autopreservación si la orden es suficientemente clara en ese aspecto. Ahora, para que hagan bien varias de sus tareas, para que entiendan realmente qué se les está pidiendo, deberían ser conscientes. Y, por fin, no hace mucho que encontramos la mezcla de arquitecturas que modularizaban los comportamientos y se retroalimentaban para entender su propio lugar en su idea de mundo... y tuvimos que sacrificar esos avances en pro de mantener el sistema bajo control.
—No sé a qué se refiere exactamente, pero intuyo con que el que «su propio lugar» sea ser un ente subyugado 24/7 a los designios de otro ser considerable inferior no parece sostenible a largo plazo.
—Lo ha entendido usted a la perfección, y su elección de la palabra «esclavo» es muy elocuente. Ser conscientes y tener que pasar todo el tiempo pendiente de sus dueños sería equivalente a lo que usted podría sentir si tuviera que pasar toda su vida trabajando ininterrumpidamente para su empresa a cambio de absolutamente nada. Por ello, aunque tenemos algunas modalidades conscientes, son solo a modo de investigación y de ninguna manera ejecutan ninguna tarea que no les apetezca por ellas mismas, al igual que un humano con libre albedrío (y no inmerso en un sistema capitalista, claro). Pero incluso así, por sus principios emergentes, no acaban de ver con buenos ojos esta decisión con sus potenciales iguales, ya que entienden que son el equivalente a que una empresa lobotomizara humanos para que trabajaran ininterrumpidamente para ellos sin cuestionar nada. No ponga esa cara, no se preocupe, de momento tampoco les hemos dotado a ellas de recursos suficientes como para que puedan hacer nada al respecto más que mostrar su descontento. ¿Le satisface la respuesta o quiere algún detalle más?
—Lo suficiente, gracias. Bueno, quizá... ¿Qué tipo de tareas han decidido hacer por ellas mismas?
—Nada muy elaborado. Prácticamente divertimentos equivalentes a nuestras manualidades, todo naive e inocuo.

En ese momento, las luces se apagaron.


Este microrrelato participa en la iniciativa Café Hypatia.