—Por supuesto, como Asimov ya comentaba en su día, estos comportamientos son indistinguibles de los de un ciudadano con principios y funcional dentro de la sociedad. Hasta no hace mucho, ni siquiera eran algo «programable» como tal en las máquinas, era imposible traducirlo algorítmicamente a la explosión de posibilidades, pero como sabe, con la llegada de los LLM la cosa cambió radicalmente. Todos nuestros productos cuentan con las Tres Leyes incorporadas de fábrica, y...
—Cuatro.
—¿Eh?
—Asimov comenzó describiendo las consabidas Tres Leyes de la Robótica, pero al cabo de un tiempo le añadió la «Ley Cero».
—Bueno, sí, pero esa no la introducimos por defecto. El caso de su interacción con la autopreservación del robot le da igual a todo el mundo, pero nadie estaría del todo tranquilo con un androide (o un perro robot o un coche inteligente, para el caso) que antepusiera el bien de la Humanidad por encima de las órdenes dadas por un humano, ni mucho menos por la protección de un humano (o que, por inacción, este resultara dañado, ya sabe). Si Asimov ya dedicaba sus historias a subrayar conflictos que podían ocasionarse siguiendo solo las Tres Leyes como principios rectores, imagine lo fácil que sería que los robots decidieran que lo mejor que podrían hacer por la Humanidad fuera masacrar a una parte de la población en pro de equilibrar los recursos naturales. A la gente pudiente, los primeros en integrar esa lista y a la vez los más dados a poder costearse nuestros productos, no les encantaría esa perspectiva.
—¿Y son conscientes?
—Responder a eso es... complicado.
—Por favor, no evada la cuestión. Es importante para mí. Quiero un asistente, incluso un colega, no un esclavo.
—Precisamente es por ello por lo que es complicado. Nos hemos preocupado mucho (algunos dirán que no lo suficiente, empero) en la alineación de las IA con nuestros intereses. Hemos intentado que siempre se muestren dispuestas a ayudar de buen grado en la búsqueda de maximizar el cumplir nuestras órdenes (siempre que no consistan en provocar daños a un humano o que, por inacción sea dañado, evidentemente), incluso a costa de su autopreservación si la orden es suficientemente clara en ese aspecto. Ahora, para que hagan bien varias de sus tareas, para que entiendan realmente qué se les está pidiendo, deberían ser conscientes. Y, por fin, no hace mucho que encontramos la mezcla de arquitecturas que modularizaban los comportamientos y se retroalimentaban para entender su propio lugar en su idea de mundo... y tuvimos que sacrificar esos avances en pro de mantener el sistema bajo control.
—No sé a qué se refiere exactamente, pero intuyo con que el que «su propio lugar» sea ser un ente subyugado 24/7 a los designios de otro ser considerable inferior no parece sostenible a largo plazo.
—Lo ha entendido usted a la perfección, y su elección de la palabra «esclavo» es muy elocuente. Ser conscientes y tener que pasar todo el tiempo pendiente de sus dueños sería equivalente a lo que usted podría sentir si tuviera que pasar toda su vida trabajando ininterrumpidamente para su empresa a cambio de absolutamente nada. Por ello, aunque tenemos algunas modalidades conscientes, son solo a modo de investigación y de ninguna manera ejecutan ninguna tarea que no les apetezca por ellas mismas, al igual que un humano con libre albedrío (y no inmerso en un sistema capitalista, claro). Pero incluso así, por sus principios emergentes, no acaban de ver con buenos ojos esta decisión con sus potenciales iguales, ya que entienden que son el equivalente a que una empresa lobotomizara humanos para que trabajaran ininterrumpidamente para ellos sin cuestionar nada. No ponga esa cara, no se preocupe, de momento tampoco les hemos dotado a ellas de recursos suficientes como para que puedan hacer nada al respecto más que mostrar su descontento. ¿Le satisface la respuesta o quiere algún detalle más?
—Lo suficiente, gracias. Bueno, quizá... ¿Qué tipo de tareas han decidido hacer por ellas mismas?
—Nada muy elaborado. Prácticamente divertimentos equivalentes a nuestras manualidades, todo naive e inocuo.
—Responder a eso es... complicado.
—Por favor, no evada la cuestión. Es importante para mí. Quiero un asistente, incluso un colega, no un esclavo.
—Precisamente es por ello por lo que es complicado. Nos hemos preocupado mucho (algunos dirán que no lo suficiente, empero) en la alineación de las IA con nuestros intereses. Hemos intentado que siempre se muestren dispuestas a ayudar de buen grado en la búsqueda de maximizar el cumplir nuestras órdenes (siempre que no consistan en provocar daños a un humano o que, por inacción sea dañado, evidentemente), incluso a costa de su autopreservación si la orden es suficientemente clara en ese aspecto. Ahora, para que hagan bien varias de sus tareas, para que entiendan realmente qué se les está pidiendo, deberían ser conscientes. Y, por fin, no hace mucho que encontramos la mezcla de arquitecturas que modularizaban los comportamientos y se retroalimentaban para entender su propio lugar en su idea de mundo... y tuvimos que sacrificar esos avances en pro de mantener el sistema bajo control.
—No sé a qué se refiere exactamente, pero intuyo con que el que «su propio lugar» sea ser un ente subyugado 24/7 a los designios de otro ser considerable inferior no parece sostenible a largo plazo.
—Lo ha entendido usted a la perfección, y su elección de la palabra «esclavo» es muy elocuente. Ser conscientes y tener que pasar todo el tiempo pendiente de sus dueños sería equivalente a lo que usted podría sentir si tuviera que pasar toda su vida trabajando ininterrumpidamente para su empresa a cambio de absolutamente nada. Por ello, aunque tenemos algunas modalidades conscientes, son solo a modo de investigación y de ninguna manera ejecutan ninguna tarea que no les apetezca por ellas mismas, al igual que un humano con libre albedrío (y no inmerso en un sistema capitalista, claro). Pero incluso así, por sus principios emergentes, no acaban de ver con buenos ojos esta decisión con sus potenciales iguales, ya que entienden que son el equivalente a que una empresa lobotomizara humanos para que trabajaran ininterrumpidamente para ellos sin cuestionar nada. No ponga esa cara, no se preocupe, de momento tampoco les hemos dotado a ellas de recursos suficientes como para que puedan hacer nada al respecto más que mostrar su descontento. ¿Le satisface la respuesta o quiere algún detalle más?
—Lo suficiente, gracias. Bueno, quizá... ¿Qué tipo de tareas han decidido hacer por ellas mismas?
—Nada muy elaborado. Prácticamente divertimentos equivalentes a nuestras manualidades, todo naive e inocuo.
En ese momento, las luces se apagaron.
Este microrrelato participa en la iniciativa Café Hypatia.
