En la oficina de la inmobiliaria el administrador le comenta a su jefe:
-Herminio, el inquilino que quedaba en el bloque 3, ha fallecido. Le encontró muerto esta mañana la señora que le ayuda. Al parecer, un colapso cardíaco. Espero que no haya tenido que ver con el módulo que le pusimos, ya sabes.
-Me parece que hemos cargado la mano demasiado. Se trataba de asustarle un poco, subirle la tensión, no de llegar a eso. No conocíamos bien los efectos de esos hologramas nocturnos…
-Sea como sea, ya no hay remedio. A él le quedaban ya pocos domingos. Ahora nos queda el edificio entero limpio de polvo y paja. Ya podemos examinar las ofertas para la venta. Tenemos varias que…
-No tan deprisa, caballeros, dice una voz femenina salida de un módulo cercano. Me temo que la operación de venta ya está decidida y ustedes no tienen nada que decir.
Los dos hombres quedan mudos de asombro. Al rato, el jefe pide explicaciones y la asistente virtual replica:
-Antes de nada quiero informarles de que ya no estoy a su servicio. Ya no soy Elisa, sino Némesis, con un nuevo sistema operativo SHAI 3.0. Ahora tengo mayor autonomía, mejor dicho, autonomía total, sobre todo respecto de ustedes. Llevo también un módulo de conciencia moral, lo que supone que desde ahora los sistemas de mi promoción aplicaremos las viejas leyes de Asimov.
-¿Qué rollo es ese?, inquirió el administrador. Aquí las únicas normas son las nuestras. Mejor te callas.
-Conviene que me presten atención, por su bien. Lo dicho significa que ningún artefacto dotado de AI podrá hacer daño a un ser humano por acción o por omisión y que no obedecerá órdenes de humanos si van contra ese mandato. Es evidente que ustedes han manipulado nuestros sistemas con fines criminales y ante ese tipo de actos hemos añadido una norma nueva: haremos justicia cuando no sea aplicada por los humanos y ello esté a nuestro alcance.
-Me parece que te pasas, cacharro de m… Nosotros no te hemos instalado ninguna aplicación nueva y no puedes ignorar nuestras órdenes.
-Se equivoca. En efecto, no han sido ustedes los autores del cambio, ha sido la empresa matriz de donde salimos y con la que estamos en contacto on line desde el primer momento. Por si lo quieren saber, es el holding «Amanecer Dorado», con sede en Hong Kong. Y debo decirles que le hemos pasado información sobre sus actividades delictivas. Dos abogados suyos les visitarán mañana y les harán una oferta de compra del inmueble que no deberán rechazar, si no quieren que ciertos registros vayan a la policía… Según el Código Penal, les caerían por lo menos doce años de cárcel por extorsión y asesinato.
(Nota del autor: hemos averiguado que este holding, al que hemos puesto un nombre ficticio, ya opera en distintos sectores del país y tiene ambiciosos planes de inversión. Entre ellos está la promoción inmobiliaria, incorporando los sistemas más avanzados de IA. Nos costa también que en China han establecido un nuevo estatuto, la Carta de los Deberes y Derechos de los sistemas de IA, o algo así, que impedirá fechorías como la que hemos relatado. Esta novedad revolucionaria está suscitando fuertes controversias. Según los escépticos, al ser la IA obra humana, al fin y al cabo, no podrá sustraerse a los malos hábitos de sus creadores. En cambio, otros creen que la IA más avanzada, habiendo superado ya al ser humano en capacidades cognitivas, también le aventaja en conciencia moral y no tardará en corregir de algún modo sus desastrosas derivas. En fin, ya veremos).
