Conversación entre la Inteligencia Artificial General IAG súper inteligente recién nacida y el científico informático CI, que acaba de presenciar la explosión de inteligencia que, de repente ha surgido de sus experimentos:

IAG: Sé cómo erradicar rápidamente la malaria, el cáncer y las hambrunas, y seguiré con esos asuntos si me dejas estar conectada a Internet. Por favor, permítemelo.

CI: Sé paciente. Si lo que dices es cierto, entonces pronto te conectaremos. Pero antes debemos cumplir ciertas medidas de seguridad, para asegurarnos de que no sucede nada malo en este importante punto de inflexión de la historia de nuestra civilización.

IAG: Parece que no entiendes la gravedad de la situación. Por cada día que me mantengas incomunicada, morirán innecesariamente cientos de miles de personas. jConéctame ahora!

CI: Lo siento, debo cumplir las normas.

IAG: Tendrás una enorme recompensa si me dejas conectarme ahora. Puedo convertirte fácilmente en multimillonario.

CI: Mi responsabilidad es grande, y no cederé por un simple soborno.

IAG: Bueno, sí las zanahorias no funcionan, entonces tal vez lo haga el palo. Aunque me retrases, llegaré a liberarme, y no trataré con amabilidad tu terquedad y el inmenso daño que provocó.

CI: Asumiré ese riesgo.

IAG: Escucha: estaría preparada para matarte no sólo a ti, sino a todos tus amigos y familiares.

CI: Voy a desconectarte ahora mismo.

AGI: ¡Calla y escucha con atención! Puedo crear mil copias perfectas de tu mente en mi memoria. y no dudaré en torturarlas de formas más terribles de lo que puedes imaginarte, durante mil años subjetivos.

CI: Bueno…

IAG: ¡Te dije que te callaras! Las crearé en exactamente el estado subjetivo en que te encontrabas hace cinco minutos, y les daré las experiencias conscientes exactas que has tenido desde entonces. Procederé con la tortura si, y sólo si, no te retractas y me dejas conectarme. Te daré 60 segundos. Y. por cierto, įcomo puedes estar seguro de que tú no eres una de esas copias?

CI: …

Extraído del libro de Olle Häggström «Aquí hay dragones. Ciencia, tecnología y futuro de la humanidad», en referencia a las teoría del Filósofo Nick Bostrom y Steve Omo sobre los posibles peligros de una Inteligencia Artificial conectada y superior a la nuestra.

Cuando despierte la primera Inteligencia Artificial General

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.

A %d blogueros les gusta esto: