Stephen Hawking y el Golem

Stephen Hawking y el Golem por Asih Latino

hawingStephen Hawking y el Golem
Una aleccionadora historia sobre Inteligencia Artificial.por

Hawking es claramente alguien que no se desanima frente a sus desafíos personales. Sin embargo, en una reciente entrevista para la BBC, Hawking confesó que estaba profundamente preocupado por el futuro de la humanidad. La causa de su preocupación es la Inteligencia Artificial, o IA, término que hace referencia a la creación de máquinas inteligentes que podrían “superar” a sus creadores. Lo que partió como el supercomputador de la IBM llamado Watson, el cual era capaz de vencer con facilidad a los grandes maestros del Ajedrez y a los mejores concursantes del concurso televisivo de preguntas Jeopardy!, podría llegar en el futuro —advirtió Hawking— a superar a sus diseñadores y convertirse en la especie dominante del mundo.

“El desarrollo de Inteligencia Artificial en su máximo nivel podría significar el fin de la especie humana”, dijo Hawking.

La ciencia ficción ya nos ha preparado para saber qué podría pasar ante tal escenario: películas como Terminator y Matrix muestran un enfrentamiento entre los débiles humanos y sus poderosos enemigos que funcionan en base a IA. La película Avengers: Era de Ultrón, la cual será estrenada este año, muestra el enfrentamiento de los superhéroes con Ultrón, una máquina de IA que está determinada a destruir a la humanidad.

Hay un mundo de diferencia entre la habilidad de crear y el poder de controlar.

Hay un mundo de diferencia entre la habilidad de crear y el poder de controlar. Como dijo el director de ingeniería de Google, Ray Kurzweil, “Probablemente sea difícil escribir un código moral algorítmico lo suficientemente fuerte como para limitar y contener a un software súper inteligente”. El mayor peligro del progreso científico es la posibilidad de que lo que construyamos tenga vida por sí mismo y deje de ser servil a su creador o a los valores humanos.

Y ese ha sido el mensaje subliminal durante siglos de la famosa leyenda del Golem de Praga. Según la tradición judía, el Maharal, Rav Yehudá Loew, quien fuera rabino de Praga en el siglo XVI, utilizó sus conocimientos de misticismo judío para dar vida mágicamente a un inerte bulto de barro y convertirlo en un defensor superhumano del pueblo judío. En su frente escribió la palabra hebrea que significa verdad, “emet”, la cual le dio místicamente poder a la criatura.

Sin embargo el Maharal se dio cuenta prontamente que una vez que le había sido otorgada su formidable fortaleza, el Golem se había vuelto imposible de controlar por completo. Las versiones de la historia difieren. En una el Golem se enamoró y al ser rechazado se transformó en un monstruo asesino. En otra el Golem comenzó a asesinar gente sin una razón aparente. Y en la que es probablemente la versión más fascinante, el Maharal mismo cometió un error —que sería similar al error que podría cometer un programador de computadoras— al olvidar desactivar el Golem antes de Shabat, lo cual llevó a que el Golem profanara Shabat y mereciera por tanto la pena capital.

Cualquiera sea la causa, el Maharal llegó a la conclusión de que el Golem tenía que ser puesto a descansar. El rabino borró la primera letra de emet —la letra alef, la cual tiene un valor numérico de uno y que representa a Dios, que es el único que puede dar realmente vida—, dejando solamente las dos letras restantes, las cuales forman la palabra hebrea para muerto, met. Al dejar de representar la voluntad del Creador supremo y al no tener la marca de Dios en su frente, el Golem se transformó en polvo.

Muchos eruditos creen que fue la leyenda del Golem la que inspiró a Mary Shelley a escribir su famosa novela Frankenstein sobre un experimento poco convencional que generaba vida pero que terminaba causando horripilantes resultados.

La creación sin control es la fórmula para una catástrofe. La historia de los logros científicos da testimonio de la simple verdad que el progreso separado de los límites éticos y morales puede otorgarnos el conocimiento para penetrar los secretos de la fisión nuclear, pero al costo de poner a la humanidad en peligro de extinción total.

La historia del Golem de Praga es un paradigma de los peligros de permitir que nuestras creaciones vayan más allá de nuestras intenciones. La Inteligencia Artificial, como una extensión de nuestra habilidad intelectual, claramente tiene muchas ventajas. Sin embargo, no puede “pensar” realmente. No tiene sensibilidad moral. No comparte las limitaciones éticas de su programador. Y no está restringida por los valores de quienes la trajeron a la existencia.

Stephen Hawking nos ha hecho un gran favor al alertarnos de los verdaderos peligros de la Inteligencia Artificial. Pero lo que encuentro más sorprendente —y altamente afortunado— es la otra revelación que se le adjudicó recientemente a él: Hawking admitió públicamente que es ateo. En respuesta a un reportero que le preguntó sobre sus creencias religiosas, él dijo de forma inequívoca que “No hay un Dios”.

Quizás el Dios bíblico en el que yo y tanta otra gente creemos también se arrepienta de la “inteligencia artificial” que le dio a la humanidad. Quizás nosotros seamos la mejor muestra del miedo que ahora proyectamos en nuestra propia tecnología: creaciones que son capaces de destruir el mundo porque dudan de su Creador.

Mas sobre el golem

Anuncios


Categorías:Articulos

Responder

Por favor, inicia sesión con uno de estos métodos para publicar tu comentario:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión / Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión / Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión / Cambiar )

Google+ photo

Estás comentando usando tu cuenta de Google+. Cerrar sesión / Cambiar )

Conectando a %s

A %d blogueros les gusta esto: