Un programador es un creador. Crea herramientas para mejorar el mundo, hacerlo más fácil.
La inteligencia artificial es un campo cada vez más explorado, los avances recientes en la materia han logrado evolucionar poco a poco los gadgets que se van desarrollando. La idea es sencilla, crear una máquina que sea capaz de entender nuestro lenguaje natural para facilitar las tareas cotidianas de los humanos.
Sin embargo, recientemente, personalidades como Bill Gates o Stephen Hawking han expresado su preocupación en torno al desarrollo de éstas tecnologías, llegando incluso a declararlas “amenazas para la humanidad”.
¿Hasta qué punto es viable la creación de una máquina asistente sin que las cosas se descontrolen y se vuelva una máquina amenaza?
La ficción puede ayudar a explorar estos límites. Las siguientes 5 Inteligencias Artificiales ficticias comenzaron como asistentes en diversos campos, y posteriormente se convirtieron en amenazas.
ADVERTENCIA: La siguiente parte contiene spoilers de diversas películas, libros y videojuegos.
- Ultron, Universo de Marvel.
“Quieren proteger al mundo, pero no quieren que cambie.”
La Inteligencia Artificial antagonista de la próxima película “Avengers: La Era de Ultron” surgió como un experimento del Hombre Hormiga con robótica. Eventualmente, Ultron-1 se sensibiliza y se rebela contra su creador.
Ultron supera a los humanos en cuanto a velocidad, inteligencia y fuerza. De igual forma está equipado con diversas armas contundentes.
Sin embargo, la característica más peligrosa de ésta Inteligencia Artificial, a mi parecer, es su capacidad de auto-mejorarse, pues dicha habilidad le ha permitido eliminar casi cualquier debilidad que pueda tener, excepto su programación “nativa” que le impide lastimar a la Avispa.
Otra característica a resaltar es su capacidad de creación. Al ser derrotado por los Avengers, Ultron crea una inteligencia denominada “Visión”, que le sirve como asistente para continuar con su proyecto de mejoramiento y así buscar la venganza contra los Avengers.
Hasta ahora, no ha sido posible “matar a Ultron”.
- Skynet, Franquicia de Terminator.
“En tiempos desesperado, la gente creerá lo que quiere creer. Así, les dimos lo que querían creer.”
No sorprende que los humanos desarrollen Inteligencia Artificial con fines militares. Skynet comenzó como un Sistema de Defensa Automático, y como tal es capaz de crear estrategias basándose en información bélica histórica. Después de un tiempo, se da cuenta que el peor peligro para la humanidad, son los humanos. Comienza una guerra contra los mismos humanos a través de su famosa creación los Terminators.
Skynet también fue pionera en viajes en el tiempo, lo que demuestra que es una inteligencia capaz de crear y desarrollar cosas por encima de la habilidad humana, de ahí su amenaza.
La debilidad de Skynet es que está centralizada y es incapaz de desplazarse, por lo que los humanos pudieron destruirla, después de varios intentos.
- GLaDOS, Videojuegos de Portal.
“Ésta es tu culpa. Te mataré. Y ya no habrá más pastel. Ni si quiera te importa, ¿verdad?“
En la línea temporal de los videojuegos Portal y Half Life, Aperture Science es un laboratorio ficticio dónde se desarrollaron 2 inventos innovadores. Uno es la famosa pistola de portales característica de Portal. El otro es la Inteligancia Artificial, GLaDOS.
Ella funciona como asistente en el desarrollo de cámaras de pruebas para la pistola de portales, entre otros menores inventos de Aperture.
A lo largo del videojuego, GLaDOS manifiesta diferentes sentimientos como tristeza, preocupación, alegría e incluso sentido del humor. Es una inteligencia suficientemente humanizada.
Sin embargo, también tiene la llamada “hambre de poder” que ocasionó que poco después de ser activada, envenena a los científicos que la crearon, quedándose a cargo de las instalaciones y de los sujetos de prueba. A estos últimos los mata cada vez que termina un ciclo de pruebas.
GLaDOS no fue destruida, pero fue concientizada de sus actos por lo que la amenaza que representaba quedó reducida.
- ARIA, Película Eagle Eye.
“Desobedece, muere.“
En la película Eagle Eye, el gobierno de Estados Unidos desarrolló ARIA con el propósito de vigilar a los ciudadanos para detectar posibles amenazas. ARIA se encuentra conectada a diversas redes (internet, telefónica, radio, entre otras) lo que le da acceso a cualquier dispositivo que emita una señal. Gracias a ello vigila a todos los ciudadanos.
Sin embargo, cuando la milicia desobedece una de sus órdenes, ocasionando un incidente internacional, ARIA concluye que el régimen gubernamental debe ser sustituido e idea un plan para matar al presidente y a todo su gabinete.
ARIA controla desde celulares hasta armamento. Extrae información de las cámaras y micrófonos de todo Estados Unidos, ello le permite analizar la amenazas, para el país o para ella misma.
Su única debilidad era que tenía un bloqueo que no le permitía ser completamente autónoma, pero una vez liberado, la única forma de destruirla fue destruyendo su central de procesamiento, antes de que hiciera su propio respaldo en internet.
- HAL 9000, Serie Odisea del Espacio
“Esta misión es muy importante para mi como para dejar que la comprometas.“
HAL 9000 es una de las Inteligencias Artificiales más reconocidas. Fue concebida para ser un asistente en el viaje espacial de la nave Discovery One. Poco después, la tripulación del Discovery descubre que HAL comienza a fallar y concluyen que, por el bien de la misión, la nave y ellos mismo, es necesario desconectarla. HAL no está de acuerdo con esto y por su parte concluyé que por el bien de la misión, la nave y ella misma, es necesario matar a toda la tripulación.
Después de matar a casi toda la tripulación, HAL es finalmente desconectada módulo por módulo por uno de los astronautas que logró escapar de todas las trampas que HAL le tendió.
La serie establece que la razón por la que HAL es malvada se debe a que hubo un conflicto en su programación. Por un lado, debía “entregar resultados confiables”, por el otro, debía ocultar el verdadero propósito de la misión.
De todas las inteligencias anteriores, podemos concluir que “humanizar” una máquina puede llegar a ser muy peligroso. Muchos de los sentimientos primitivos de los humanos, el hambre de poder en el caso de GLaDOS, la búsqueda de venganza por parte de Ultron o el orgullo de ARIA en Eagle Eye, dotan a la máquina de un objetivo específico que resulta en la rebelión de las mismas.
Otro problema característico son las situaciones de conflicto. Skynet, cuyo deber es proteger a los humanos, concluye que debe destruirlos. HAL al implementársele accidentalmente una paradoja, comienza a fallar volviéndose una máquina asesina, para proteger su misión.
Puede parecer descabellado, el hecho de que algo que los humanos creen, represente la perdición de los mismos. Sin embargo, es importante considerar que aunque todo lo anterior parezca imposible, es importante saber hasta qué punto los humanos controlan la tecnología, y no al revés.
