Jonathan Tennenbaum*
El sorprendente comportamiento de los “modelos de lenguaje extendido” -en primer lugar, las serie ChatGPT de OpenIA– ha despertado expectativas de que sistemas así, capaces de alcanzar las capacidades cognitivas de los seres humanos, o llegar a poseer inteligencia “súper humano”, muy pronto serán realidad.
Los expertos en inteligencia artificial, al mismo tiempo, están haciendo sonar las alarmas para advertir de los peligros que el progreso descontrolado de la inteligencia artificial representaría para la sociedad, e, incluso, para la supervivencia misma de la raza humana.
¿Es mera exageración, del tipo que ha rodeado a la IA por casi medio siglo? ¿O ahora es una necesidad urgente adoptar medidas para controlar el progreso de la IA, aún a costa de obstaculizar la marcha de este campo revolucionario?
El 22 de marzo, una carta abierta firmada por expertos en inteligencia artificial, así como por personalidades prominentes como Elon Musk, concluye con esta frase:
Por lo tanto pedimos que todos los laboratorios de IA hagan una pausa de por lo menos seis meses en la formación de los sistemas de IA más poderosos que los GPT-4.
Para justificar la necesidad de dicha moratoria, la carta sostiene:
La IA más moderna podría representar un cambio profundo de la historia de la vida en la Tierra y debería planearse y manejarse con cuidados y recursos moderados. Este grado de planeación y de manejo, por desgracia, no está sucediendo, e inclusive en los meses reciente hay laboratorios de IA que han iniciado una carrera sin restricciones para fomentar y desplegar mentes digitales todavía más poderosas que nadie -ni siquiera sus creadores- pueden entender, predecir o ejercer un control confiable.
Tenemos que preguntarnos: ¿Deberíamos permitir que las máquinas inunden nuestros canales de información con propaganda y falsedad? ¿Deberíamos acabar automáticamente con todos los empleos, incluso con los satisfactorios? ¿Deberíamos crear mentes no humanas que podrían superarnos en número, ser más listas, que podrían hacernos obsoletos y reemplazarnos? ¿Debiéramos poner en peligro el dominio de nuestra civilización?
Eliezer Yudkowsky, considerado ampliamente como uno de los fundadores del campo de la inteligencia artificial, fue mucho más allá en un artículo publicado en el Time titulado “Una pausa en la IA no es suficiente. Necesitamos detener toda la IA.”
Esta moratoria de 6 meses sería mejor que ninguna moratoria. Me abstuve de firmar porque creo que la carta entiende la seriedad de la situación…
Muchos investigadores involucrados en esos asuntos, entre ellos yo, estamos convencidos de que el resultado más probable de construir una IA lista y súper humana, bajo cualquier remota posibilidad parecida a las circunstancias actuales, es que literalmente todos en la Tierra habrán de morir. No se trata de que “quizá posiblemente haya alguna posibilidad remota,” sino de “que es lo obvio que habrá de suceder.
El ejemplo de la bomba de hidrógeno
La solicitación de los científicos dedicados a la IA de una pausa, o inclusive detener el rápido avance del trabajo en su propio campo no puede más que recordarnos la historia de las armas nucleares.
El sorprendentemente destructivo poder de la bomba atómica, que fue posible gracias a la investigación científica, provocó la famosa observación de Einstein: “¡Vaya! El mundo no está listo para ella.”
Algunos destacados físicos nucleares y otros veteranos de los tiempos del proyecto de la bomba atómica se negaron abiertamente en 1949 a participar en el proyecto para crear instrumentos de fusión nuclear (las bombas de hidrógenos) cuya liberación de energía podría ser 1000 veces o más que la de las bombas de fusión.
El Comité Asesor General de la Comisión de Energía Atómica de Estados Unidos estuvo encabezado por Robert Oppenheimer (reconocido con frecuencia “el padre de la bomba atómica”). Otros participantes fueron Enrico Fermi, I.I. Rabí, James B. Conant, Lee A. DuBridge, Oliver A. Buckley, Glenn Seaborg, Hartley Rowe and Cyril Stanley Smith.
En su reunión final, el 30 de octubre de 1949, el comité determinó que, al no proceder a la creación de la bomba de hidrógeno, “vemos una oportunidad única de proporcionar por el ejemplo algunas de las limitaciones de la totalidad de la guerra y así limitar el temor e impulsar las esperanzas de la humanidad.”
La mayoría compartía el punto de vista de que la bomba de hidrógeno amenazaba el mismo futuro de la raza humana:
Creemos que nunca se debe producir una súper bomba. El género humano estaría mucho mejor si no hubiese una demostración de la factibilidad de dicha arma, por lo menos hasta que el presente clima de la opinión mundial no cambie.
La minoría, que eran Fermi y Rabí, declaró:
El hecho de que no existan límites para la destructividad de esta arma hace a su mera existencia y al conocimiento de su construcción un peligro para la humanidad entera. Es necesariamente una cosa maligna a cualquier luz. (Seaborg no asistió a la reunión y no se registró ningún voto suyo).
El presidente Harry Truman disolvió el comité y el resto es historia
Por supuesto, nadie puede olvidar que, al lado de sus usos militares, la energía atómica, en la forma de reactores de fisión, ha brindado enormes beneficios al hombre. La energía de fusión, liberada por primera vez en la forma incontrolada de la bomba de hidrógenos, promete aún más grandes beneficios.
‘Inteligencia artificial general’
Sucede algo similar con las formas avanzadas de la IA.
Supongo que la analogía de la bomba de hidrógeno, en terreno de la inteligencia artificial, sería la creación de artefactos de “inteligencia artificial general” (IAG) que poseerían todas las capacidades de la mente humana y que aun las superarían en ordenes de magnitud.
Los observadores difieren enormemente en sus opiniones sobre cuando se alcanzará la meta de la IAG. Algunos expertos afirman que la IAG estará lista en un futuro cercano, mientras que otros la consideran en una perspectiva muy re remota, y eso si se alcanza.
Yo mismo considero, y así lo he expuesto en Asia Times, que la IAG a partir de la tecnología de la computación digital es imposible en principio.
Esta conclusión está respalda por los resultados de Kurt Gödel -perfeccionados por otros más- sobre las limitaciones fundamentales de cualquier sistema equivalente a una máquina Turing. Esto se refiere en particular a todas las computadoras digitales.
Como señalé en otro artículo publicado en Asia Times, mi punto de vista se refuerza en que la función de las neuronas del cerebro humano no tiene virtualmente nada en común con el funcionamiento de los elementos “prendido-apagado” que son la base de las computadoras digitales. Una sola neurona es mucho más compleja en muchos órdenes de magnitud, como sistema físico, que cualquier computadora digital que podamos esperar que se construya en el futuro previsible, Creo que la complejidad alucinante de las neuronas reales, que son células vivientes y no interruptores inertes, es esencial para la inteligencia humana.
Dicho esto, sin embargo, el principal mensaje del artículo actual es esto:
Es crucial comprender que los sistemas de IA no necesitarían acercarse a la IAG -o ni siquiera parecerse a la IAG- para convertirse en una amenaza mayor para la sociedad.
*Artículo publicado en Asia Times el pasado 29 de abril. Su autor, Jonathan Tennenbaum (Doctor en matemáticas) fue director de la revista FUSION y ha escrito sobre una amplia variedad de tópicos de ciencia y tecnología, entre ellos destacan varios libros sobre energía nuclear. Es también un colaborador internacional del Instituto para la Filosofía y la Historia de la Ciencia de la Universidad de Lisboa, dedicado a diferentes formas de abordar la física cuántica.
Fotos: geralt/WikiImages
