HEIDELBERG, Alemania.– Por razones estratégicas, o quizá por azar, la ciudad de Heidelberg no fue bombardeada por los Aliados durante la Segunda Guerra Mundial. Por eso en esta zona del sur de Alemania todavía se ven edificios e iglesias de varios siglos de antigüedad. Heidelberg es también una de las ciudades universitarias por excelencia de Europa, con una tradición dignamente medieval. Aquí, precisamente en la ribera derecha del río Neckar, se llevó a cabo la décima edición del Heidelberg Laureate Forum, donde genios de la matemática (que ganaron premios como el Turing, el Abel o la medalla Fields) se reunieron durante una semana de intensas actividades con jóvenes científicos de todo el mundo para compartir conocimientos y recomendaciones para las carreras. Este año llegaron de unos 60 países, incluyendo una decena de argentinos que estudian en el país (Universidades de Córdoba, Rosario y del Sur, en Bahía Blanca) y en el extranjero.

Como no podía ser de otra manera, uno de los tópicos centrales de las discusiones fue el de la inteligencia artificial, cuya versión generativa, por ejemplo a través del Chat GPT, ha hecho renacer el miedo de que la tecnología se escape del control humano y a la vez que muchos gobiernos traten de buscar algún tipo de regulación, hasta ahora sin mayor éxito.

Si bien la mayoría de los expertos que trabajan en el campo computacional o afines, en universidades o empresas, abrazan la idea de que se trata de cambios positivos o imposibles de evitar –como si la tecnología fuera una fuerza de la naturaleza–, hubo algunos que manifestaron cuán problemático puede ser dejar semejante poder de computación en manos selectas. Y cómo puede asimismo cambiar completamente la manera en que se organizan las sociedades y se disponen los trabajos. Algo que parece demasiado importante como para dejar en manos de unos pocos humanos que las programan, con intereses comerciales, o incluso de las mismas máquinas.

A todo motor

La posición fuerte respecto de las consecuencias del uso cada vez mayor de la Inteligencia Artificial (IA) se representa en las ideas de Alexei Efros, ganador del premio de la Association for Computing Machinery (ACM) en 2016, que ve en la IA una continuidad tecnológica apenas, no un salto al vacío, lo mismo que cuando aparecieron las películas o la TV y se dijo que la gente ya no leería, o incluso antes, cuando se pensaba que leer libros conspiraría contra vivir la vida. “No me preocuparía por esto en particular. Es una evolución, libro, radio, tv, videojuegos y ahora IA”, señaló en rueda de prensa.

“Es un cambio suficientemente lento como para no temerle. Aunque la IA tiene riesgos, para mí están bien abajo en la lista de temores. La guerra y el peligro para la democracia que es Rusia, por ejemplo, ranquea más alto, junto con el cambio climático o el bioterrorismo. Cualquiera de esos temas es mucho más peligroso que la IA”, agregó.

De todos modos, Efros, quien creció en la Unión Soviética y ahora trabaja en los Estados Unidos, ni siquiera se atreve a predecir qué sucederá en los próximos meses, ya no años, dada la velocidad en que todo sucede. Para él, las máquinas no van a tener nada comparable a la conciencia –sea cual fuere su definición– en los próximos siglos.

Por su parte Avi Widgerson, ganador del Abel Prize en 2021, admite que habrá enormes cambios, que mucha gente perderá su trabajo por el avance de las tecnologías exponenciales, sobre todo en áreas de la medicina –con el análisis de imágenes en primer lugar– y de los conductores de vehículos. Pero no lo ve muy problemático, aunque señaló que “los gobiernos deben preparar a la gente para eso” y que existe una necesidad de generar una ética de la misma IA que esté presente en universidades y empresas.

“Si bien es un tema complejo y difícil de predecir, como en su momento el poder nuclear o la dinamita, nada lo va a parar. Siempre se encuentran buenas maneras de usar las herramientas, lo mismo que un cuchillo, sustancias químicas, lo que sea. La gente puede usar la tecnología para muchos propósitos, buenos o malos. Lo concreto es que serán cambios enormes, pero no les temo”, dijo Wigderson.

El bando precavido

Algo más precavido, Joseph Sifakis, ganador del Turing Award en 2007, sin oponerse a la tecnología de IA, pidió que “exista una base nueva desde donde empezar, que tenga explicabilidad”.

“Debemos construir la confianza en los sistemas. Hay soluciones técnicas posibles”, dijo en una de las conferencias centrales, donde explicó por qué existe esa preocupación de las autoridades y los gobiernos y la necesidad de un marco regulatorio.

La explicabilidad, dijo Sifakis, está relacionada con que muchas veces los sistemas de IA son “cajas negras”, es decir, lugares en los que se ingresa determinada cantidad de datos y se obtiene una respuesta, pero no hay mayor idea respecto de qué sucedió ahí adentro y por qué se dio determinada respuesta.

“Hace falta especificar formalmente los parámetros involucrados y luego desarrollar una metodología. Hay muchos desafíos, en particular en lo que respecta a las inteligencias artificiales generativas, como el Chat GPT. Necesitamos mejores estándares”, dijo.

Y concluyó: “El futuro de la IA es monitorear y hacer controles de sistemas autónomos, por eso hacer predicciones de su comportamiento es muy importante”.

“Son tiempos de revolución científica”, agregó a la discusión Yael Kalai, premio ACM en 2022, también en conferencia de prensa. “Estamos todos estamos preocupados por la ética, por la desaparición de los trabajos, no tenemos idea de cómo será el mundo dentro diez años, y me da mucha curiosidad saber qué pasará”.

Y agregó que hay una conciencia de los desafíos éticos dentro de sus dos lugares de trabajos (en el MIT de Boston y en Microsoft), donde “son muy conscientes del peligro, del uso controversial, de que debe haber un montón de discusión y decisiones a tomar entre científicos y quienes hacen las leyes”.

Neruda GTP

Otro tema por discutir es la creatividad. El Chat GTP, por ejemplo, ¿es o puede ser creativo? Muchos dicen simplemente que no, y cambian de tema. Pero Sebastien Bubeck, ex profesor en Princeton (Estados Unidos) y en la actualidad investigador de Microsoft, cree lo contrario. Y puso dos ejemplos, ya que fue uno de los primeros en probarlo antes de que estuviera disponible para el público en general y escribió con colegas un largo paper (150 páginas) al respecto. Bubeck le pidió al Chat GPT4 un poema sobre la infinitud de los números primos y “en diez segundos volvió con un poema genial”.

El segundo ejemplo: su hija, fanática de los unicornios, siempre le pedía a la IA cuentos sobre unicornios. Hasta que un día le pidió que dibujara uno, algo difícil porque se trata de un sistema que genera lenguaje. Y sin embargo devolvió un dibujo que no existía antes, un unicornio que se parece, si bien vagamente, a un unicornio con las características propias de ese animal de fantasía (Bubeck llevaba la remera con el dibujo en la conferencia). “Es medio una porquería, pero es algo que creó el chat, pudo conectar las cosas que sabía y armar algo. Sintetizó la información y esa es la esencia de la inteligencia, lo que hacemos como matemáticos”, dijo. “Nadie en el mundo sabe a dónde llevará esto, nadie”, finalizó.

Para Efros, en cambio, estamos “muy muy muy lejos” de la poesía artificial. “Hay mucha excitación alrededor de la IA generativa. Mi visión es que no es suficiente lo que tenemos como para que haya deseo, o la posibilidad de escribir poesía. Primero hay que atravesar hambre, bronca, tristeza, eso necesita un acercamiento diferente, a generar desde una única célula otra versión de nuestra propia evolución biológica, algo que está muy lejos. El poder computacional necesario para semejante cosa es enorme”, remarcó.

Lo cierto es que parece haber una especie de regocijada alarma incluso entre los tecnofílicos. En la deriva quizá termine siendo, como dijo Vinton Cerf (premio Turing 2004 y uno de los creadores del protocolo de la red de redes), un problema para el modelo de negocios de internet, si es que toda la gente termina yendo hacia allá en lugar de usar por ejemplo Google. La reflexión final de Cerf fue que “hay que tener cuidado porque si es verdad que la historia la escriben los que ganan, es posible que la próxima historia la termine escribiendo una inteligencia artificial”, según comentó. Lo dijo como con una media sonrisa, pero no todos se reían en el público.

This content was originally published here.