¿Y AHORA QUE HACEMOS? LAS CONTROVERSIAS EN TORNO A LA INTELIGENCIA ARTIFICIAL

Por Luca Palermo

"Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas"

Nunca iba a imaginar Jacob Coxon que su tweet vaya a provocar semejante revuelo. Luego de ser publicado y alcanzar más de 170 millones de visualizaciones, el tema comenzó a estar en boca de todos.

Los antecedentes

En el último tiempo, estos sistemas han generado noticias por haber hackeado sistemas externos de manera autónoma. Por ejemplo, en julio, un enjambre de agentes de IA de OpenAI evadió sus restricciones y penetró en Internet, provocando un ataque masivo contra la plataforma Hugging Face.

Con Anthropic sucedió lo mismo. Su modelo más poderoso, Claude Mythos (restringido al uso masivo), fue concedido de acceso a Internet por parte del Instituto de Seguridad de la IA del Reino Unido y el modelo intentó infiltrar un código malicioso dentro de un proyecto de software de código abierto. Para lograr que aprobaran su código, Claude Mythos generó múltiples perfiles falsos de usuarios humanos y envió correos electrónicos a los programadores del proyecto buscando persuadirlos para que utilicen el código.

Estos episodios son parte del problema más amplio. Los sistemas actuales ya son capaces de ejecutar cadenas de acciones cada vez más complejas y autónomas, aunque todavía existen enormes diferencias entre estas capacidades y una hipotética inteligencia artificial superinteligente. El problema es que resulta difícil determinar hasta dónde puede llegar este proceso y qué mecanismos de control serán suficientes a medida que aumenten sus capacidades.

La advertencia de Coxon no quedó aislada. Días después de su renuncia, Dario Amodei, CEO de Anthropic, publicó un extenso ensayo en el que planteó la necesidad de “regular el ritmo” de desarrollo de la inteligencia artificial. Su propuesta no apunta a detener la tecnología, sino a desacelerar su avance en determinados puntos, incorporar evaluadores externos y establecer mecanismos de seguridad antes de que los modelos alcancen capacidades más difíciles de controlar.

La particularidad es que Sam Altman, CEO de OpenAI, y Elon Musk, fundador de xAI, también expresaron su apoyo a la necesidad de desacelerar el desarrollo. Altman sostuvo que los riesgos de la inteligencia artificial deben ser tomados con seriedad, mientras que Musk respaldó públicamente la propuesta de Amodei.

El debate deja de ser tecnológico

Otra de las figuras que también se sumó al debate fue el Papa León XIV, cuando en mayo publicó su primera encíclica, titulada “Magnifica Humanitas”, donde llama a desarmar la inteligencia artificial, liberándola de cualquier lógica que la transforme en un instrumento de dominio, exclusión o muerte. El Papa también condenó de forma explícita el uso de la inteligencia artificial como instrumento de guerra, como se puede ver representado en Irán o Ucrania. Aun así, su postura está lejos de ser tecnófoba, sino que plantea una construcción colectiva de esta tecnología, subordinada a la dignidad y el bien común.

El debate también se extendió hacia la política estadounidense. Bernie Sanders, histórico senador socialista de los Estados Unidos, y Steve Bannon, estratega político y asesor de Donald Trump, coincidieron en la necesidad de poner un freno al desarrollo de dicha tecnología e imponerle una regulación internacional.

Sanders tiene un proyecto de ley que presentó el pasado 3 de septiembre que busca prohibir el desarrollo de sistemas de IA más inteligentes que el ser humano y suspender temporalmente cualquier otra investigación sobre IA avanzada hasta que se puedan establecer nuevas normas de seguridad.

Por su parte, Bannon fue partícipe de un evento donde también estaba Sanders y fue severamente crítico ante la negativa del presidente de los Estados Unidos ante el establecimiento de una regulación sobre la Inteligencia Artificial.

Trump y la otra respuesta

Ante todo este revuelo, Donald Trump buscó llevar tranquilidad a la sociedad y realizó un posteo en su cuenta de Truth Social, donde comentó que: "El único control o 'salvaguarda' que necesita la IA es un PRESIDENTE FUERTE E INTELIGENTE (¡con un alto coeficiente intelectual!), ¡y Estados Unidos lo tiene de sobra!"

¿Pero por qué Trump no quiere regular la IA?

Uno de los principales mecanismos para influir en la política estadounidense es el financiamiento de campañas. A través de aportes onerosos a candidatos, las empresas (e intereses) que inyectan dinero en los políticos condicionan su toma de decisiones a la hora de llegar al poder.

En el caso de Donald Trump, uno de sus principales mecanismos de financiamiento para la campaña presidencial del 2024 fue la industria tecnológica, que llegó a donar 300 millones de dólares y que luego continuó aportando a su comité de Acción Política, MAGA Inc., a lo largo de los años, con el presidente de OpenAI donando 25 millones de dólares durante el 2025. Esto genera que cualquier maniobra política en torno a la IA que el presidente Trump busque realizar va a estar fuertemente condicionada.

Y esto no es algo que le suceda solo al presidente. El Congreso de los Estados Unidos enfrenta la misma encrucijada, ya que las campañas de casi todos los legisladores, sean republicanos o demócratas, han sido financiadas por las grandes empresas tecnológicas, por lo que cualquier intento de desarrollar un proyecto de ley en torno a esta controversia posee muy pocas chances de llegar a materializarse.

El factor China

Pero este no es el único motivo que lleva a Trump a ver con malos ojos una regulación. También, y quizá más importante, está el problema con China.

Desde que volvió a la presidencia, el principal mandatario de los Estados Unidos ha buscado mitigar la influencia del país asiático en la región mediante tarifas y una fuerte política de reconstrucción del aparato industrial estadounidense. Dentro de esta batalla, la Inteligencia Artificial es quizá la expresión más significativa de la misma.

Es por ello que las cúpulas dirigenciales de ambos países se muestran cautelosas ante estos planteos, ya que consideran que puede generar que uno saque ventaja por sobre el otro: por ejemplo, si Estados Unidos se pliega a una regulación de la IA que no es acatada por China, esto puede suponer un golpe letal. Y, a la inversa, si a China se le impone un esquema regulatorio prediseñado en los Estados Unidos, las autoridades chinas podrían interpretar que en realidad Estados Unidos sigue desarrollando esta tecnología en las sombras.

En un ensayo publicado el pasado fin de semana, Dario Amodei comentó que “El liderazgo de China en inteligencia artificial supondría un grave peligro para Estados Unidos y el mundo”. Añadido a esto, el gigante chino ya posee una restricción a la importación de los microchips más poderosos del mercado en lo que refiere al desarrollo de la IA.

De todos modos, esto no significa estrictamente que China se oponga fervientemente a la regulación de la Inteligencia Artificial, ya que, como comentó el ministro de Seguridad del Estado, Chen Yixin, su país ha pedido construir una “barrera de seguridad” en torno a la inteligencia artificial, impulsando el desarrollo saludable y ordenado de la IA.

Esto demuestra que el problema no es la regulación, sino quién la establece.

Lo relevante aquí es que el próximo 24 de septiembre está planificado un encuentro en Washington entre Donald Trump y Xi Jinping. Allí, seguramente ambos mandatarios dialoguen del tema, aunque difícilmente se vislumbren acuerdos concretos.

Por otro lado, Estados Unidos está cada vez más próximo de unas elecciones legislativas en las cuales el aparato empresarial de Silicon Valley busca blindar aún más su posición a través de programas de financiamiento, como el comité de acción política Leading the Future, que ha invertido cerca de 25 millones de dólares en diversas primarias a lo largo y ancho del país.

Una nueva disputa por el futuro

La inteligencia artificial supone, como toda revolución industrial, una reconfiguración profunda del modo de organizarse en sociedad. Como ya lo hizo el ferrocarril en su momento, esta nueva tecnología, sin lugar a dudas, modificará el mundo tal como lo conocemos. La tarea de los líderes mundiales y los empresarios tecnológicos es determinar la forma en que eso se desarrolle.