Hasta ahora la IA es para muchos un juguetito bastante entretenido: nos permite hacer búsquedas de temas que nos interesan, hacer memes con nuestros rostros con ropas de series televisivas de los 80 y son las responsables de los afiches más horribles que has visto en tu vida.

Para otros, la IA es parte de sus trabajos, sobre todo ayudando a nivel de programación o incluso de creación de animaciones para publicidades y películas que no quieren gastar mucho dinero ni tiempo en ser creativos.

Pero para Jacob Coxon, un joven investigador de la compañía Anthropic —detrás del reconocido sitio Claude—, la IA ha dejado de ser una herramienta inofensiva y hoy ya es un riesgo para la humanidad. Por esa razón, Coxon anunció su renuncia al proyecto, argumentando que hoy es una tecnología que está en muy malas manos y cuyas decisiones podrían llevar incluso a la extinción humana.

En un preocupante y viral hilo de X, Coxon anunció su renuncia a la compañía y a la industria en general tras haber trabajado los últimos 3 años para OpenAI y Anthropic en trabajos de entrenamiento de los modelos. “Ninguna de estas compañías está actuando responsablemente y están en una carrera hacia la Superinteligencia y están apostando con nuestras vidas”, comenzó señalando como motivo de su renuncia. Pero luego la cosa se puso más seria.

“No subestimen el poder de esta tecnología. Pronto serán sistemas superhumanos que pueden hackearlo todo, revolucionar cualquier campo en una noche y adquirir poder real y recursos. Hemos visto el progreso en cada uno de estos dominios y no está disminuyendo”, señaló el investigador.

Lo peor de todo es que le puso fecha: “La gente detrás de la IA sinceramente cree que podría matarnos a todos hacia el final de la década. Esto no es una estrategia de marketing. Muchos ejecutivos procuran elegir bien sus frases para sonar sensibles, pero escucho a la misma gente expresar su miedo de forma privada”, señaló Coxon.

La pregunta que uno puede hacerse es que, si bien ellos están conscientes del peligro, para qué siguen desarrollándola. Y la respuesta, dice, es porque todas las compañías están enfrascadas en una carrera para llegar lo más rápido posible a la Superinteligencia y, como no creen que nadie más actuará responsablemente, deben hacerlo a pesar del riesgo.

El principal problema que señala Coxon es que si bien el sentimiento de peligro crece dentro de los desarrolladores e investigadores, solo unos pocos son los que toman las decisiones y, con ello, es poco lo que se puede hacer al respecto.

El exjefe del investigador, Evan Hubinger, que aún trabaja en Anthropic, respondió y, para sorpresa de muchos, le dio la razón al apocalíptico mensaje: “Jacob está en lo cierto: realmente creemos que la IA puede matar a todos los humanos. Personalmente creo que hay menos de un 10% de probabilidad de que ocurra dentro de la próxima década. En Anthropic estamos haciendo lo mejor, pero no tenemos un plan para resolver cómo alinear la Superinteligencia con nuestros intereses”, expresó el experto.

Por lo pronto, el consejo que podemos dar es siempre saludar, dar las gracias y tratar con respeto a la IA, porque no sabemos cuándo nuestra supervivencia pueda depender de ella.