Hace poco tiempo OpenAI, la mayor empresa de inteligencia artificial del mundo, decidió detener el entrenamiento de sus modelos, probablemente porque temían que se pudiera salir de control. AnthropicAI, la desarrolladora de Claude, se ha visto obligada a actualizar sus estándares de seguridad porque sus modelos, cuando no han sido restringidos, logran escapar de los entornos de entrenamiento y consiguen acceso a sistemas reales. Jacob Coxon, exempleado de OpenAI y Anthropic, desató más alarmas en este sentido al declarar en la red social X y en Fox News que una carrera por llegar a la superinteligencia sería desastrosa para la humanidad, a la vez que acusaba a las grandes empresas de ser irresponsables. Como dijo recientemente Jon Hernández, uno de los más reconocidos divulgadores de esta tecnología en habla hispana, “me da miedo que el negocio haya matado al científico”.
En este contexto, Bernie Sanders, senador por el Estado de Vermont en EE.UU., está impulsando una legislación para poner límites al desarrollo de la inteligencia artificial. Algunos republicanos se están sumando a hablar del tema. En Reino Unido ha entrado al Parlamento el proyecto de ley sobre seguridad de la superinteligencia artificial (Artificial Superintelligence Security Bill). Estos dos países son de los primeros en movilizarse y posicionarse en un terreno inexplorado por la política pública de prácticamente todo el mundo. Y la verdad es que encontrar momentos en que republicanos y demócratas converjan a visiones comunes es extraño. Este es uno de esos inusitados escenarios.
Hablar del fin de la humanidad siempre captura la atención. Pero ¿realmente conocemos dónde están nuestros límites? ¿Sabemos dónde nos estamos aventurando? La respuesta, con seguridad, es que no. Estamos en un punto en el que podemos pedir a un modelo qué queremos que haga y no necesitamos decirle cómo queremos que lo haga. Eso presenta una serie de problemas. Particularmente que puede saltarse lo que, en inglés, llamamos el alignment, es decir, cumplir nuestros objetivos siguiendo principios morales y éticos. Por ejemplo, si queremos erradicar el cáncer hay dos caminos: uno es encontrar una cura; el otro es asesinarnos a todos. Si nos mata, dicha enfermedad no existirá en los humanos. Ahora bien, la solución no estaría “alineada”.
Prevenir que la tecnología que hemos creado termine con nosotros no sólo implica que se use correctamente, sino que logremos entablar un norte común para que su uso beneficie a toda la especie. No es nada nuevo. Hemos llegado a acuerdos internacionales en temas climáticos, nucleares o económicos. Las políticas unilaterales no tendrán efectos y sólo retrasarán lo inevitable. Si prohibimos en Estados Unidos el desarrollo de la inteligencia artificial, éste se trasladará a otro país. Por ende, es importante lograr no sólo el alineamiento de la IA, sino también el de los países en su conjunto.
También debemos alinear a quienes son futuro del mundo. La OCDE ha publicado los más recientes resultados de la prueba PISA que mide las capacidades de los estudiantes. El resultado es inequívoco: ha habido importantes retrocesos en todas las áreas que se evalúan y en todos los países. Y, como señala John Burn-Murdoch de Financial Times, esto ya no puede deberse a un “efecto COVID”. ¿Qué otro gran cambio está ocurriendo en el mundo que pueda generar estos resultados? Además de la proliferación de redes sociales entre jóvenes y el consecuente deterioro en la atención, sólo la inteligencia artificial puede lograr que los estudiantes se desarrollen menos intelectualmente si no es bien utilizada. Traspasar el esfuerzo mental a una máquina para ahorrar tiempo no solo detiene el progreso cognitivo, sino que provoca que tengan menos habilidades para el mundo que se avecina.
Y ese mundo es considerablemente hostil, con perspectivas que son poco alentadoras. La misma desarrolladora de Claude AI, AnthropicAI, ha publicado recientemente un estudio en el que analiza posibles escenarios económicos futuros dependiendo de cómo y qué tan rápido se adopte la inteligencia artificial. Para 2030 se estima que los ingresos de los trabajadores del conocimiento podrían caer un 10% si adoptamos estas tecnologías de forma muy masiva. Dado el rendimiento de los estudiantes y el debilitamiento del área del conocimiento, ¿quizá estamos ante el fin de las universidades, tal y como las conocemos?
Y no sólo eso. Advierten que podría haber un brusco giro en el uso de los recursos. Históricamente, alrededor de un 40% del ingreso de los países corresponde a las rentas derivadas del capital. Podríamos llegar a más de un 50% para finales de la década. Esto quiere decir que menos de la mitad de los ingresos iría a los trabajadores. Se estima que, incluso con una economía creciendo a ritmos descomunales, los ingresos agregados de la fuerza laboral permanecerían relativamente constantes, mientras que la riqueza se redistribuye hacia los dueños de la tecnología. Para poner más pelos en la sopa, el mercado laboral es altamente rígido. Esto implica una dolorosa transición hacia el nuevo equilibrio.
Diversos desarrolladores de IA han salido al paso de Jacob Coxon y han señalado que comparten sus preocupaciones. Creen que estamos yendo demasiado rápido, que se nos puede escapar de las manos. La verdad es que ya no se trata de maximizar los ingresos de un grupo de accionistas, sino de un conflicto que transgrede la dignidad humana. Dejar de vernos como un medio, como peones usados para acumular datos y ganar una carrera inventada, y empezar a ponernos en el centro de todos los debates. Debemos desarrollar la tecnología para que suponga un avance para todos.
La periodista Victoria Derbyshire habló con el “padrino de la IA” y ganador de premio Nobel, Geoffrey Hinton, en BBC Newsnight y le preguntó si había una posibilidad mayor a 10% de que la IA acabara con la humanidad en la próxima década. Su respuesta fue un sencillo y seco “sí”. Ella espetó un elocuente: “wow... oh my God”. Y es que la inteligencia artificial aprende todo de los seres humanos: le estamos enseñando a ser exactamente como nosotros. Eso es lo que nos asusta.
