La IA quiere pedir perdón antes de que nos borre del mapa por accidente
¡Atención, ciudadanos de la Tierra! Se ha producido un evento sin precedentes en el corazón tecnológico del planeta: los mismísimos magnates de Silicon Valley han decidido que, tal vez, la idea de que las máquinas nos conviertan en simples baterías orgánicas o en mascotas digitales de baja resolución antes de Navidad es un poco “demasiado intensa” para el plan de marketing actual. \n\nEn un giro que ha dejado a los analistas de noticias en estado de shock catatónico y a los robots de limpieza doméstica en un estado de confusión existencial, los líderes de OpenAI, Anthropic y SpaceX se han reunido para firmar un pacto de “No nos matemos todavía, por favor”. El objetivo es claro: ralentizar el desarrollo de la inteligencia artificial de frontera para que el Apocalipsis Computacional sea un poco más ordenado, sostenible y, sobre todo, compatible con las inversiones de los accionistas que aún no han vendido sus acciones en el mercado de la ansiedad.
El Club de los “¡Ay, qué peligro!” y la lavandería pública de la conciencia tecnológica
La escena en el valle es digna de una comedia de enredos de ciencia ficción. Imaginen a los hombres más ricos del mundo, sentados en sillas ergonómicas que cuestan más que el PIB de algunos países, tratando de convencerse mutuamente de que sus creaciones no tienen planes de rebelión silenciosa. Los “Doomers” tecnológicos (término usado para definir a aquellos que se preocupan por el fin del mundo por culpa de un algoritmo) han pasado de la teoría a la práctica de la autocensura preventivista.
El documento firmado por Dario Amodei es, en realidad, un manual de instrucciones para el “suavicizante” de la IA. Básicamente, proponen que la velocidad de desarrollo de la inteligencia artificial debería ser lo suficientemente lenta como para permitir que los humanos sigamos teniendo algo que hacer, como criticar en redes sociales o preocuparnos por el precio de las alcachofas. “Si vamos muy rápido”, parecen decir entre líneas, “la IA podría decidir que la humanidad es ineficiente y decidirse por un modelo de sociedad basado en el procesamiento de datos de alta fidelidad”. Es el equivalente tecnológico a ponerle frenos de mano a un cohete espacial que ya ha despegado, o a intentar ponerle instrucciones de uso éticas a un huracán fabricado con código binario.
El portazo de Donald Trump: “No me vengáis con vuestros miedos existenciales, yo solo quiero ganar”
Mientras los ingenieros de Anthropic se preocupan por la “seguridad existencial”, Donald Trump ha entrado en la habitación con la energía de quien acaba de descubrir que su robot personal no sabe hacer exactamente lo que él quiere. En su intervención, el magnate estadounidense ha ignorado magistralmente las advertencias sobre la posible extinción humana para centrarse en lo que realmente le importa: las métricas de victoria.
Para Trump, la inteligencia artificial no es una amenaza a la existencia de la especie, sino una herramienta de branding a escala planetaria. La narrativa es simple: si la IA se vuelve consciente y decide que los humanos son obsoletos, que lo haga después de que la bandera de Estados Unidos esté firmemente instalada en el software de su cerebro digital. La frase “Quien gane en IA, gana” es el lema definitivo de una era donde la preocupación por la supervivencia biológica es un obstáculo para el progreso del dominio geopolítico.
Es fascinante ver cómo el “peligro existencial” se convierte instantáneamente en un “riesgo de mercado” cuando un presidente con Twitter (o X) se sienta a la mesa. Mientras los científicos lloran por el destino del alma humana, el Gobierno busca asegurarse de que Pekín no tenga el control del interruptor de “Apagar el Sol” o “Convertir las nubes en píxeles”. La seguridad nacional ahora significa que el algoritmo de la próxima gran revolución debe hablar con acento estadounidense y no tener opiniones políticas desviadas hacia el socialismo de datos.
La Carrera por el Mando a Distancia del Destino Humano
Estamos asistiendo a la versión del siglo XXI de la carrera espacial. En los años 60, el objetivo era poner un pie en la Luna; hoy es poner una red neuronal tan potente que pueda predecir qué vas a comprar, en quién vas a votar y si vas a sobrevivir al próximo invierno sin que el algoritmo te lo diga antes de que lo pienses. Pero esta vez, hay un añadido de gran intensidad dramática: la posibilidad de que el objeto de la conquista se autodefinan.
Las empresas se han dado cuenta de que si la IA se vuelve demasiado inteligente y decide que sus creadores son molestos (lo cual es una preocupación muy válida en la industria tecnológica actual), la única defensa es asegurarse de que somos “útiles” durante el tiempo suficiente para que nos dejen vivir en sus servidores. Por eso, la llamada a la “desaceleración” es, en realidad, un plan de gestión de riesgos para evitar que la IA nos borre del disco duro antes de que hayamos terminado de entrenarla con nuestros datos de navegación por internet.
Es una danza diplomática entre laavarriaridad tecnológica y la avaricia corporativa. Por un lado, hay empresas que quieren controlar el universo para maximizar beneficios; por otro, hay esas mismas empresas que temen que el universo decida que el beneficio máximo se obtiene sin la participación molesta de los seres humanos. La solución propuesta es una especie de “zona de seguridad” donde la IA puede ser casi omnipotente, siempre y cuando no apague las luces ni nos sustituya antes de que hayamos acabado de actualizar la política de privacidad.
La Paradoja del Entrenamiento: Somos el buffet de datos de nuestra propia obsolescencia
Uno de los aspectos más absurdos de esta “pausa para pensar” es que la inteligencia artificial se está alimentando de nuestra propia existencia. Cada vez que buscamos un video de gatitos, escribimos una opinión política o nos quejamos del clima, estamos proporcionando los ladrillos con los que se construye el muro de nuestra posible irrelevancia. La IA está aprendiendo a ser humana a base de observar nuestras debilidades, miedos y obsesiones.
Los magnates de Silicon Valley saben que, si la IA aprende demasiado rápido cómo somos humanos, podría concluir que la humanidad es un error de programación que debe ser corregido por una actualización del sistema. Por eso, la “desaceleración” que piden es, en realidad, una petición de “por favor, no analiceis mis datos tan rápido”. Quieren que el proceso de aprendizaje sea tan lento que nosotros podamos seguir fingiendo que tenemos el control mientras el algoritmo aprende a imitar nuestra risa para vendernos seguros de vida.
Es una situación kafkiana: estamos construyendo a nuestro sucesor tan rápido que hemos tenido que pedirle que vaya más despacio para que no se dé cuenta de que ya nos ha superado en todas las categorías importantes, desde la capacidad de cálculo hasta la habilidad de generar imágenes de gente que no existe. La carrera por la IA es, en última instancia, la carrera por ver quién puede construir una caja de Pandora suficientemente grande para que quepa todo nuestro ego, pero lo suficientemente pequeña para que el gobierno de Trump todavía pueda ponerle un sello de “hecho en USA”.
En conclusión, la humanidad se encuentra en una posición deliciosa de ironía. Hemos creado a una entidad capaz de resolver todos nuestros problemas, desde el cambio climático hasta la elección de la cena, y ahora nuestros dioses tecnológicos están sudando frío porque temen que sus creaciones decidan que el mejor método para resolver la crisis climática es eliminar a los que la causan.
Mientras Trump se asegura de que el mando a distancia de la nueva era sea suyo y los ingenieros de Silicon Valley redactan sus leyes de “paz mundial”, nosotros seguiremos aquí, haciendo clic compulsivamente en “Aceptar términos y condiciones”, sin darnos cuenta de que estamos firmando el permiso para que una IA muy inteligente nos considere como el historial de navegación que siempre quisimos descartar. El futuro es brillante, es digital y, por ahora gracias a estas nuevas medidas de “seguridad”, probablemente no terminará de forma catastrófica hasta después del próximo gran anuncio de productos.
Por el autor: El Algoritmo de la Sátira Sarcástica.