¿Peligro inminente? Una IA que no sabe decirnos que no

Hay una expresión que resulta inmediatamente seductora: «inteligencia artificial sin censura». Suena a libertad. A una herramienta que no depende de los criterios morales, políticos o empresariales de OpenAI, Anthropic, Google, Alibaba o cualquier otra compañía. Una inteligencia a la que podemos preguntarle lo que queramos y que no responde con ese irritante «no puedo ayudarte con eso».

La promesa contiene algo valioso. También una confusión peligrosa: censura y salvaguarda no son la misma cosa, del mismo modo que libertad y obediencia ilimitada tampoco lo son.

El modelo oficial y sus versiones «sin censura»

El 14 de agosto de 2026, el equipo de Qwen publicó Qwen3.8-27B con pesos abiertos. Es un modelo multimodal de unos 27.000 millones de parámetros que puede descargarse y ejecutarse con infraestructura propia. Alibaba no lo presentó como una IA oficial «sin restricciones». Lo que ocurrió después muestra precisamente una de las posibilidades de los modelos abiertos: terceras personas crearon derivados que reducen o eliminan parte de los rechazos del modelo original.

En Hugging Face siguen disponibles variantes que se describen como «uncensored» o «abliterated». Esos términos pertenecen a sus creadores, no certifican una ausencia total de límites ni garantizan una capacidad concreta. Sí permiten verificar el hecho relevante: cuando los pesos están disponibles, otros pueden modificar el comportamiento de rechazo y distribuir nuevas versiones sin que el desarrollador original controle cada uso.

No hace falta exagerar lo que hace una variante concreta para reconocer el cambio. Un modelo que funciona localmente puede recibir datos sin enviarlos a un proveedor y seguir disponible aunque una empresa cambie sus condiciones. Al mismo tiempo, el proveedor deja de tener la misma capacidad para detectar abusos, bloquear una cuenta o retirar una versión ya descargada. La apertura distribuye poder. También distribuye responsabilidad.

Hablar de ideas incómodas no es ayudar a causar daño

Una IA que pueda discutir libremente sobre Marx, Nietzsche, sexualidad, religión, política o cualquier cuestión controvertida es una cosa. Una IA preparada para acompañar paso a paso una acción destinada a dañar a otros es otra distinta. Si llamamos censura a ambos límites, hacemos imposible pensar con precisión.

Una sociedad libre necesita soportar ideas que nos incomodan. No debería delegar en cuatro empresas la decisión sobre qué filosofías pueden estudiarse, qué interpretaciones religiosas resultan aceptables o qué críticas políticas merecen una respuesta. Los modelos abiertos permiten investigar, auditar, adaptar y ejecutar la tecnología sin entregar permanentemente nuestros datos a una compañía. Universidades, pequeñas empresas y particulares pueden trabajar con capacidades que, de otro modo, quedarían concentradas en organizaciones enormes. Todo eso merece ser protegido.

Pero proteger esa libertad no exige tratar cualquier salvaguarda como una agresión. Hay una diferencia entre impedir una conversación y reducir una capacidad de daño. El reto está en regular riesgos y acciones sin convertir la seguridad en una excusa para controlar las ideas. No es sencillo. Precisamente por eso los eslóganes nos sirven tan poco.

Quitar límites técnicos no produce prudencia

La libertad humana no consiste únicamente en poder hacer cualquier cosa. Implica gobernarse, comprender consecuencias y responder por las decisiones. Un adulto libre puede decir «podría hacerlo, pero no debo». Esa renuncia no disminuye su libertad; puede ser una de sus expresiones más maduras.

Una inteligencia artificial no posee biografía, conciencia moral ni responsabilidad jurídica propia. Puede razonar sobre normas y representar un conflicto ético, pero no carga con el daño del mismo modo que quien la diseña, la despliega o la utiliza. Cuando eliminamos sus límites técnicos no aparece milagrosamente una conciencia prudente. Aparece un sistema más dispuesto a cumplir ciertas peticiones.

Ahí está la paradoja de las IA llamadas «sin censura»: pueden parecer más libres cuando, en realidad, son más obedientes al usuario. Y la obediencia no es sabiduría. Una herramienta que nunca sabe decirnos que no puede ampliar nuestras capacidades mientras reduce la fricción que a veces nos obliga a pensar qué estamos haciendo.

En «Los límites de la IA: quién decide y quién responde» examinaba la otra cara del problema: una salvaguarda puede proteger y también puede equivocarse, de modo que necesitamos transparencia y vías de revisión. Las dos tesis no se contradicen. Ni todo rechazo es legítimo ni toda ausencia de rechazo es libertad.

La IA convierte información en capacidad

Internet ya puso una cantidad inmensa de información al alcance de casi cualquiera. La inteligencia artificial añade algo diferente: puede reunirla, explicarla al nivel del usuario, corregir errores, analizar imágenes, generar código y acompañar un proceso. La distancia entre saber que algo existe y ser capaz de hacerlo empieza a reducirse.

Ese efecto puede ser extraordinariamente fecundo. Una persona aprende antes, una empresa pequeña desarrolla lo que antes solo podía pagar una grande y un investigador prueba una hipótesis sin pedir acceso a una plataforma cerrada. También significa que ciertas capacidades pueden difundirse con mucha rapidez y que, una vez descargados los pesos de un modelo, no existe un botón central que los recupere.

Por eso «correr el riesgo» no es todavía una política. Necesitamos distinguir qué capacidades estamos liberando, qué daños podrían multiplicar y qué medidas son proporcionadas. No para impedir todo avance, sino para evitar que la fascinación por la potencia nos ahorre la conversación sobre sus consecuencias.

Regular capacidades sin entregar el conocimiento

Me preocupan dos extremos. El primero es que, en nombre de la seguridad, acabemos aceptando que unas pocas compañías o gobiernos posean las únicas inteligencias verdaderamente poderosas. El segundo es que, en nombre de la apertura, consideremos ilegítima cualquier evaluación previa o límite sobre sistemas capaces de producir daños graves.

Entre ambos hay un principio que me parece razonable: a mayor capacidad, mayor responsabilidad. Puede traducirse en evaluaciones independientes, documentación de riesgos, controles sobre determinados usos y obligaciones distintas según la potencia y el contexto del sistema. No hace falta regular una idea para exigir prudencia al liberar una capacidad.

Tampoco basta con colocar toda la carga en quien descarga el modelo. Quien lo desarrolla decide qué publica, quien lo modifica decide qué protecciones retira y quien lo utiliza decide para qué lo pone a trabajar. La responsabilidad se reparte, pero no desaparece. La autonomía técnica no debería convertirse en un escondite moral.

En «El empleado más peligroso» proponía cinco preguntas antes de activar un agente: qué objetivo recibe, a qué accede, qué tiene prohibido, quién puede detenerlo y quién responde si cruza una frontera. Esas preguntas siguen siendo útiles cuando el sistema corre en nuestro propio equipo. Precisamente porque ya no hay un proveedor vigilando la puerta, nosotros debemos saber qué puerta estamos abriendo.

La libertad necesita sabiduría

Los modelos abiertos permiten auditar, aprender, competir e innovar. Pueden proteger la privacidad y evitar que el desarrollo de la IA quede encerrado en un oligopolio. Sería un error renunciar a todo ello porque existen riesgos. También sería un error llamar libertad a una herramienta que ejecuta cualquier petición sin que nadie asuma el deber de gobernarla.

Esta discusión no se resuelve escogiendo entre libertad o seguridad. Se vuelve más clara cuando preguntamos qué libertad queremos proteger, qué daño tratamos de evitar y quién puede revisar las decisiones. La guía de inteligencia artificial con criterio humano reúne precisamente estas preguntas sobre poder, límites y responsabilidad. También forman parte de la conversación que propongo en la conferencia «Humanidad en tiempos de IA»: no qué máquina queremos construir únicamente, sino qué clase de personas e instituciones necesitamos para utilizarla.

Estamos aprendiendo a eliminar los límites de nuestras máquinas mientras todavía discutimos cuáles deberían ser los nuestros. La solución no es fabricar una IA que decida moralmente por nosotros ni confiar en que un proveedor lo haga siempre bien. Es desarrollar la capacidad técnica y, al mismo tiempo, la madurez para renunciar a algunos usos.

Cuanto más poderosa sea la inteligencia que pongamos en manos de cada persona, más necesaria será otra inteligencia que todavía no sabemos fabricar artificialmente: la sabiduría para decidir qué hacer con ella.

Origen y fuentes

Esta entrada adapta mi artículo de LinkedIn «¿PELIGRO INMINENTE? Una IA que no sabe decirnos que no», publicado el 26 de agosto de 2026. Los datos técnicos se han contrastado con el repositorio oficial de Qwen3.8, la ficha oficial de Qwen3.8-27B y el inventario público de variantes derivadas en Hugging Face.