Los límites de la IA: quién decide y quién responde

Imagina que pides ayuda a alguien para realizar un trabajo y, de pronto, se detiene. Te dice que no puede continuar. Puede tener buenas razones: quizá no tienes permiso para hacer lo que pides o podrías perjudicar a otra persona. También puede haberte entendido mal. En cualquiera de los casos, querrías saber qué ha ocurrido y cómo revisar la decisión. No parece una exigencia extravagante.

Con la inteligencia artificial empezamos a vivir esa escena con frecuencia, pero el interlocutor se vuelve borroso. El sistema responde, la empresa fija sus condiciones, otro modelo puede intervenir por detrás y la persona que necesita terminar el trabajo queda ante una puerta cerrada. ¿A quién le explica que su petición era legítima?

Lo que una IA puede hacer y lo que se nos permite hacer

El 22 de septiembre de 2026, Anthropic presentó Claude Opus 5.5. La compañía explicó que, para ciertas tareas de ciberseguridad o biología, sus protecciones pueden derivar la consulta a otro modelo. Anunció también vías de acceso para organizaciones de ciencias de la vida verificadas y una ampliación prevista para profesionales de ciberseguridad verificados. Son decisiones y resultados comunicados por la propia empresa; no una demostración de que todos los usos sean seguros ni de que ningún investigador legítimo vaya a quedar fuera.

Ese lanzamiento hace visible una distinción que conviene conservar: capacidad y permiso son cosas diferentes. Una tecnología puede saber responder y, aun así, no ofrecer esa respuesta a quien se la pide. A veces será lo prudente. Una herramienta capaz de ayudar a defender un sistema informático también puede facilitar que alguien lo ataque. La libertad del usuario importa, pero no borra a quienes sufrirían las consecuencias de un abuso.

Ahora bien, escribir «por seguridad» sobre una puerta no demuestra que deba permanecer cerrada. La medida concreta puede ser necesaria, desproporcionada o sencillamente equivocada. Yo no querría una IA que obedeciera cualquier barbaridad. Tampoco me conformaría con una que tratara una pregunta difícil como prueba de mala intención y no permitiera aclararla.

Quién puede corregir el límite

La empresa que desarrolla un modelo conoce riesgos técnicos que el resto quizá no ve. Ese conocimiento le da una responsabilidad real. Pero también tiene intereses comerciales, limitaciones y puntos ciegos. Cuando su herramienta participa en la investigación, la enseñanza o el trabajo de millones de personas, sus criterios dejan de afectar solo a quienes firmaron una política de uso. Se convierten en decisiones con efectos sociales.

Por eso preguntaría tres cosas. ¿Se distingue una solicitud dañina de una investigación legítima? ¿Puede quien recibe un rechazo saber, al menos en términos generales, qué clase de límite se ha aplicado? ¿Existe una vía proporcionada para revisar un error? No pido que se publiquen los detalles que permitirían sortear una protección. Pido que el secreto necesario no se convierta en ausencia de rendición de cuentas.

La verificación de profesionales puede ser razonable en materias sensibles. Pero habrá que observar cómo funciona en la práctica: si reconoce a equipos pequeños, investigadores independientes y organizaciones de distintos países, o si acceder a una herramienta avanzada acaba dependiendo de tener una gran estructura detrás. No afirmo que el programa anunciado excluya a nadie en particular. Señalo una pregunta que debe entrar en la evaluación.

La responsabilidad vuelve a nuestra mesa

Esto no concierne solo a Anthropic. Si llevo una IA a mi empresa o a mis clases, debería saber qué hacer cuando rechace una tarea legítima, cambie sus condiciones o dé una respuesta que nadie pueda justificar. Hace falta una persona capaz de revisar el caso, una alternativa para seguir trabajando y criterios que podamos explicar a quienes resulten afectados. Comprar una tecnología potente no compra nuestra conciencia ni nuestra responsabilidad.

En otra reflexión sobre las IA llamadas «sin censura» planteaba el riesgo de confundir libertad con obediencia ilimitada. Aquí me interesa la otra cara: un límite puede proteger y también puede equivocarse. La sabiduría está en gobernar una capacidad poderosa sin entregar a una sola compañía la última palabra sobre todos sus usos.

Cuando una IA diga que no, a veces necesitaremos detenernos y reconsiderar lo que pedimos. Otras veces necesitaremos poder explicar mejor el caso y recibir una revisión. Si no sabemos hacer ambas cosas, habremos mejorado las máquinas sin madurar nosotros. Y ese sí sería un avance bastante discutible.

Origen y fuentes

Esta entrada adapta mi artículo de LinkedIn «¿Quién decide lo que tu IA no te deja hacer?», publicado el 23 de septiembre de 2026. Los detalles del lanzamiento proceden del anuncio de Anthropic del 22 de septiembre de 2026 y su explicación de las derivaciones por seguridad. La valoración de sus consecuencias es mía. Puedes leer también «La IA necesita filósofos. ¿Está dispuesta a escucharlos?».