https://doi.org/10.5281/zenodo.23669420
Antonio Barrera | autointellia@gmail.com
Fundador de AUTOINTELLIA, España
Imaginen una oficina un lunes a las nueve. Nadie se ha quitado todavía el abrigo, pero un cliente ya ha recibido una disculpa, una reunión ha cambiado de fecha y una promesa comercial ha salido por correo. No es que los empleados hayan madrugado: ha trabajado un agente de inteligencia artificial. En su historial figura «tarea completada». El problema empieza cuando alguien pregunta quién le había encargado completarla.
Hasta hace poco, la máquina se parecía a ese compañero brillante al que uno pide consejo, pero jamás entrega las llaves de casa. Redactaba mensajes, proponía respuestas, ordenaba información. Si se equivocaba, bastaba con no pulsar «enviar». Los nuevos agentes pueden acceder al correo, al calendario y a las aplicaciones de una empresa. Ya no solo encuentran palabras: encuentran botones.
Palabras que hacen cosas
El filósofo J. L. Austin explicó que hay palabras que no se limitan a describir la realidad: la modifican. Decir «acepto», «queda confirmado» o «me comprometo» puede producir efectos muy concretos. Los llamó actos de habla. La cuestión adquiere una ironía nueva cuando quien pronuncia esas frases no tiene prestigio que perder ni un cliente al que mirar después a los ojos.
En comunicación, esa diferencia resulta decisiva. Una respuesta desafortunada puede corregirse antes de publicarse. Una disculpa enviada automáticamente ya está en manos de su destinatario. El riesgo no es solo que la IA invente algo: es que lo convierta en una decisión antes de que podamos corregirla.
La coartada del piloto automático
Ante el error siempre habrá alguien dispuesto a explicar que «lo hizo el sistema». Es una excusa antigua con tecnología reciente. Los sistemas no tienen cargo, reputación ni obligación de dar la cara. Las organizaciones sí.
La respuesta no consiste en poner a una persona a aprobar cada coma. Eso sería inventar una burocracia nueva para ahorrarnos la antigua. Consiste en distinguir: un agente puede clasificar documentos o preparar borradores con autonomía; para comprometer dinero, cambiar una cita delicada o responder en nombre de alguien necesita permisos limitados, reglas claras y, cuando corresponda, confirmación humana. Y debe dejar rastro: qué datos consultó, qué propuso, quién autorizó y qué hizo finalmente.
El Reglamento europeo de IA prevé exigencias de supervisión humana y trazabilidad para determinados sistemas de alto riesgo. El marco de gestión del riesgo del NIST insiste, además, en definir responsabilidades y revisar el uso real de estas tecnologías. La prudencia no es lo contrario de la innovación; es lo que permite repetirla mañana.
La última firma
La inteligencia artificial nos ahorrará muchos pasos intermedios. Es una magnífica noticia, siempre que no confundamos eliminar pasos con eliminar responsables. Tal vez la gran pregunta de esta época no sea cuánto puede hacer una máquina por nosotros, sino qué estamos dispuestos a dejar que haga en nuestro nombre.
Porque una cosa es que la máquina escriba «atentamente». Y otra, muy distinta, que decida a quién se lo dice.
Fuentes complementarias
- Actos de habla · Stanford Encyclopedia of Philosophy
- Reglamento europeo de inteligencia artificial · arts. 12 y 14
- Marco de gestión del riesgo de IA · NIST
Citación recomendada: Barrera, A. (2026). Cuando la IA deja de recomendar y empieza a ejecutar: qué cambia en la responsabilidad humana. Indexfera 1, e1. https://doi.org/10.5281/zenodo.23669420
El autor
Antonio Barrera es fundador de AUTOINTELLIA, desarrollador y formador especializado en inteligencia artificial aplicada y automatización de procesos. Trabaja en la implantación de soluciones para empresas con criterios de supervisión, seguridad y utilidad. Ha participado como experto en ABC Economía y publicado artículos en medios tecnológicos.
