Manual de IA territorial · Edición 1.0.0
Bloque B1 · Decidir si conviene usar IA
Primero el problema público; después la herramienta
Una entidad no debe comenzar por escoger un modelo. Debe comenzar por explicar qué problema quiere resolver, a quién afecta, qué resultado espera y por qué una herramienta con IA podría ser proporcional a ese propósito.
La pregunta de este bloque
¿La IA aporta un valor público verificable que no se logra mejor con una alternativa más simple, controlable o comprensible?
Es una buena entrada
- El problema está descrito con datos, tiempos o experiencias de personas.
- La salida de IA apoya una tarea delimitada y revisable.
- La entidad puede detener, corregir y explicar el uso.
Es una mala entrada
- La propuesta empieza por una marca, modelo o moda.
- El único beneficio es “automatizar” sin definir el daño que evita.
- Nadie puede responder por la salida frente a la ciudadanía.
La finalidad de servir a la comunidad y proteger derechos orienta la formulación del problema público (F01). El Código de Procedimiento Administrativo exige que la actuación conserve sus fines y garantías (F02).
01 · Encuadre
Escriba el problema antes de nombrar la IA
Un problema útil para decidir tiene sujeto, situación, consecuencia y resultado esperado. “La entidad necesita modernizarse” no basta. “Las solicitudes de licencias se asignan tarde y las personas no saben quién responde” permite comparar soluciones.
Ficha de necesidad pública
Cuatro pruebas de calidad del problema
- Especificidad: una persona externa entiende qué ocurre sin conocer la herramienta.
- Relevancia: la mejora tiene relación con un fin público, no solo con comodidad interna.
- Medición: existe una línea base, aunque sea una muestra o un registro de tiempos.
- Responsabilidad: hay una dependencia con competencia para intervenir y corregir.
02 · Alternativas
Compare IA con una alternativa sin automatización
La comparación evita que la tecnología se convierta en la respuesta predeterminada. Incluya al menos una alternativa de procedimiento, una de organización y, cuando sea razonable, una mejora de datos o servicio que no use IA.
| Alternativa | Beneficio esperado | Riesgo y control | Costo de no hacerla |
|---|---|---|---|
| Mejorar formulario y reglas existentes | Menos errores de entrada y menos retrabajo. | Reglas visibles y revisión de excepciones. | Persisten tiempos y quejas actuales. |
| Reasignar capacidad humana en horas críticas | Respuesta más rápida en picos previsibles. | Turnos, carga y continuidad del equipo. | Mayor costo recurrente. |
| IA como apoyo a clasificación o borrador | Reduce tarea repetitiva; conserva revisión. | Error de clasificación, datos expuestos o exceso de confianza. | Requiere pruebas, proveedor y seguimiento. |
Una alternativa simple puede ser preferible cuando…
- El volumen es pequeño y una regla transparente resuelve el caso.
- La decisión necesita una explicación individual que el sistema no puede ofrecer.
- El costo de medir errores y mantener el modelo supera el beneficio.
- La población afectada no tiene un canal practicable para corregir la salida.
La comparación de alternativas protege la eficacia, economía y responsabilidad de la actuación administrativa; la fuente exacta y el alcance deben registrarse en la matriz (F02).
03 · Árbol de decisión
¿Necesitamos IA para este problema?
- 1
¿Hay un problema público concreto?
No → rechazar la exploración y reformular. Sí → continúe.
- 2
¿Una alternativa sin IA logra el resultado con menos riesgo?
Sí → autorizar esa alternativa y documentar por qué. No → continúe.
- 3
¿La salida afecta derechos, acceso, recursos o trato?
Sí → no avance sin evaluación reforzada; como mínimo autorizar con condiciones. No → continúe.
- 4
¿Hay responsable, datos autorizados y controles practicables?
No → aplazar. Sí → pruebe una versión limitada y medible.
- 5
¿La prueba demuestra valor sin daño no aceptable?
No → rechazar o retirar. Sí → decidir entre autorizar y autorizar con condiciones.
El árbol es una herramienta editorial. El Decreto 767 de 2022 articula gobernanza e innovación pública digital; no convierte toda solución de IA en conveniente o autorizada por defecto (F03).
04 · Competencia y responsabilidad
Diferencie apoyo, información y decisión administrativa
| Uso | Qué hace la IA | Qué permanece en una persona competente | Salida inicial |
|---|---|---|---|
| Apoyo operativo | Resume, transcribe, propone etiquetas o borradores. | Revisa exactitud, contexto, fuentes y uso permitido. | Puede autorizarse con controles básicos. |
| Información general | Responde preguntas frecuentes con fuentes aprobadas. | Define límites, actualiza contenido y escala casos. | Autorizar con aviso y canal humano. |
| Recomendación | Ordena opciones, estima riesgo o sugiere una prioridad. | Motiva, contrasta, escucha a la persona y decide. | Autorizar con condiciones; B2 es obligatorio. |
| Afectación administrativa | Influye en un trámite, subsidio, sanción, inspección o acceso. | Adopta la decisión, garantiza contradicción y responde por ella. | Aplazar hasta evaluación reforzada. |
Preguntas de competencia
- ¿Qué dependencia tiene atribución legal y procedimental para actuar?
- ¿Quién firma, notifica, explica y corrige?
- ¿Qué parte del resultado entra al expediente y con qué calidad de evidencia?
- ¿Qué ocurre si la persona responsable discrepa de la sugerencia?
La entidad debe conservar sus competencias y garantías procedimentales; la IA no es sujeto de responsabilidad administrativa (F01, F02).
05 · Beneficio y riesgo
Use una matriz que haga visible la proporción
Califique por separado el beneficio público esperado y el riesgo de daño. Una promesa de eficiencia no compensa por sí sola un riesgo alto sobre derechos, datos o confianza.
| Riesgo bajo | Riesgo medio | Riesgo alto | |
|---|---|---|---|
| Beneficio alto | Autorizar con seguimiento. | Autorizar con condiciones, prueba limitada y revisión. | Aplazar hasta controles reforzados y prueba independiente. |
| Beneficio medio | Comparar costo y alternativa. | Aplazar; demostrar valor adicional. | Rechazar salvo cambio sustantivo del diseño. |
| Beneficio bajo | Preferir alternativa simple. | Rechazar la exploración. | Rechazar. |
Cómo puntuar sin fingir precisión
- Describa la evidencia que justifica la categoría; no use un número sin explicación.
- Incluya severidad, probabilidad, reversibilidad y capacidad real de corrección.
- Separe riesgo del sistema, riesgo del proceso y riesgo para una persona.
- Si hay desacuerdo, conserve las dos valoraciones y decida con el escenario más exigente.
06 · Clasificación inicial
Identifique banderas rojas antes de experimentar
Errores, alucinaciones, interrupciones, costos variables o dependencia de una salida no verificable.
Trato desigual, exclusión, sanción, pérdida de oportunidad o imposibilidad de reclamar.
Carga no autorizada, reutilización, reidentificación, acceso excesivo o retención desconocida.
Decisión sin competencia, contrato sin control, cambio de modelo o evidencia imposible de conservar.
Banderas rojas que detienen la exploración
- La propuesta define una persona o grupo como “prioridad” sin explicar variables, error y reclamación.
- El proveedor no permite conocer límites, cambios, registros, auditoría o salida.
- Se pretende cargar información personal, reservada o confidencial en una herramienta no aprobada.
- El equipo no puede nombrar quién suspende el sistema ni cómo informa el motivo.
- La salida se presenta como verdad oficial, aunque solo sea una inferencia o borrador.
La Política de Gobierno Digital destaca gobernanza, innovación centrada en ciudadanía y uso responsable de recursos; estas banderas traducen esa responsabilidad a una primera conversación, no crean nuevas sanciones (F03).
07 · Salidas directivas
Cuatro decisiones, cuatro condiciones de exploración
Condiciones mínimas de una autorización con condiciones
- Alcance: tarea, población, territorio, versión y duración.
- Supervisión: persona con autoridad para corregir y suspender.
- Datos: categorías permitidas, prohibidas, acceso y eliminación.
- Prueba: indicador, muestra, umbral de error y criterio de salida.
- Transparencia: aviso, canal humano y registro de quejas.
08 · Registro
Deje una decisión que otra persona pueda reconstruir
| Campo | Qué registrar | Pregunta de control |
|---|---|---|
| Problema y resultado | Descripción, población, territorio, línea base y meta. | ¿Alguien externo entiende qué se intenta mejorar? |
| Alternativas | Opciones sin IA, costo, controles y motivo de descarte. | ¿La IA es necesaria o solo disponible? |
| Riesgo | Daños, grupos, datos, reversibilidad y banderas rojas. | ¿Qué hace que el caso sea más exigente? |
| Responsable | Nombre, rol, competencia, suplencia y fecha de revisión. | ¿Quién responde cuando la salida falla? |
| Decisión | Una de las cuatro salidas, condiciones, evidencia y fecha de retorno. | ¿Se puede verificar si se cumplió? |
Conserve el registro junto con las fuentes, versiones, pruebas y observaciones. El registro no necesita ser largo; necesita ser suficiente para que la entidad explique por qué avanzó, condicionó, aplazó o rechazó.
Responsabilidades durante la exploración
- Dirección: aprueba la salida y el presupuesto de control.
- Líder del proceso: opera dentro del alcance y reporta desviaciones.
- Jurídica: revisa competencia, fuentes y garantías.
- TIC, datos y control interno: verifican acceso, seguridad, registros, calidad y evidencia proporcional al riesgo.
09 · Caso territorial breve
Un municipio quiere priorizar visitas de inspección
El equipo propone un modelo que ordena establecimientos según una “probabilidad de incumplimiento”. La promesa es visitar primero los casos de mayor riesgo y reducir tiempos.
Preguntas que faltan
- ¿Qué datos alimentan la probabilidad?
- ¿Qué barrios, actividades o grupos quedan sobrerrepresentados?
- ¿Qué pasa con quien aparece como riesgoso por un dato errado?
- ¿La visita produce sanción o solo verificación?
Alternativas
- Calendario transparente por rotación.
- Inspección basada en denuncias verificadas.
- Reglas públicas sobre señales objetivas.
- IA solo para ordenar expedientes, nunca para decidir visita.
Decisión de referencia
Aplazar. No se autoriza la priorización hasta completar evaluación de impacto, pruebas por grupo, explicación, revisión humana y mecanismo de corrección. Puede explorarse una alternativa de apoyo documental con datos autorizados.
Cinco escenarios para probar la ruta
| Escenario | Salida trazable | Razón breve |
|---|---|---|
| Clasificar PQRSD por tema | Autorizar con condiciones | Apoyo operativo, fuentes cerradas y escalamiento humano. |
| Resumir actas internas no reservadas | Autorizar | Resultado verificable y sin efecto directo sobre derechos. |
| Ordenar visitas por probabilidad de incumplimiento | Aplazar | Puede producir trato desigual y exige evaluación reforzada. |
| Responder automáticamente un recurso | Rechazar | La decisión y la motivación deben permanecer en autoridad competente. |
| Detectar duplicados en un registro de proyectos | Autorizar con condiciones | Revisión de falsos positivos, datos autorizados y registro de correcciones. |
Caso ilustrativo: no es precedente jurídico. Conecta B1 con B2 (igualdad y supervisión), B3 (datos) y B6 (monitoreo).
10 · Hoja de comité
Lienzo de valor público y decisión inicial
Decisión
Fuentes: Constitución Política, arts. 2 y 209; Ley 1437 de 2011; Decreto 767 de 2022; CONPES 4144. Fecha de consulta: 2026-07-25. F30 se usa solo como buena práctica comparada.