Por Max Sánchez Torres
Jefe de I+D de AGRO+
La inteligencia artificial ya forma parte del día a día de muchas empresas: nos ayuda a investigar, programar, analizar datos, crear contenido y agilizar procesos. Sus posibilidades son enormes, pero aprovecharlas correctamente también implica conocer sus límites.
Implementar IA sin entender sus riesgos puede llevarnos a confiar demasiado en sus resultados, exponer información sensible o incluso crear procesos que dependan excesivamente de ella.
Por eso, antes de pensar en todo lo que la IA puede hacer por una empresa, vale la pena conocer siete aspectos clave que debemos tener en cuenta al implementarla.
1. La IA generativa inventa con total seguridad
Cuando una IA no tiene suficiente información para responder, puede generar datos, referencias o conclusiones incorrectas y presentarlas con la misma seguridad que una respuesta verdadera.
Esto hace que un resultado aparentemente convincente no necesariamente sea correcto, especialmente cuando trabajamos con informes, investigaciones, análisis o información que llegará a clientes.
Qué mirar, qué hacer: Todo contenido generado por IA que pueda impactar en una decisión, proceso o cliente debe pasar por una revisión humana antes de ser utilizado.
2. La IA es ciega al contexto
La IA puede tener una gran capacidad técnica, pero no conoce por sí sola la historia de una empresa ni las razones detrás de cada proceso.
Por ello, puede proponer cambios sobre procedimientos que existen por una buena razón o plantear soluciones mucho más complejas de lo necesario. La experiencia de las personas sigue siendo fundamental para determinar cuándo una recomendación realmente tiene sentido.
Qué mirar, qué hacer: Quien utilice IA dentro de un proceso debe conocer suficientemente bien ese proceso como para cuestionar, corregir o descartar sus recomendaciones.
3. El piloto automático humano
A medida que utilizamos más la IA y obtenemos buenos resultados, también podemos empezar a confiar demasiado en ella.
El riesgo aparece cuando dejamos de revisar y comenzamos a aprobar automáticamente textos, análisis o decisiones que todavía requieren nuestro criterio. Esto es especialmente importante cuando la IA produce resultados sobre temas que la persona aún no domina.
Qué mirar, qué hacer: La revisión debe formar parte del proceso. Una regla sencilla puede marcar la diferencia: no aprobar aquello que no entendemos.
4. ¿Y si mañana no hay IA?
Integrar IA puede aumentar considerablemente la productividad, pero convertirla en un punto indispensable de la operación también genera dependencia.
Una caída del proveedor, problemas de conectividad, restricciones externas o cambios en el servicio pueden dejar temporalmente una herramienta fuera de funcionamiento. Si todo un proceso depende de ella, el proceso también podría detenerse.
Qué mirar, qué hacer: Identifica qué actividades críticas dependen de IA y asegúrate de contar con una alternativa que permita continuar operando si la herramienta deja de estar disponible.
5. Tu información sale de casa
Cuando utilizamos servicios de IA en la nube, podemos estar enviando información de la empresa a la infraestructura de un tercero: documentos, procesos, datos de clientes o información interna.
Por eso, antes de adoptar estas herramientas es importante definir claramente qué información puede compartirse y cuál debe permanecer siempre protegida.
Qué mirar, qué hacer: Clasifica la información según su nivel de sensibilidad: qué puede compartirse, qué requiere determinadas condiciones o contratos y qué información nunca debe salir de la empresa. Asegúrate de que todo el equipo conozca estas reglas.
6. La ley ya llegó
La adopción de inteligencia artificial también tiene implicancias regulatorias. En Perú ya existe un marco normativo específico sobre IA, mientras que otras regiones, como Europa, cuentan con regulaciones aún más amplias.
Esto cobra especial relevancia cuando la IA interviene en decisiones sensibles relacionadas con personas, datos personales, créditos, salud, educación u otros ámbitos regulados.
Qué mirar, qué hacer: Antes de implementar IA en procesos sensibles, revisa las obligaciones aplicables en tu país y asegúrate de contar con supervisión humana, transparencia y una adecuada protección de los datos.
7. La IA no cuesta lo que crees
La IA puede permitirnos hacer mucho más en menos tiempo, pero medir su productividad únicamente por la velocidad con la que genera una primera respuesta puede llevarnos a conclusiones equivocadas.
También debemos considerar el tiempo destinado a revisar, verificar y corregir sus resultados, además del costo de las herramientas utilizadas.
Qué mirar, qué hacer: Evalúa el ciclo completo: generar, revisar y corregir. La IA aporta valor cuando el tiempo y los recursos que ahorra superan el esfuerzo necesario para validar su trabajo.
Entonces, ¿no usamos IA? Al contrario
Conocer estos riesgos no significa frenar la adopción de la IA, sino aprender a implementarla mejor.
La IA puede ayudarnos a analizar, crear, automatizar y avanzar más rápido, pero el criterio humano sigue siendo fundamental para validar sus resultados y tomar decisiones.
La oportunidad está en aprovechar la IA con criterio y responsabilidad.
El riesgo de usar IA es proporcional a lo difícil que es verificar su resultado.
No todos los resultados de la IA son igual de fáciles de comprobar. Mientras más difícil sea verificar una respuesta, mayor debe ser el criterio humano al revisarla.
Al final, la IA puede ser ese experto brillante e incansable que tenemos al lado, pero necesita contexto y supervisión. Podemos apoyarnos en sus capacidades, pero las decisiones y la responsabilidad siguen siendo nuestras.
El verdadero valor está en saber dónde y cómo utilizarla, manteniendo siempre una mirada crítica sobre aquello que estamos dispuestos a validar como propio.
Fuentes:
Caso Deloitte (Australia): Paréntesis Media — Deloitte reembolsa parte de un informe para el gobierno australiano tras detectar errores generados por IA · Forbes — Deloitte reembolsará al gobierno de Australia tras errores generados por IA en informe oficial
Caso KPMG: The Register — KPMG’s AI report becomes an accidental demo of AI hallucinations.
Caso PwC: Forbes — PwC reports caught with AI slop is a warning to every worker · GPTZero — PwC report hallucinates product and government customers.
Apagón de los modelos de Anthropic: Infobae — Anthropic apaga sus modelos de IA Fable 5 y Mythos 5 en todo el mundo tras una orden de Estados Unidos · CNN en Español — La Casa Blanca levanta a Anthropic el control de exportación.
Regulación peruana de IA: Plataforma del Estado Peruano — Conoce el Reglamento de la Ley de Inteligencia Artificial en el Perú · CMS Law — Se aprueba el Reglamento de la Ley que promueve el uso de la IA (D.S. 115-2025-PCM)
