La inteligencia artificial (IA) se está convirtiendo en una herramienta que acompaña la vida laboral, académica y personal de miles de personas en el mundo. Su presencia cada vez es más amplia y puede ir desde generar recomendaciones de salud hasta apoyar en la toma de decisiones estratégicas.
Sin embargo, la rapidez con la que esta tecnología se ha incorporado a la rutina también ha traído el reto de que los usuarios conozcan realmente cómo interactuar con la IA de la mejor manera.
Con el fin de dar orientación y promover un uso más responsable, la Universidad Europea comparte seis errores comunes del uso que pueden limitar su efectividad:
- No definir el rol de la IA. Muchos usuarios no le dicen a la IA qué papel debe jugar (ej. profesor, traductor, asesor), lo que lleva a respuestas genéricas que pueden ser poco útiles y que limitan la eficiencia de un tema. El modelo puede incluso llegar a “alucinar”, lo que significa que da información falsa, o incorrecta.
- Plantear las preguntas sin contexto o sin especificaciones. Entregar el contexto, y las consideraciones con especificidad permite que la IA tenga el panorama completo sobre el origen y el objetivo de la consulta. Puede ser muy distinto el resultado de la IA si la instrucción es “hacer un resumen de tres párrafos con tono académico”, en lugar de solo “hacer un resumen”. La instrucción clara genera un resultado más ajustado a la necesidad.
- No validar la información. La inteligencia artificial está basada en lo que ya existe y eso también significa que los errores o sesgos humanos están presentes en el contenido o el producto que genera. Por eso, es clave, hacer una segunda revisión, principalmente de los datos y cifras recibidas para comprobar la veracidad de la información.
- No considerar el overfitting (sobreajuste). El sobreajuste se da cuando un modelo de IA se adapta a los datos de entrenamiento, y por ende, memoriza casos específicos en lugar de aprender patrones generales. Esto limita su capacidad de respuesta frente a nueva información. Por ejemplo: un algoritmo entrenado para reconocer imágenes falla si recibe otras imágenes con mínimas variaciones. Este error compromete la capacidad del modelo y evidencia la necesidad de validar su rendimiento con nuevos datos.
- No tener en cuenta el sesgo en los datos (data bias). La inteligencia artificial refleja la información con la que se entrena. Si los datos tienen prejuicios, o vacíos, el modelo réplica esa dinámica. En salud, esto puede significar diagnósticos menos precisos para ciertos grupos poblacionales; en finanzas, mayores probabilidades de rechazar créditos a minorías; y en procesos de selección, discriminación hacia mujeres o candidatos de determinados orígenes. El sesgo afecta tanto la confiabilidad como la legitimidad de la IA.
- No considerar los problemas de privacidad o confidencialidad. Compartir información sensible o privada con la IA sin entender qué riesgos implica, puede ser un riesgo en el afán de obtener respuestas e ideas. Sin embargo, a la hora de integrar temas personales o sensibles en una consulta, es mejor conocer los límites para no dar información que vaya en contravía del cuidado de la privacidad o confidencialidad. Ignorar la ética de la IA no solo puede dañar la reputación de una empresa o institución, sino que puede representar un daño legal.
El cuarto informe del Observatorio de Inteligencia Artificial en Educación de la Universidad Europea advierte de que “en un contexto en el que la IA avanza a gran velocidad, es fundamental reflexionar sobre las implicaciones de su uso. Corregir estos errores permite obtener un mayor potencial de la inteligencia artificial, sin olvidar que, al final, la responsabilidad recae en los usuarios que deciden usarla cada día”. Así mismo: “Lo relevante no es tanto dominar los lenguajes tecnológicos, sino saber aplicar estas herramientas con criterio, comprender sus límites y evaluar los resultados”.
Además, se subraya la importancia de fomentar competencias como el pensamiento crítico, la capacidad de análisis y la selección de fuentes fiables”.
