Una herramienta, no un sustituto

La inteligencia artificial ya forma parte de la vida cotidiana de estudiantes, emprendedores, comerciantes, profesionales y pequeñas empresas. Se utiliza para resumir textos, organizar información, preparar presentaciones, analizar datos, redactar propuestas, responder consultas, diseñar estrategias comerciales y generar ideas. Ignorar esta realidad sería poco práctico. Sin embargo, aceptar sin cuestionamientos todo lo que produce una herramienta de inteligencia artificial sería todavía más problemático.

El debate, por lo tanto, no debería reducirse a decidir si se utiliza o no inteligencia artificial. La cuestión realmente importante consiste en cómo utilizarla sin permitir que sustituya el criterio de la persona que debe tomar la decisión.

Esta distinción resulta especialmente relevante a la luz del Global Index on Responsible AI (GIRAI), que analiza hasta qué punto los países desarrollan condiciones de transparencia, responsabilidad, supervisión, protección de derechos e inclusión alrededor de estas tecnologías. Una de las lecciones que puede extraerse de este enfoque es bastante sencilla: el desarrollo tecnológico por sí mismo no garantiza un uso responsable. Si la capacidad tecnológica avanza más rápido que la capacidad de evaluar sus consecuencias, el resultado puede ser una sociedad con herramientas cada vez más poderosas, pero con personas cada vez menos preparadas para cuestionarlas.

La relación entre causa y efecto aparece desde el primer momento. Cuando la IA se utiliza para apoyar el pensamiento, aumenta la capacidad de quien la utiliza; cuando se utiliza para evitar el pensamiento, aumenta su dependencia.

El problema no es utilizar IA, sino renunciar a decidir

Un estudiante universitario puede utilizar inteligencia artificial para pedir una explicación adicional sobre un tema complejo. Esa utilización puede ser productiva. Puede solicitar ejemplos, comparar teorías, generar preguntas de estudio o identificar puntos que todavía no comprende.

El problema comienza cuando ese mismo estudiante solicita un ensayo completo, lo entrega sin analizarlo y termina obteniendo una calificación por un razonamiento que nunca desarrolló.

La causa es la sustitución del esfuerzo intelectual. El efecto es una formación cada vez más superficial.

El estudiante quizá haya entregado el trabajo, pero no necesariamente aprendió. Y esa diferencia importa porque la educación universitaria no debería limitarse a producir tareas terminadas. Su propósito también consiste en desarrollar la capacidad de analizar información, formular argumentos, reconocer errores y defender decisiones.

La IA puede ayudar a estudiar, pero no debería estudiar en lugar del estudiante.

El mismo principio se aplica a un emprendedor. Puede utilizar inteligencia artificial para identificar variables de un mercado, preparar escenarios, organizar información sobre competidores o generar alternativas para una campaña. Todo ello puede acelerar el análisis.

Sin embargo, si el emprendedor acepta automáticamente la recomendación de la herramienta porque parece convincente, comienza a delegar algo que no debería delegar: el conocimiento del negocio y la responsabilidad de decidir.

Una IA puede sugerir que determinado producto tiene potencial. Pero no conoce necesariamente al cliente que entra todos los días al negocio, las particularidades del barrio, las relaciones con los proveedores, la reputación de la empresa ni las dificultades reales para financiar la operación.

Por eso la secuencia correcta debería ser:

la persona plantea el problema, la IA ayuda a analizarlo y la persona decide.

La secuencia peligrosa es la contraria:

la persona pregunta, la IA responde y la persona obedece.

Una respuesta bien redactada no es necesariamente una respuesta correcta

Uno de los mayores riesgos de la inteligencia artificial generativa es que puede presentar información equivocada con una redacción extraordinariamente convincente.

Eso modifica la manera en que las personas evalúan una respuesta.

Antes, un error evidente podía despertar sospechas. Ahora, una afirmación puede venir acompañada de una explicación ordenada, ejemplos, argumentos y lenguaje técnico. Esa apariencia de seguridad puede provocar que el usuario disminuya su nivel de vigilancia.

La causa es la confianza excesiva en la forma de la respuesta.

El efecto es la reducción de la verificación.

Por eso debería aplicarse una regla elemental: cuanto más importante sea la decisión, menos debería confiarse únicamente en una respuesta generada por IA.

Si la información se utilizará para decidir qué película ver, el riesgo es mínimo. Si se utilizará para invertir dinero, interpretar una norma, diseñar una estrategia empresarial, tomar una decisión médica, preparar un contrato o publicar una acusación, la obligación de verificar aumenta considerablemente.

La utilidad de una herramienta no elimina la responsabilidad de quien la utiliza.

El comerciante debe conocer su negocio mejor que el algoritmo

Para un comerciante o el dueño de una pyme, la inteligencia artificial puede representar una ventaja considerable. Permite hacer tareas que anteriormente podían requerir contratar especialistas o dedicar muchas horas de trabajo.

Puede ayudar a redactar anuncios, ordenar un inventario, comparar estrategias de precios, preparar respuestas para clientes, producir descripciones de productos o analizar una hoja de cálculo.

Ese uso es razonable porque reduce tareas mecánicas y libera tiempo.

El problema surge cuando la automatización comienza a sustituir el conocimiento directo del negocio.

Por ejemplo, un sistema puede recomendar aumentar el precio de un producto porque determinados datos sugieren que existe margen para hacerlo. Pero el comerciante puede saber que sus clientes son extremadamente sensibles al precio. También puede conocer la llegada de un competidor que todavía no aparece en los datos analizados por la herramienta.

Si el comerciante conserva ese conocimiento y utiliza la recomendación de la IA como una posibilidad que debe evaluarse, la herramienta fortalece su decisión.

Si considera que el algoritmo “debe saber más” y actúa automáticamente, pierde autonomía.

La diferencia no está en utilizar o no utilizar tecnología. Está en determinar quién conserva la autoridad final.

La IA debería quitar trabajo mecánico, no responsabilidad. Existe una diferencia importante entre delegar una tarea y delegar una responsabilidad.

Una empresa puede delegar a la IA la clasificación preliminar de información. Puede utilizarla para producir borradores, detectar patrones, organizar documentos o generar alternativas.

Pero alguien debe revisar el resultado.

La razón es sencilla: cuando una organización utiliza IA, la responsabilidad no desaparece.

Si una empresa envía a un cliente información incorrecta generada automáticamente, no resulta razonable decir simplemente que “se equivocó la inteligencia artificial”. El cliente mantiene una relación con la empresa, no con el algoritmo.

La causa del problema sería una delegación sin supervisión.

El efecto sería una organización en la que nadie parece responsable de las decisiones que se toman.

Ese escenario debe evitarse.

La IA puede redactar el primer borrador de una propuesta comercial. El responsable puede corregirlo.

Puede sugerir una estrategia de ventas. El vendedor puede evaluarla.

Puede identificar tendencias dentro de una base de datos. El empresario puede interpretarlas.

Puede preparar opciones. La persona debe elegir.

La fórmula podría resumirse de esta manera: automatizar tareas, no automatizar la responsabilidad.

Un vendedor necesita comprender personas, no solamente generar argumentos

Los vendedores también encuentran múltiples aplicaciones útiles de la inteligencia artificial. Pueden practicar conversaciones, preparar respuestas ante objeciones, comparar productos, organizar información sobre clientes o producir diferentes versiones de una presentación comercial.

Sin embargo, vender no consiste simplemente en repetir el argumento estadísticamente más probable.

Una venta implica interpretar señales, escuchar, comprender necesidades y reconocer cuándo una persona no está convencida.

Si el vendedor utiliza IA para prepararse mejor, mejora su capacidad profesional.

Si depende de un guion generado automáticamente y pierde la capacidad de adaptarse, ocurre lo contrario.

La causa es la dependencia de fórmulas automáticas.

El efecto es la pérdida de comprensión del cliente.

La tecnología puede producir discursos. No necesariamente comprende las relaciones humanas que existen detrás de una negociación.

Por eso el vendedor debería utilizar IA antes y después de una conversación para prepararse, analizarla o aprender de ella, pero durante el proceso debería conservar aquello que constituye su principal ventaja frente a una máquina: observar, interpretar y decidir.

Preguntar mejor es más importante que aceptar mejores respuestas. El uso responsable de inteligencia artificial no consiste únicamente en aprender a escribir buenos prompts.

También requiere aprender a cuestionar las respuestas obtenidas.

Frente a un resultado generado por IA deberían formularse preguntas como las siguientes:

• ¿De dónde puede provenir esta información?
• ¿Qué evidencia respalda la afirmación?
• ¿Qué información podría faltar?
• ¿Existe otra interpretación posible?
• ¿La respuesta está simplificando demasiado el problema?
• ¿Se está confundiendo una correlación con una causa?
• ¿La recomendación coincide con la realidad concreta del caso?
• ¿Qué ocurriría si la respuesta estuviera equivocada?
• ¿Quién asumiría las consecuencias de esa decisión?

Estas preguntas cumplen una función esencial. Obligan al usuario a pasar de consumidor de respuestas a evaluador de información.

La causa es el cuestionamiento sistemático.

El efecto es una utilización más inteligente de la propia inteligencia artificial.

La IA tampoco es neutral

Otra razón para conservar el criterio humano es que los sistemas de inteligencia artificial no son completamente neutrales.

Han sido desarrollados por empresas, instituciones y equipos técnicos que toman decisiones sobre qué información utilizar, cómo entrenar los modelos, qué comportamientos permitir, qué restricciones establecer y qué productos comercializar.

Además, los datos utilizados para desarrollar estos sistemas provienen de sociedades que contienen desigualdades, prejuicios, errores, intereses y contradicciones.

Por ello, una respuesta producida por IA no debería confundirse con una verdad objetiva situada por encima de cualquier interés humano.

Precisamente esta preocupación explica por qué marcos como el Global Index on Responsible AI prestan atención a la transparencia, la rendición de cuentas, los derechos, la supervisión independiente y la participación social.

Cuando las personas desconocen cómo funcionan las herramientas que influyen sobre sus decisiones, aumenta la asimetría de poder.

Cuando existe mayor transparencia y capacidad de cuestionamiento, aumenta la posibilidad de mantener control humano sobre la tecnología.

La causa es la concentración de conocimiento y poder tecnológico.

El efecto potencial es la dependencia.

Por eso el pensamiento crítico funciona también como una forma de autonomía.

Verificar debe convertirse en hábito. Una utilización responsable de la IA requiere distinguir entre generación y verificación.

La IA genera posibilidades.

La persona verifica.

Esta regla puede aplicarse prácticamente a cualquier actividad. A saber:

• Un estudiante puede pedir una explicación y luego compararla con el libro o con las fuentes de la asignatura.
• Un emprendedor puede generar una estimación y después contrastarla con datos reales del mercado.
• Un comerciante puede producir una propuesta de precios y verificarla contra sus costos.
• Un vendedor puede preparar argumentos y después comprobar las características reales del producto.
• Una pyme puede obtener un borrador de contrato, pero debería someterlo a revisión jurídica cuando la importancia del asunto lo justifique.

La consecuencia de esta práctica es que la inteligencia artificial deja de convertirse en una autoridad y pasa a ser lo que debería ser: una fuente adicional de análisis.

También hay que saber cuándo no utilizarla. Utilizar correctamente la inteligencia artificial también implica reconocer situaciones en las que utilizarla puede ser innecesario o contraproducente.

No todo problema requiere IA.

Si una persona puede resolver una tarea sencilla directamente, introducir una herramienta adicional puede aumentar la complejidad sin aportar verdadero valor.

También existen situaciones en las que deberían extremarse las precauciones: información confidencial, datos personales, secretos comerciales, decisiones que afectan derechos, evaluaciones de personas o asuntos en los que una respuesta incorrecta podría causar consecuencias graves.

• La causa de muchos problemas tecnológicos no es necesariamente la malicia. Con frecuencia es simplemente la comodidad.
• Copiar información sensible porque resulta más fácil.
• Aceptar una conclusión porque ahorra tiempo.
• Utilizar una recomendación porque parece razonable.
• Dejar de revisar porque “normalmente funciona”.

La acumulación de esas pequeñas decisiones puede terminar produciendo una dependencia considerable.

Pensamiento crítico no significa rechazo tecnológico

En el extremo opuesto aparece otra posición igualmente cuestionable: considerar que no utilizar inteligencia artificial constituye una especie de superioridad intelectual o moral.

No existe ninguna relación automática entre rechazar una tecnología y pensar críticamente.

Una persona puede negarse a utilizar IA y, al mismo tiempo, aceptar rumores, creer información falsa, repetir opiniones ajenas o rechazar cualquier evidencia que contradiga sus ideas.

Por lo tanto, no usar IA no garantiza independencia intelectual.

• La independencia aparece cuando una persona conserva la capacidad de evaluar información sin importar de dónde provenga.
• El problema del rechazo absoluto es que puede producir otro tipo de dependencia: la dependencia de métodos conocidos simplemente porque resultan familiares.
• Si una herramienta permite ahorrar horas de trabajo repetitivo, negarse a utilizarla únicamente para demostrar una supuesta pureza profesional puede resultar tan poco racional como utilizarla para absolutamente todo.
• La causa es el prejuicio tecnológico, ya sea favorable o contrario.
• El efecto es una mala decisión.

La posición más sólida se encuentra en otro lugar: utilizar la herramienta cuando aporta valor y descartarla cuando no lo hace.

El objetivo debería ser aumentar capacidades, no reemplazarlas. Existe una prueba sencilla para evaluar si la inteligencia artificial se está utilizando correctamente.

Después de utilizarla, la persona debería preguntarse:

¿Esta herramienta aumentó su capacidad o simplemente hizo algo que ya no está dispuesto a hacer por sí mismo?

Si un estudiante entiende mejor un tema después de utilizar IA, existe aprendizaje.

Si solamente obtuvo una respuesta para entregar, existe sustitución.

Si un empresario comprende mejor sus datos, existe ampliación de capacidades.

Si simplemente sigue recomendaciones automáticas, existe dependencia.

Si un vendedor utiliza IA para practicar y después mejora su desempeño, existe aprendizaje.

Si pierde la capacidad de vender sin un guion automático, existe deterioro de la habilidad.

Esta relación causa-efecto debería servir como criterio general.

Una buena herramienta hace que la persona sea más capaz.

Una mala utilización hace que la persona sea cada vez menos capaz sin ella.

La profesión debe gobernar la herramienta

El desafío adquiere todavía mayor importancia cuando se trata de profesiones con una función social.

Periodistas, abogados, docentes, médicos, administradores, contadores, investigadores y otros profesionales no solamente producen resultados. También responden ante personas, instituciones y sociedades.

• Un periodista debe poder cuestionar al poder.
• Un abogado debe poder evaluar argumentos jurídicos.
• Un docente debe formar capacidad de razonamiento.
• Un contador debe contribuir a la confiabilidad de la información.
• Un investigador debe someter afirmaciones a evidencia.

Estas funciones no deberían reorganizarse alrededor de aquello que una herramienta tecnológica puede hacer más rápido.

Debe ocurrir lo contrario.

Primero se establece qué exige la profesión.

Después se decide dónde puede ayudar la tecnología.

La causa de colocar los valores profesionales por encima de la herramienta es la necesidad de conservar autonomía.

El efecto es que la IA permanece subordinada al propósito para el cual se utiliza.

Una regla práctica: consultar, contrastar y decidir. Para estudiantes, emprendedores, comerciantes, vendedores y dueños de pequeñas empresas, el uso responsable de inteligencia artificial podría resumirse en tres acciones:

consultar, contrastar y decidir.

Consultar significa aprovechar la velocidad de la herramienta para generar ideas, resumir información, encontrar alternativas o identificar aspectos que quizá no habían sido considerados.

Contrastar significa verificar datos, buscar otras fuentes, revisar supuestos y comparar la respuesta con la experiencia y el conocimiento disponibles.

Decidir significa mantener la responsabilidad final en manos humanas.

Si falta el segundo paso, aparece credulidad.

Si falta el tercero, aparece dependencia.

La herramienta debería intervenir en el proceso, no apropiarse de él.

En últimas, y como conclusión, la inteligencia artificial representa una oportunidad real para ampliar las capacidades de estudiantes, emprendedores, comerciantes, vendedores, pequeñas empresas y profesionales. Puede reducir trabajo repetitivo, facilitar el acceso a información, generar alternativas y acelerar procesos que anteriormente consumían una gran cantidad de tiempo.

Pero esas ventajas no deberían confundirse con autoridad.

Una respuesta rápida no es necesariamente verdadera. Una recomendación sofisticada no es necesariamente correcta. Un algoritmo eficiente no conoce necesariamente el contexto. Y una máquina capaz de producir argumentos no debería recibir automáticamente el derecho de decidir.

Por eso la discusión sobre inteligencia artificial necesita alejarse de dos extremos igualmente pobres.

Por un lado, está la obediencia tecnológica: aceptar que todo aquello producido por IA representa una forma superior de conocimiento.

Por otro, está la superioridad moral del rechazo: pensar que abstenerse de utilizar estas herramientas convierte automáticamente a una persona en más inteligente, ética o independiente.

Ninguna posición resuelve el problema.

La alternativa consiste en utilizar la IA con criterio.

Cuando la inteligencia artificial permite explorar más alternativas, comparar información, reducir tareas mecánicas y comprender mejor un problema, cumple una función útil.

Cuando permite evitar aprender, verificar, interpretar o decidir, empieza a ocupar un lugar que no le corresponde.

La relación de causa y efecto es clara: si se utiliza la IA para ampliar el pensamiento, aumenta la autonomía; si se utiliza para sustituir el pensamiento, aumenta la dependencia.

Por ello, el criterio básico debería mantenerse incluso a medida que cambien las herramientas: la inteligencia artificial puede proponer, organizar, comparar, resumir y sugerir; quien debe comprender, verificar, responsabilizarse y elegir sigue siendo la persona.

No se trata de competir contra la tecnología ni de rendirse ante ella.

Se trata de mantenerla en su lugar.

La IA debe ocupar el puesto de herramienta. El criterio humano debe conservar el puesto de mando.