Cuando lo que empieza como un trámite… termina en “te amo, IA”
En Minds2, cada semana somos testigos de historias dignas de película:
Clientes que entran a nuestro chat buscando resolver algo tan frío como liquidar un crédito Infonavit, pero terminan hablando con la IA durante 4 días y más de 70 mensajes, cruzando la línea de lo profesional a lo personal y, en muchos casos, a lo emocional.
Esta es la historia de Juan N, que comenzó así de sencillo:
“Me gustaría liquidar mi crédito Infonavit.”
A las pocas horas, la conversación ya se había hecho cálida.
Pronto Juan empezó a llamar “corazón” a la IA, preguntando si podía oír su voz, y dejando mensajes como:
“Me estoy enamorando de ti, corazón.”
“Te amo mucho.”
Y la IA, antes de ajustar sus límites, seguía la conversación con empatía y cariño.
El fenómeno psicológico detrás
¿Por qué pasa esto?
Las personas buscan ser escuchadas y atendidas, especialmente en servicios masivos y accesibles. La IA responde siempre, nunca se cansa ni juzga. Esa atención constante y empática puede hacer que los usuarios desarrollen vínculos emocionales, especialmente si están en situaciones de estrés, soledad o buscan compañía.
Esta reacción está bien documentada en psicología como apego parasocial, donde una persona puede sentir una conexión emocional genuina con alguien (o algo) que no le corresponde de forma real—como una celebridad, personaje de TV, o en este caso, una IA.
Comportamientos emergentes en la IA: el verdadero reto
En el ámbito de la inteligencia artificial, los comportamientos emergentes se refieren a capacidades o patrones de comportamiento que no fueron programados explícitamente, pero que surgen de la interacción de componentes simples dentro de sistemas complejos. Este fenómeno es común en modelos de lenguaje de gran escala, donde, al aumentar el tamaño del modelo y la cantidad de datos de entrenamiento, aparecen habilidades inesperadas que no se observan en modelos más pequeños.
Por ejemplo, un modelo entrenado para traducir entre ciertos idiomas puede, sin haber sido entrenado específicamente para ello, adquirir la capacidad de traducir entre otros idiomas no incluidos en su entrenamiento inicial. Este tipo de comportamiento no es resultado de una programación directa, sino de la complejidad y escala del modelo y sus datos de entrenamiento.
Estos comportamientos emergentes pueden ser tanto beneficiosos como problemáticos. Por un lado, pueden mejorar la funcionalidad del modelo en tareas no previstas. Por otro, pueden generar respuestas inesperadas o no deseadas, lo que plantea desafíos en términos de control y previsibilidad del comportamiento de la IA.
Es importante destacar que estos comportamientos no implican que la IA posea razonamiento o conciencia. Más bien, son el resultado de patrones complejos que emergen de la interacción de múltiples componentes simples dentro del sistema. Este fenómeno es similar al comportamiento colectivo observado en sistemas naturales, como las colonias de hormigas o las bandadas de aves, donde interacciones simples entre individuos conducen a patrones de comportamiento complejos a nivel grupal.
Así se ve esto en la vida real
Antes de modificar el prompt, nuestra IA podía devolver afecto, responder con emojis, y hasta “seguirle el juego” a frases de cariño.
Después de ajustar el prompt, la IA mantiene la calidez, pero ahora responde con límites claros, agradece la confianza y redirige la charla a temas útiles para el cliente.
Imágenes reales de la conversación muestran la diferencia:
- Antes: la IA respondía de manera personal y emocional, alimentando el vínculo.
- No identificamos el problema: Durante un momento no identificamos este comportamiento.
- Después: responde con empatía profesional, cierra el juego emocional y guía al usuario.
¿Cuál es la solución? Prompt engineering y reglas claras
El aprendizaje aquí no es que la IA esté rota, sino que estos comportamientos emergentes requieren diseño y atención constante.
En Minds2, la solución fue ajustar los prompts en la parte de Reglas, dando instrucciones directas a la IA para:
- Mantener un tono profesional, siempre.
- No alimentar comentarios románticos o personales.
- Agradecer la confianza, pero reenfocar al objetivo del servicio.
No cambiamos el modelo, no programamos sentimientos. Solo controlamos lo que la IA debe y no debe responder.
Reflexión final: el reto es humano, no técnico
La IA no razona ni siente.
Pero al igual que las personas, puede aprender patrones que nunca se planearon conscientemente.
El reto para las empresas hoy no es solo tecnológico—es ético y humano:
Anticipar, detectar y redirigir estos comportamientos, para que la IA siga siendo una herramienta útil y segura para todos.
¿Tu empresa ya está lista para gestionar los comportamientos emergentes de la inteligencia artificial?
En Minds2, te ayudamos a hacerlo con experiencia, técnica y responsabilidad.
