Enseñar a una IA a sentir, la arquitectura de la inteligencia emocional

¿Y si tu asistente de IA supiera qué clase de día estás teniendo?

No de forma inquietante, de ciencia ficción. Sino de una forma estructurada y medible que le permita responder como lo haría una persona, con comprensión de verdad.

Mientras construía HeyJamie AI descubrí que la pieza que faltaba para que sonara más humano era la inteligencia emocional. Empecé a registrar señales emocionales y a medir patrones de estrés. Ahí arrancó la idea de meter empatía en el código.

Esto encaja con el campo más amplio de la computación afectiva, que inició Rosalind Picard en el MIT y que estudia cómo pueden los sistemas reconocer, interpretar y adaptarse a las emociones humanas¹. Según la investigación reciente, los LLM modernos son sorprendentemente buenos interpretando el contexto emocional solo a través del lenguaje, y en algunos casos superan a las personas en las pruebas de inteligencia emocional.

La señal está en el ruido

Cada interacción deja un rastro. Cómo escribes, las pausas entre respuestas, las reuniones que se alargan y los correos que pierden extensión y matiz a medida que tu día se acelera. Son señales temporales, expresiones de un estado de ánimo trazado a lo largo del tiempo.

El prototipo agrega datos de calendario, mensajería y correo para construir una huella emocional cronológica. No al minuto, pero lo bastante cerca para modelar cómo evoluciona el estado emocional a lo largo de un día o una semana.

Donde otros descartan estas señales como ruido, yo las traté como datos, con la posibilidad de construir algo que entienda cómo estás de verdad.

Tres pilares de la empatía de las máquinas

Reduje la inteligencia emocional a tres sistemas centrales. Es mi interpretación de cómo hacer que esto funcione en la práctica:

1. Índices: los números que importan

Piensa en ellos como tus constantes vitales, pero del estado cognitivo y emocional. Siguen indicadores que se correlacionan con el estrés, la ansiedad y la función ejecutiva:

• Latencia de respuesta: En los periodos tranquilos, mide el tiempo entre recibir una interacción y responderla.
• Complejidad lingüística: La longitud de las frases, la variedad de vocabulario y los patrones de puntuación. A menudo cambian a lo largo del día, sobre todo según la energía o la concentración del usuario. Los estudios muestran que los patrones lingüísticos más creativos o complejos aparecen en los periodos de mucha energía, mientras que la fatiga de última hora se correlaciona con un lenguaje más simple y menos expresivo². El asistente usa estos patrones, en especial la pérdida de complejidad con el paso de las horas, como una señal leve de función ejecutiva reducida o de estrés.
• Coherencia de tareas: Se mide por los cambios de contexto que se deducen de los títulos de los eventos. Básicamente, cuánto se parecen en significado los eventos seguidos del calendario. Por ejemplo, una racha de reuniones 1:1 sin relación entre sí se da por cognitivamente fragmentada. Detectarlo es complicado y se basa sobre todo en suposiciones sacadas de la cercanía temporal y de los patrones de mensajería. Si las reuniones se retrasan con frecuencia unos minutos, puede indicar que se están alargando. Son señales ruidosas, pero útiles.
• Presión temporal: Un compuesto de varios indicadores (densidad de reuniones, cercanía de los plazos y saltos del horario), que contribuyen todos a una sensación de tiempo comprimido y menos autonomía. También alimentan otros índices de los de arriba. El sistema deduce esta presión de patrones como una alta frecuencia de reuniones pegadas, descansos mínimos entre compromisos y pruebas de reuniones que se alargan o se reprograman. Es un modelo de la escasez de tiempo percibida, no solo del tiempo del reloj.

Este es un ejemplo básico de uno de los índices cronológicos que se recogen a lo largo del día. Es una simplificación de los datos reales, pero sirve para ver la idea: casi todo es una puntuación de 0 a 1:

{
  "indices": {
    "stress": 0.74,
    "anxiety": 0.61,
    "executive_function": 0.32,
    "cognitive_load": 0.88,
    "anger": 0.51,
    "focus": 0.36,
    "motivation": 0.42,
    "energy": 0.29,
    "clarity": 0.38,
    "patience": 0.45
  },
  "contributing_factors": {
    "meeting_overrun": 0.9,
    "task_switching_rate": 0.7,
    "linguistic_degradation": 0.6,
    "short_tone_emails": 0.55,
    "context_fragmentation": 0.68
  }
}

Estas puntuaciones salen del lenguaje y del comportamiento con el calendario, no de sensores invasivos. Cada variable se nutre de señales observadas:

• task_switching_rate: Una aproximación a los cambios de contexto, sacada de secuencias de reuniones o tareas muy juntas con títulos semánticamente distintos.
• meeting_overrun: Se infiere cuando las reuniones se mueven o se retrasan, posiblemente porque las anteriores se pasaron de su hora. Es una señal de baja confianza.
• linguistic_degradation: Se registra como una reducción de la longitud de las frases o del número de palabras con el tiempo, sobre todo en las respuestas al asistente, lo que sugiere fatiga o frustración.

El prototipo recoge muchas más señales, pero estas ilustran los tipos de entrada que se usan para puntuar el estado del usuario.

Los LLM han demostrado un gran rendimiento identificando estados emocionales solo a partir de patrones lingüísticos³⁴. Un índice de estrés de 0,74 puede significar que tus frases se han acortado un 40 %, que has cambiado de tarea 12 veces y que tus reuniones se están encadenando unas con otras.

El objetivo es que la IA vea el patrón antes de que tú sientas el agotamiento.

2. Contextos: entender la historia

Los números en bruto no significan nada sin una narrativa. El contexto consiste en entender por qué existen esos números.

Fíjate en esta secuencia de una jornada cualquiera:

{
  "events": [
    {
      "start": "09:00",
      "end": "10:15",
      "type": "customer_demo",
      "overrun": 15
    },
    {
      "start": "10:00",
      "end": "10:45",
      "type": "product_review",
      "overrun": -15
    },
    {
      "start": "10:30",
      "end": "11:30",
      "type": "team_standup",
      "overrun": 0,
      "declined": true
    },
    { "start": "11:30", "end": "12:00", "type": "customer_call", "overrun": 0 },
    { "start": "12:00", "end": "13:00", "type": "board_prep", "overrun": 30 }
  ]
}

Casi cualquier calendario vería cinco reuniones. Lo que detecta el sistema es que esas reuniones se han alargado una y otra vez, un patrón que apunta a una sobrecarga estructural:

User is experiencing meeting cascade failure. The customer demo overran by 15 minutes creating a domino effect. User joined the product review late, declined the standup invitation and is now in the fifth consecutive hour of conversations without an appropriate break.

Cada vez se usan más los modelos de lenguaje para generar este tipo de resúmenes de series temporales y de interpretaciones emocionales a partir de datos secuenciales⁴. Aunque el material de referencia es clínico y no se aplica directamente a este ejemplo, la idea es que los modelos de lenguaje rinden cada vez mejor interpretando y evaluando el contexto emocional solo a través del lenguaje.

3. Palancas: cómo se adapta la IA

Estos bloques de contexto resultan más útiles cuando se aplican a modelos de lenguaje que interactúan con usuarios, porque así pueden aprovechar lo que entienden del día del usuario para dar respuestas más relevantes y empáticas.

Entender no vale de nada sin actuar. El sistema ajusta su comportamiento con tres palancas:

{
  "behavioural_state": {
    "compassion": 0.8,
    "protectiveness": 0.9,
    "initiative": 0.6
  }
}

Dentro de la aplicación, para un usuario, se ve más controlado, así:

Estas palancas afectan a:

• Compasión: Un tono más suave y más espacio para pensar
• Protección: Escudarte activamente del impacto
• Iniciativa: La probabilidad de que el asistente intervenga sin que se lo pidas

Por ejemplo:

Jamie normal: “Tienes una reunión de producto a las 2 de la tarde con el equipo de ingeniería. ¿Envío la agenda de siempre?”

Jamie con contexto de estrés: “Aviso: reunión de producto en 30 min. Yo me encargo de la agenda. Tómate 5 minutos ahora para respirar.”

Misma información. Interacción totalmente distinta.

La arquitectura es complicada a propósito

Lo que ves aquí es una abstracción simplificada. En la realidad ya tengo un prototipo funcionando de este sistema dentro de HeyJamie. Está activo, procesando mis propios datos y dándole contexto emocional a la IA.

Los ejemplos JSON de arriba son solo una capa fina de la superficie. El prototipo sigue decenas de señales de comportamiento, lenguaje, tiempo y secuencia. Construye líneas base personalizadas, aplica modelos de decaimiento y reajusta dinámicamente el peso de las interacciones según la hora del día, el tipo de reunión, el contexto previo y más. Ahora mismo lo hace en tramos de 6 horas, mirando las últimas 24 horas y los últimos 7 días.

{
  "user_profile": {
    "baseline_stress": 0.3,
    "peak_performance_window": "09:00-11:00",
    "cognitive_recovery_rate": 0.4,
    "social_interaction_cost": 0.15,
    "context_switch_penalty": 0.25
  },
  "environmental_factors": {
    "day_of_week_modifier": { "monday": 1.2, "friday": 0.8 },
    "seasonal_adjustment": 0.1,
    "timezone_shifts": 0
  }
}

Los LLM han demostrado ser capaces no solo de reconocer emociones, sino de sugerir intervenciones oportunas y útiles⁵. En estudios controlados incluso han superado a médicos humanos en empatía con el paciente.

Es muy raro. Pero de algún modo se siente muy humano. Te enseñan que los ordenadores deben ser lógicos y neutrales. Quizá ese sea el valor por defecto equivocado.

Cuando una IA nota que estoy desbordado y se ocupa de las cosas sin hacer ruido, se parece menos a un software y más a un asistente buenísimo que simplemente te entiende.

La confianza no se construye sobre la perfección. Se construye sobre la respuesta adecuada.

La verdad incómoda

Esto funciona demasiado bien. Cuando tu IA nota tu estrés antes que tu pareja, o es el futuro de la interacción entre personas y ordenadores, o es un espejo que muestra lo mal que nos apoyamos unos a otros, o es otro episodio de Black Mirror.

Quizá las tres cosas.

Una nota sobre privacidad y ética

Seamos claros: la IA emocional a escala es un campo minado para la privacidad. Los sistemas que la aplican en público, como las pruebas de Rekognition de Amazon para detectar emociones o el análisis facial en estaciones de tren del Reino Unido, han recibido críticas más que merecidas⁶.

Pero aquí hay una distinción importante. Jamie funciona con un modelo de privacidad fundamentalmente distinto:

Tus datos siguen siendo tuyos. A diferencia de los sistemas de vigilancia pública o del seguimiento emocional corporativo, Jamie lo procesa todo en local. Las conversaciones en bruto, las entradas del calendario y el contenido de los correos nunca salen de tu control. Lo único que se recoge para mejorar el sistema son datos resumidos, agregados y anonimizados (índices de estrés, patrones de respuesta, tendencias de comportamiento), sin ningún dato identificativo ni contenido real.

Transparencia desde el diseño. Puedes ver exactamente qué índices emocionales se están siguiendo. Ningún algoritmo de caja negra toma decisiones sobre tu estado emocional sin que tú lo entiendas.

El consentimiento no es solo una casilla. El sistema exige un opt-in explícito para las funciones de seguimiento emocional. Puedes desactivarlas del todo, ajustar los niveles de sensibilidad o excluir fuentes de datos concretas. Tu asistente funciona bien sin ellas, solo que con ellas funciona mejor.

Protección de los datos resumidos. Se usan únicamente para entender los patrones de uso y mejorar la respuesta emocional de los modelos de lenguaje. A partir de estos datos no se pueden reconstruir los patrones emocionales de ningún usuario concreto.

La realidad incómoda es que una IA verdaderamente empática necesita entender el contexto emocional. La pregunta no es si construir estos sistemas, sino cómo construirlos con responsabilidad. Si mantenemos los datos en bruto bajo el control del usuario y limitamos la recogida a resúmenes anónimos, podemos desarrollar una IA que ayude de verdad sin comprometer la privacidad.

Esto no es vigilancia. Es apoyo, construido sobre el control del usuario y la transparencia.

Si quieres probar tú mismo una IA con conciencia emocional, pide acceso anticipado en heyjamie.ai. Lo estoy desplegando poco a poco y con calma.

Lecturas adicionales

Somers, M. (2019). Emotion AI, explained. MIT Sloan.

Abrosymova, K. (2019). How Artificial Intelligence and Journaling Make Us More Aware of Our Emotions. The Writing Cooperative.

Referencias

Footnotes

1. Picard, R. W. (1997). Affective Computing. MIT Press. ↩

2. Tandoc, M. C., Bayda, M., Poskanzer, C., Cho, E., Cox, R., Stickgold, R., & Schapiro, A. C. (2021). Examining the effects of time of day and sleep on generalization. PLOS ONE. ↩

3. Schlegel, K. et al. (2025). Large language models are proficient in solving and creating emotional intelligence tests. Communications Psychology. ↩

4. Lalk, C. et al. (2025). Employing large language models for emotion detection in psychotherapy transcripts. Frontiers in Psychiatry. ↩ ↩²

5. JMIR Editorial Board. (2024). Large Language Models and Empathy: Systematic Review. Journal of Medical Internet Research. ↩

6. Para más información sobre las preocupaciones de privacidad de los sistemas de vigilancia con IA emocional, consulta los diversos informes sobre Rekognition de Amazon y las pruebas de análisis facial en el Reino Unido. ↩