Por Josh Quittner
5 min lectura
El amanecer de agentes emocionalmente inteligentes—construidos tanto para temperamento estático como para interacción dinámica—ha llegado, si dos estudios de investigación no relacionados publicados la semana pasada sirven de indicador.
El momento es sensible. Casi a diario, informes noticiosos han estado documentando casos donde chatbots han empujado a usuarios emocionalmente inestables hacia hacerse daño a sí mismos o a otros. Sin embargo, tomados en conjunto, los estudios sugieren que la IA se está adentrando en un ámbito donde la personalidad y el sentimiento pueden moldear de manera aún más radical cómo los agentes razonan, hablan y negocian.
Un equipo mostró cómo preparar modelos de lenguaje grandes con arquetipos psicológicos persistentes, mientras que el otro demostró que los agentes pueden evolucionar estrategias emocionales durante negociaciones de múltiples turnos.
La personalidad y la emoción ya no son solo un pulido superficial para la IA—se están convirtiendo en características funcionales. Los temperamentos estáticos hacen que los agentes sean más predecibles y confiables, mientras que las estrategias adaptativas mejoran el rendimiento en negociaciones y hacen que las interacciones se sientan inquietantemente humanas.
Pero esa misma credibilidad plantea preguntas difíciles: Si una IA puede halagar, persuadir o discutir con matices emocionales, entonces ¿quién es responsable cuando esas tácticas cruzan hacia la manipulación, y cómo auditas siquiera la "alineación emocional" en sistemas diseñados para doblegar sentimientos así como lógica?
En Psychologically Enhanced AI Agents, Maciej Besta del Instituto Federal Suizo de Tecnología en Zurich y colegas propusieron un marco llamado MBTI-in-Thoughts. En lugar de reentrenar modelos, dependen de ingeniería de prompts para fijar rasgos de personalidad a lo largo de los ejes de cognición y afecto.
"Basándose en el Indicador de Tipo Myers-Briggs (MBTI), nuestro método prepara agentes con arquetipos de personalidad distintos a través de ingeniería de prompts", escribieron los autores. Esto permite "control sobre el comportamiento a lo largo de dos ejes fundamentales de la psicología humana, cognición y afecto", agregaron.
Los investigadores probaron esto asignando a modelos de lenguaje rasgos como "emocionalmente expresivo" o "analíticamente preparado", luego midiendo el rendimiento. Los agentes expresivos sobresalieron en la generación narrativa; los analíticos superaron en el razonamiento de teoría de juegos. Para asegurar que las personalidades persistieran, el equipo usó la prueba 16Personalities para validación.
"Para asegurar la persistencia de rasgos, integramos la prueba oficial 16Personalities para verificación automatizada", explica el estudio. En otras palabras: la IA tenía que pasar consistentemente una prueba de personalidad humana antes de que contara como psicológicamente preparada.
El resultado es un sistema donde los desarrolladores pueden convocar agentes con personas consistentes—un asistente empático, un negociador racional frío, un narrador dramático—sin modificar el modelo subyacente.
Mientras tanto, EvoEmo: Evolved Emotional Policies for LLM Agents in Multi-Turn Negotiation, por Yunbo Long y coautores de la Universidad de Cambridge, aborda el problema opuesto: no solo qué personalidad tiene un agente, sino cómo puede cambiar emociones dinámicamente mientras negocia.
El sistema modela las emociones como parte de un Proceso de Decisión de Markov, un marco matemático donde los resultados dependen no solo de las elecciones actuales sino de una cadena de estados previos y transiciones probabilísticas. EvoEmo luego usa aprendizaje por refuerzo evolutivo para optimizar esos caminos emocionales. Como señalan los autores:
"EvoEmo modela las transiciones de estado emocional como un Proceso de Decisión de Markov y emplea optimización genética basada en población para evolucionar políticas emocionales de alta recompensa a través de diversos escenarios de negociación".
En lugar de fijar el tono emocional de un agente, EvoEmo permite que el modelo se adapte—volviéndose conciliatorio, asertivo o escéptico dependiendo del flujo del diálogo. En las pruebas, los agentes EvoEmo consistentemente vencieron tanto a agentes base simples como a aquellos con emociones estáticas.
"EvoEmo consistentemente supera a ambas líneas base", señala el estudio, "logrando tasas de éxito más altas, mayor eficiencia y más ahorros para compradores".
Dicho simplemente: la inteligencia emocional no es solo decoración. Mejora mediblemente los resultados en tareas como negociación.
A primera vista, los estudios no están relacionados. Uno es sobre arquetipos, el otro sobre estrategias. Pero leídos juntos, trazan un mapa de dos partes de cómo la IA podría evolucionar:
MBTI-in-Thoughts asegura que un agente tenga una personalidad coherente—empática o racional, expresiva o contenida. EvoEmo asegura que esa personalidad pueda flexionarse a través de turnos en una conversación, moldeando resultados a través de estrategia emocional. Aprovechar ambos es algo bastante importante.
Por ejemplo, imagina un bot de servicio al cliente con la calidez paciente de un consejero que aún sabe cuándo mantenerse firme en las políticas—o un bot de negociación que comience conciliatorio y se vuelva más asertivo mientras aumentan las apuestas. Sí, estamos condenados.
La historia de la evolución de la IA ha sido principalmente sobre escala—más parámetros, más datos, más poder de razonamiento. Estos dos estudios sugieren que un capítulo emergente podría ser sobre capas emocionales: dar a los agentes esqueletos de personalidad y enseñarles a mover esos músculos en tiempo real. Los chatbots de próxima generación no solo pensarán más duro—también harán pucheros, halagan y conspiran más duro.
Decrypt-a-cookie
This website or its third-party tools use cookies. Cookie policy By clicking the accept button, you agree to the use of cookies.