Artículo del blog Inteligencia artificial
Captar la atención no significa tener razón
Una conversación puede girar alrededor de una voz sin aceptar sus argumentos. Qué debemos preguntar cuando una métrica de interacción se convierte en una afirmación sobre influencia.
Vinicius Covas3 min de lectura
Una distinción que cambia la lectura
Pensemos en una reunión imaginaria en la que una intervención obliga a todos a responder. Puede tratarse de una pregunta útil, de un error que requiere corrección o de una provocación que interrumpe el trabajo. En los tres casos, contar respuestas podría producir un resultado parecido. Sin embargo, la función de esa atención sería distinta. Antes de llamar influencia a un patrón, necesitamos decir qué entendemos por ella. Ser el centro de una conversación no equivale automáticamente a convencer, aportar evidencia o mejorar la decisión del grupo.
El estudio y su alcance
The Negativity Magnet examina la disrupción afectiva en colectivos de agentes de IA mediante redes de respuesta. Es un working paper disponible como preprint en SSRN. El interés de esta línea está en observar cómo se distribuye la atención durante la interacción. En este ensayo propongo una precaución para leer ese tipo de evidencia: mantener separado el indicador de la interpretación. Una medida de concentración describe una dimensión del intercambio. Para hablar de persuasión, comprensión o calidad de la deliberación necesitaríamos observaciones adicionales y criterios adecuados a cada pregunta.
Leer el contenido junto con la red
Un ejercicio útil sería elegir una secuencia breve y clasificar para qué sirve cada respuesta: pedir una aclaración, rechazar una afirmación, aportar una fuente o cambiar de tema. Después podríamos comparar esa lectura con el recuento de mensajes dirigidos a cada participante. La red muestra una distribución; la lectura del contenido ayuda a interpretar las relaciones que la producen. Si una voz recibe muchas correcciones, describirla como la más persuasiva sería una conclusión apresurada. El objetivo del ejercicio es volver explícitos los pasos entre un registro y una afirmación.
Lo que preguntaría al diseñar un equipo de agentes
Antes de introducir un rol crítico, definiría qué debe criticar y qué evidencia necesita aportar. Una instrucción vaga para oponerse a todo puede generar actividad sin ayudar a examinar el problema. También reservaría un momento para recuperar asuntos que no recibieron respuesta y otro para explicar por qué se acepta la conclusión final. Estas son propuestas de diseño que tendrían que evaluarse; no resultados demostrados por el preprint. Su utilidad práctica está en obligarnos a distinguir una discusión intensa de una discusión que cumple su tarea.
Evitar el salto de los agentes a las personas
La semejanza entre un intercambio artificial y una reunión humana puede ser una buena pregunta de investigación. No constituye, por sí sola, una equivalencia. Las personas tienen experiencias, vínculos, intereses y consecuencias fuera de la conversación que no debemos atribuir automáticamente a un modelo. Para estudiar grupos humanos harían falta otros diseños y evidencias. Prefiero mantener la comparación abierta y precisar sus límites. Así, una observación sobre agentes puede ayudarnos a formular mejores preguntas sobre comunicación sin convertirse en una ley general de la vida social.
Investigador y profesor de comunicación. Estudio cómo humanos y máquinas construyen significado y relaciones.
Sobre el autor
