Imagina entrar a un restaurante moderno donde la innovación y la tecnología están al servicio de la experiencia culinaria. En este lugar, un robot ingeniosamente diseñado se encarga de llevar las deliciosas creaciones del chef hasta tu mesa. A medida que te acomodas y haces tu pedido, el robot comienza su labor de entrega con precisión y celeridad, presentándote un servicio que, al menos en apariencia, parece imperturbable. Sin embargo, la velada se torna un tanto inquietante cuando, tras esperar más de lo habitual, el plato principal se retrasa, lo que te lleva a consultar con un empleado humano. Descubres que el robot está parado en la cocina con tu comida ya fría y la pregunta comienza a surgir: ¿qué pudo haber ocurrido con este eficiente sistema?
Las posibilidades son diversas y van desde lo técnico hasta lo más humano. Quizás el robot se quedó sin batería y no pudo continuar su trayecto, o tal vez un cocinero se interpuso en su camino, provocando un cuello de botella. Otra opción es que, por alguna razón, la puerta de la cocina se cerró automáticamente, impidiendo el paso del robot. Sin embargo, lo más fascinante de esta situación no radica únicamente en el evento en sí, sino en la complejidad que subyace al comportamiento de estos robots. Esto nos lleva a la importancia de la Inteligencia Artificial Explicable (XAI) y los Robots Autónomos Explicables (XAR), que buscan arrojar luz sobre cómo y por qué estos sistemas toman decisiones aparentemente aleatorias.
La cuestión de la explicabilidad no es trivial. En el ámbito de la robótica autónoma, comprender las decisiones del robot es fundamental. Este concepto se basa en la idea de que no basta con que un robot funcione de manera eficiente, sino que también es crucial entender su lógica operativa, especialmente en entornos de Interacción Humano-Robot (HRI). Por esto, es vital avanzar en la capacidad de los robots para comunicarse efectivamente con los humanos sobre sus acciones y decisiones. En definitiva, una explicación puede definirse como información clara y comprensible que se proporciona al usuario, mejorando su entendimiento sobre el comportamiento del sistema.
El reto de la explicabilidad en la robótica también enfrenta el desafío del usuario objetivo. Las explicaciones deben adaptarse al perfil de quien las recibe, ya que lo que puede ser claro para un experto en tecnología podría ser confuso para un niño o un anciano. Este ajuste en la granularidad y complejidad de la información se convierte en un aspecto crucial para que la explicabilidad realmente cumpla su propósito de facilitar la comprensión. Dividir a los usuarios en grupos según su nivel de conocimiento y adaptar las explicaciones les puede ayudar, pero es un desafío constante ya que los requerimientos de explicación pueden variar con la experiencia del usuario en el sistema.
Finalmente, la generación de explicaciones es un proceso que se puede desglosar en varias etapas, comenzando por la recolección de datos relevantes, seguido de su interpretación y finalizando con la comunicación al usuario. La integración de modelos de lenguaje como los LLM ha prometido mejorar las explicaciones generadas por robots, permitiendo un diálogo interactivo donde el robot puede responder a las inquietudes del usuario, proporcionándole información que le acerca al entendimiento del comportamiento del sistema. En conclusión, la explicabilidad no solo genera confianza entre humanos y robots, sino que también se convierte en una herramienta esencial para la seguridad y la prevención de fallos en situaciones críticas.
