¿Te has preguntado alguna vez cómo funciona Pangram? Las redes neuronales como Pangram suelen ser «cajas negras»: muy precisas, pero misteriosas y difíciles de explicar.
La interpretabilidad es el campo de investigación en IA dedicado al estudio del funcionamiento de los sistemas de IA. En los últimos meses, en Pangram hemos comenzado a aplicar métodos de interpretabilidad a nuestros modelos de detección de texto basados en IA que se utilizan en producción.
Visualización espacial del pangram
A partir de ese trabajo, hoy lanzamos Pangram Space, un proyecto de investigación interactivo en el que puedes explorar el espacio de representaciones de Pangram 3.3.2 y observar cómo el modelo distingue entre las clases de texto humano y de IA.
Para ver el proyecto, ¡visita Pangram Space!

Elyas Masrour es ingeniero fundador de Pangram. Desde que se incorporó a Pangram como segundo empleado nada más salir de la Universidad de Maryland, ha desarrollado infraestructuras fundamentales, como la API de servicio de modelos, los controles de acceso basados en roles y los flujos de trabajo de verificación. Elyas también colabora estrechamente con el equipo de investigación en proyectos como la robustez ante ataques adversarios, la interpretabilidad de los modelos y la detección de contenido mixto heterogéneo. Fuera del trabajo, Elyas disfruta de una amplia gama de expresiones de la creatividad humana, como el cine, la lectura y explorar la ciudad.






