Un entrevistador de IA debe ser auditado como cualquier otro evaluador.

El entrevistador de IA de Xobin es un sistema de puntuación que mapea las respuestas de los candidatos en nodos de habilidades en el Xobin Capability Graph (XCG), y cada sistema de puntuación necesita una pista de auditoría. Tratamos la auditoría de sesgos de IA como una disciplina distinta de la auditoría de sesgos humanos porque los modos de falla son diferentes y, a menudo, más difíciles de ver.

01 ·

Dónde aparece la IA en el producto

La IA se utiliza dentro de Xobin para la puntuación de entrevistas, la resumición de respuestas y las recomendaciones de candidatos. Cada una de esas superficies tiene un modo de fallo diferente: un modelo de puntuación puede desviarse, un resumidor puede distorsionar y un recomendador puede amplificar patrones ya presentes en los datos históricos de contratación. Tratamos cada superficie como un objetivo de auditoría separado en lugar de una única caja negra de "IA", y documentamos los riesgos específicos que se aplican.

02 ·

Cómo auditamos los modelos

Cada entrevista puntuada por IA es auditable en tres propiedades: acuerdo con evaluadores humanos ciegos, estabilidad a lo largo del tiempo y paridad demográfica entre los grupos de candidatos definidos para el despliegue. Las auditorías se realizan sobre muestras de candidatos en curso, por lo que el sistema no puede ajustarse silenciosamente a un punto de referencia fijo, y el acuerdo entre evaluadores entre la IA y los evaluadores humanos se informa con las mismas estadísticas que usaríamos para comparar a dos humanos.

03 ·

Manteniendo a un humano en el circuito

Una puntuación de IA nunca es la única señal que ve un equipo de contratación, y siempre puede ser anulada. Cuando la distribución de puntuaciones del modelo cambia o su acuerdo con los evaluadores humanos disminuye, se activa una puerta de revalidación antes de que continúe en producción y los clientes afectados son notificados como parte de esa puerta, no después. El informe de IA transparente es el objetivo: los clientes pueden ver lo que hizo el modelo, en qué muestra, y con qué confianza.

Cada entrevista de IA que Xobin realiza se lleva a cabo según el estándar de auditoría descrito en esta página. Los equipos que desean la misma rigurosidad en su propia contratación pueden usarlo directamente a través de Xobin.

Siguiente en Nuestro EnfoqueValidación→

§ Desde el laboratorio

Ponte en contacto con el equipo de investigación.

La metodología descrita aquí es lo que funciona dentro de cada evaluación de Xobin y entrevista de IA, para que los equipos de contratación puedan tomar decisiones sobre talento basadas en evidencia, no en instinto. Ver Xobin.

Ponte en contacto →