Un análisis sobre el alcance real de la supervisión humana en decisiones automatizadas, a partir de un artículo publicado por un funcionario judicial.
La expresión “supervisión humana” aparece en diversas regulaciones sobre inteligencia artificial (IA) como una barrera frente a decisiones que puedan afectar derechos. Sin embargo, un análisis reciente sostiene que la mera presencia de una persona en el circuito no garantiza un control efectivo.
El texto, difundido por un funcionario de la Suprema Corte de Justicia de la Provincia de Buenos Aires, señala que la supervisión requiere condiciones concretas: conocimientos sobre el sistema, acceso a información relevante, tiempo suficiente y facultades reales para intervenir en el resultado.
En muchos casos, quien interviene en un procedimiento automatizado puede desconocer el funcionamiento del sistema, recibir solo el resultado final o carecer de autorización para apartarse de lo sugerido. En esas condiciones, la supervisión no es efectiva, sino ficticia, según el autor.
El análisis también advierte sobre la responsabilidad individual cuando la regulación impone un deber genérico de supervisión a quien utiliza el sistema, sin precisar las obligaciones de la organización. De esta manera, la supervisión podría convertirse en un mecanismo para individualizar culpas y ocultar responsabilidades institucionales.
El artículo menciona el Reglamento de Inteligencia Artificial de la Unión Europea como un avance en esta materia, al exigir medidas de supervisión adecuadas y proporcionales para sistemas de alto riesgo, incluyendo la capacidad de comprender los resultados, descartarlos o detener el funcionamiento.
El autor concluye que la supervisión humana no debería reducirse a un requisito de presencia, sino traducirse en condiciones que permitan revisar los resultados y ejercer un control real. De lo contrario, no hay una regulación efectiva, sino una puesta en escena.