Resolución del Parlamento Europeo, del 6 de octubre de 2021, sobre la inteligencia artificial en el derecho penal y su utilización por las autoridades policiales y judiciales en asuntos penales (2020/2016(INI))

El 6 de octubre de 2021 el Parlamento Europeo aprobó una resolución sobre “La inteligencia artificial en el Derecho penal y su utilización por las autoridades policiales y judiciales en asuntos penales”. En el marco de dicha resolución, se reclamaron garantías en el uso policial y judicial de la inteligencia artificial, en particular las que puedan readaptarse para fines de vigilancia masiva o de elaboración masiva de perfiles, lo que entendieron interfiere de manera desproporcionada con los derechos fundamentales.

Entre los puntos más relevantes, se pueden mencionar:

  • La necesidad del control humano en las decisiones automáticas, en el contexto de las actividades judiciales y policiales.
  • Se pone hincapié en pedir que los algoritmos sean abiertos-transparentes, trazables y auditables.
  • Se pide a la Comisión que prohíba el uso de las bases de datos de reconocimiento facial privadas en el ámbito de la garantía del cumplimiento de la ley. En esta misma línea, se considera que el uso y la recopilación de datos biométricos para fines de identificación remota, por ejemplo, mediante reconocimiento facial en lugares públicos, así como en los controles fronterizos en los aeropuertos, pueden plantear riesgos específicos para los derechos fundamentales
  • Se pide a la Comisión que se aplique una prohibición de cualquier tratamiento de datos biométricos, incluidas las imágenes faciales, con fines coercitivos que dé lugar a una vigilancia masiva en espacios públicos. Se señala, que debe prestarse especial atención y aplicarse un marco estricto al uso de drones en operaciones policiales.
  • Se advierte que, las técnicas predictivas de comportamiento, no pueden constituir la única base de una intervención policial o judicial, por no poder realizar predicciones fiables del comportamiento individual.
  • Se respaldan las recomendaciones del grupo de expertos de alto nivel sobre la IA de la Comisión, favorables a la prohibición de la puntuación de las personas a escala masiva mediante IA.
  • Se destaca el potencial de sesgo y discriminación derivado del uso de aplicaciones de IA, como el aprendizaje automático, en particular con respecto a las personas pertenecientes a determinados grupos étnicos o comunidades racializadas.
  • Finalmente, se toma nota sobre los riesgos relacionados con la fuga de datos y el acceso no autorizado a datos personales y otra información, por ejemplo, en relación con investigaciones penales o asuntos judiciales procesados por sistemas de IA.

Para acceder a la integralidad del documento :

https://www.europarl.europa.eu/doceo/document/TA-9-2021-0405_ES.html

https://www.europarl.europa.eu/doceo/document/TA-9-2021-0405_ES.pdf

María Lourdes Petrecola
STAFF OCEDIC