Prácticas de Inteligencia Artificial (IA) prohibidas en la Unión Europea
21.Oct.2025. Política. Muchas personas creen que la Inteligencia Artificial (IA) trae consigo muchos beneficios. Millones de personas la han integrado para el día a día, ya sea para hacer preguntas triviales como para consultar temas y elaborar material de trabajo.
Si embargo y al menos en Europa, no todo vale. El reglamento de la IA (en inglés AI: Artificial Intelligence) representa un paso fundamental para garantizar que se utilice de manera segura y respetuosa loa derechos fundamentales de los ciudadanos. En este artículo queremos repasar algunas prácticas prohibidas de la Inteligencia Artificial.
1. Manipulación dañina y explotación de las vulnerabilidades
Se prohíben sistemas de IA que manipulan a personas con técnicas subliminales, engañosas o diseñadas para explotar vulnerabilidades por edad, discapacidad o condición socioeconómica:
- Publicidad subliminal. Un sistema de IA que muestre mensajes o imágenes de forma imperceptible para influir en el comportamiento de compra de los usuarios son su conocimiento.
- Manipulación emocional. Un asistente virtual que utiliza técnicas psicológicas para explotar la soledad de usuarios vulnerables, haciéndolos emocionalmente dependientes.
2. Puntuación ciudadana (social scoring)
Se prohíbe la clasificación de personas por su comportamiento o características si se mezclan datos de contextos distintos o se les trata injustamente. Por ejemplo:
- Sistema de crédito social. Un gobierno que otorga puntuaciones a los ciudadanos en función de su comportamiento (pagos de facturas, infracciones de tráfico) y restringe el acceso a servicios públicos según su puntuación.
- Puntuación de confiabilidad en el trabajo. Un sistema de IA en una empresa que clasifica a los empleados según su comportamiento fuera del trabajo (por publicaciones en redes sociales...) y usa esa puntuación para promociones o despidos.
3. Predicción de delitos individuales
Está prohibido el uso de IA para predecir delitos basándose solo en el perfil de una persona o en sus rasgos de personalidad. Por ejemplo:
- Sistema de predicción de criminalidad basado en la etnia. Un software que predice la probabilidad de que una persona cometa un delito en el futuro basado en su raza, nacionalidad, lugar de residencia o nivel educativo.
Se permite una excepción únicamente cuando se utilice para colaborar con las fuerzas del orden, siempre que se base en hechos verificables vinculados con delitos previos.
4. Extracción masiva de imágenes faciales
Se prohíbe la obtención de imágenes faciales de la web o sistemas de videovigilancia de manera general para bases de datos de reconocimiento facial. Por ejemplo:
- Scraping de datos biométricos. Un sistema que recopila automáticamente imágenes de rostros de redes sociales y sitios webs sin consentimiento para entrenar una base de datos de reconocimiento facial.
- Uso de cámaras de seguridad para recolección indiscriminada de imágenes de las personas. Si se encuentran en un espacio público y no hay justificación legal.
5. Reconocimiento de las emociones
Prohibidos los sistemas de IA que infieren emociones y entornos laborales y educativos.
- Detección de emociones en el lugar de trabajo. Un sistema de IA que analiza las expresiones faciales y el tono de voz de los empleados para evaluar su compromiso laboral.
- IA en educación para medir emociones. Un software que monitorea el estado emocional de los estudiantes durante las clases pra detectar desinterés o falta de motivación.
Una excepción permitirá es su uso en contextos médicos o de seguridad (por ejemplo, detectar fatiga en conductores).
6. Categorización biométrica
Prohíbe sistemas de IA que deducen rasgos sensibles, como raza, religión, opiniones políticas u orientación sexual.
- Clasificación de personas por raza, religión o ideología política. Un sistema de IA que agrupa a individuos por su apariencia física y asocia esto con una posible ideología política o creencias religiosas.
- Evaluación de orientación sexual mediante IA. Un software que pretende predecir la orientación sexual de una persona basándose en su rostro o comportamiento digital.
Una excepción permitirá es el uso de etiquetado de base de datos biométricos adquiridos legalmente para aplicaciones de seguridad.
7. Identificación biométrica en tiempo real
Se prohíbe el reconocimiento biométrico en tiempo real en espacios públicos para la aplicación de la ley. Por ejemplo:
- Uso de IA en manifestaciones. Un gobierno que emplea IA para monitorear y registrar los rostros de los asistentes a protestas y manifestaciones. ç
Hay excepciones cuando se trata de búsqueda de víctimas de delitos graves o personas desaparecidas; prevención de ataques terroristas inminentes o localización de sospechosos de delitos graves, con autorización previa.
Prácticas prohibidas
El uso de estas práctica prohibidas se puede permitir en casos estrictamente regulados y supervisados para garantizar la protección de los derechos fundamentales.
Artículo publicado en la revisa OCU Contigo (Octubre 2025).
Recomendamos ver también:
¿Quieres compartir un comentario, observación o duda sobre este artículo o cualquier otro? Escríbenos a Esta dirección de correo electrónico está siendo protegida contra los robots de spam. Necesita tener JavaScript habilitado para poder verlo..
Mantente informado sobre cada una de nuestras publicaciones agregándonos a tu FACEBOOK y/o a tu cuenta de X (antiguo Twitter).
