6 prácticas prohibidas con inteligencia artificial que debes evitar
Imagina un futuro donde el uso de la inteligencia artificial (IA) esté estrictamente regulado para proteger tus derechos. Recientemente, el gobierno aprobó un anteproyecto de ley que impone normas muy estrictas para el uso de la IA, con sanciones que pueden llegar hasta los 35 millones de euros.
Este texto no solo afecta a grandes empresas, sino que también condiciona el uso que cualquier particular puede hacer de la IA. A continuación, veremos qué prácticas quedan totalmente prohibidas para garantizar una tecnología más ética y segura.
Las prohibiciones clave de la nueva ley sobre inteligencia artificial
Prohibiciones relacionadas con la vulnerabilidad de los usuarios
La normativa pone el foco en proteger a los colectivos más frágiles. Por ejemplo, queda prohibido utilizar la IA para:
- Aplicar técnicas subliminales que manipulen las decisiones sin que el usuario lo sepa.
- Explotar vulnerabilidades como la edad, discapacidad o situación socioeconómica.
- Detectar jugadores problemáticos para dirigirles anuncios relacionados con el juego, una práctica considerada abusiva.
Prohibiciones en el uso biométrico y de clasificación
Algunas prácticas que afectan la privacidad y la dignidad de las personas también quedan fuera de juego:
- Clasificaciones biométricas que utilizan datos como huellas o reconocimiento facial sin garantías estrictas.
- Evaluar personas por historial o comportamiento en línea en ámbitos como la sanidad o el empleo.
- Reconocer emociones o rasgos faciales sin asegurar la seguridad y privacidad.
Novedades específicas incluidas a petición del Gobierno español
Deepfakes y pornografía infantil generados por IA
El gobierno ha impulsado dos nuevas prohibiciones clave que refuerzan la protección de los menores y la dignidad:
- Prohibición expresa de crear deepfakes con contenido sexual que supongan suplantaciones de identidad.
- Veto total a la producción de pornografía infantil con herramientas de inteligencia artificial.
Vigilancia predictiva e identificación en tiempo real
También se excluye el uso de tecnologías que puedan vulnerar la libertad de los ciudadanos de manera injusta, como:
- Vigilancia predictiva basada en el análisis de la conducta digital para estimar riesgos.
- Identificación biométrica en tiempo real mediante vídeos o audios, que puede suponer una invasión masiva de privacidad.
El compromiso del gobierno con una IA ética y humana
Visión alineada con la primera encíclica del Papa León XIV
Poco después de la aprobación del texto, el Papa lanzó un mensaje contundente contra un uso opaco y deshumanizado de la IA. El gobierno español se muestra totalmente de acuerdo con esta mirada, que defiende una IA que proteja los derechos y valores sociales.
Medidas prácticas para garantizar el cumplimiento
Además de prohibir prácticas, el gobierno establece mecanismos para que las empresas acrediten que sus modelos cumplen la ley, y crea la figura del "delegado de inteligencia artificial" dentro de la administración pública para asegurar la transparencia y ética en el uso.
| Práctica prohibida | Descripción |
|---|---|
| Técnicas subliminales | Manipulación oculta de decisiones de los usuarios |
| Explotar vulnerabilidades | Dirigido a menores, discapacitados o colectivos vulnerables |
| Clasificación biométrica | Uso sin garantías de datos biométricos personales |
| Vigilancia predictiva | Estimación de riesgos a partir de datos digitales |
| Deepfakes sexuales | Creación de suplantaciones de identidad con contenido sexual |
| Pornografía infantil generada | Producción prohibida para proteger a menores |
Con estas medidas, la ley quiere frenar prácticas que podrían generar abusos y discriminaciones a través de la IA, poniendo el énfasis en la protección de la privacidad y la dignidad humana.
