6 pràctiques prohibides amb intel·ligència artificial que has d'evitar
Imagina't un futur on l'ús de la intel·ligència artificial (IA) estigui estrictament regulat per protegir els teus drets. Fa poc, el govern va aprovar un anteprojecte de llei que imposa normes molt estrictes per a l'ús de la IA, amb sancions que poden arribar fins a 35 milions d'euros.
Aquest text no només afecta empreses grans, sinó que també condiciona l'ús que qualsevol particular pot fer de la IA. A continuació, veurem quines pràctiques queden totalment prohibits per garantir una tecnologia més ètica i segura.
Les prohibicions clau de la nova llei sobre intel·ligència artificial
Prohibicions relacionades amb la vulnerabilitat dels usuaris
La normativa posa el focus en protegir els col·lectius més fràgils. Per exemple, queda prohibit utilitzar la IA per:
- Aplicar tècniques subliminals que manipulin les decisions sense que l'usuari ho sàpiga.
- Explotar vulnerabilitats com l'edat, discapacitat o situació socioeconòmica.
- Detectar jugadors problemàtics per dirigir-los anuncis relacionats amb el joc, una pràctica considerada abusiva.
Prohibicions en l'ús biomètric i de classificació
Algunes pràctiques que afecten la privacitat i la dignitat de les persones també queden fora de joc:
- Classificacions biomètriques que utilitzen dades com empremtes o reconeixement facial sense garanties estrictes.
- Avaluar persones per historial o comportament en línia en àmbits com la sanitat o l'ocupació.
- Reconèixer emocions o trets facials sense assegurar la seguretat i privacitat.
Novetats específiques incloses a petició del Govern espanyol
Deepfakes i pornografia infantil generats per IA
El govern ha impulsat dues noves prohibicions claus que reforcen la protecció dels menors i la dignitat:
- Prohibició expressa de crear deepfakes amb contingut sexual que suposin suplantacions d'identitat.
- Veto total a la producció de pornografia infantil amb eines d'intel·ligència artificial.
Vigilància predictiva i identificació en temps real
També s'exclou l’ús de tecnologies que puguin vulnerar la llibertat dels ciutadans de manera injusta, com ara:
- Vigilància predictiva basada en l'anàlisi de la conducta digital per estimar riscos.
- Identificació biomètrica en temps real mitjançant vídeos o àudios, que pot suposar una invasió massiva de privacitat.
El compromís del govern amb una IA ètica i humana
Visió alineada amb la primera encíclica del Papa León XIV
Poc després de l’aprovació del text, el Papa va llançar un missatge contundent contra un ús opac i deshumanitzat de la IA. El govern espanyol es mostra totalment d’acord amb aquesta mirada, que defensa una IA que protegeixi els drets i valors socials.
Mesures pràctiques per garantir el compliment
A més de prohibir pràctiques, el govern estableix mecanismes perquè les empreses acreditin que els seus models compleixen la llei, i crea la figura del "delegat de intel·ligència artificial" dins l’administració pública per assegurar la transparència i ètica en l’ús.
| Pràctica prohibida | Descripció |
|---|---|
| Tècniques subliminals | Manipulació oculta de decisions dels usuaris |
| Explotar vulnerabilitats | Dirigit a menors, discapacitats o col·lectius vulnerables |
| Classificació biomètrica | Ús sense garanties de dades biomètriques personals |
| Vigilància predictiva | Estimació de riscos a partir de dades digitals |
| Deepfakes sexuals | Creació de suplantacions d'identitat amb contingut sexual |
| Pornografia infantil generada | Producció prohibida per protegir menors |
Amb aquestes mesures, la llei vol posar fre a pràctiques que podrien generar abusos i discriminacions a través de la IA, posant l'èmfasi en la protecció de la privacitat i la dignitat humana.
