CIBERSEGURIDAD, BIGDATA Y DIGITALIZACIÓN

La OCU exige medidas para reforzar la protección a los usuarios

03/05/2024

CATEGORíA: General MARCA: OCU


Urge a la Administración para que supervise las condiciones del consentimiento que las empresas con sistemas de IA y algoritmos imponen a los usuarios; así como el control del tratamiento que posteriormente se haga de sus datos.


Según una reciente encuesta de OCU, el 65% de los usuarios de ChatGPT cree que pueden generarse abusos en el uso de sus datos personales. Es más, el 67% considera que el uso de la IA servirá a las empresas para manipular a los consumidores. Y lo peor es que solo 3 de cada 10 confía en que las autoridades de la Unión Europea o las nacionales lleven a cabo un eficaz control sobre los datos o las informaciones personales que recoge ChatGPT.

 

OCU coincide con la sensación de falta de protección de los usuarios: “Es imposible que un consumidor medio tenga conocimiento del alcance actual y futuro de su consentimiento para el uso de sus datos personales”. De ahí que la Organización exija a la Administración que supervise y controle de forma activa las complejas condiciones del consentimiento que se impone a los consumidores por las empresas que emplean algoritmos y sistemas de Inteligencia Artificial en su actividad. Dada la rápida evolución de la tecnología, basar en estos casos la legalidad del tratamiento en el consentimiento del consumidor ya no resulta del todo adecuado y debe respaldarse necesariamente con una supervisión y control previos que inspiren confianza y den garantías al usuario.

 

OCU urge además una regulación que obligue a todas las empresas que usen Inteligencia Artificial en sus relaciones con los consumidores a:

 

Priorizar el bienestar de los usuarios sobre la rentabilidad económica, primando principios éticos como el respeto, la honestidad o la equidad. Al tiempo que se mantiene el compromiso de salvaguarda de los Derechos Humanos.

 

Informar sobre los algoritmos que utilizan y el tratamiento que se va a dar a la información personal, de tal modo que no se discrimine por razones de género, raza, religión o nivel socioeconómico. Y distinguiendo los contenidos generados por la propia IA del resto.

 

No deben existir cajas negras donde no se pueda conocer el proceso seguido por la IA para llegar a una decisión, de forma que no se pueda defender a un consumidor de una decisión automatizada.

 

Remitir informes independientes a las autoridades de control, incluyendo los posibles riesgos a los que se enfrentan los usuarios y las medidas para reducirlos.

 

Asumir su responsabilidad, incluso penal, por la veracidad de la información que se transmite y por las acciones que violen las leyes y códigos establecidos; así como por los daños derivados del impacto negativo de sus actividades.

 

Limitar su impacto sobre el agua, la energía y otros recursos escasos, estos últimos a menudo procedentes de regiones con conflictos donde no se respetan los derechos humanos.

 

Más información en https://www.ocu.org

 

Foto de sebastiaan stam en Unsplash

 




Volver al listado Volver al listado





vimeo twitter facebook linkedin


Financiado por la Unión Europea Next GenerationEU Plan de Recuperación, Transformación y Resilencia