Las organizaciones deben contar con un plan integral y un enfoque sistemático para el uso ético y conforme de la Inteligencia Artificial.

Dado el importante potencial de la IA para transformar fundamentalmente el panorama empresarial, las organizaciones deben contar con un plan integral y aplicar un enfoque sistemático para el uso ético y conforme de la IA.

 

 

EY, en su informe Global Integrity Report 2024, identifica seis maneras en que las organizaciones pueden adoptar un enfoque de integridad primero para usar AI:

 

• 1. Evalua la estrategia de uso de IA: Ya sea que la organización ya haya implementado IA o planea hacerlo a corto plazo, es importante entender su madurez actual en la gestión del uso de IA. Una evaluación de la madurez de IA puede ayudar a identificar lagunas críticas. Por ejemplo, cuando una empresa farmacéutica mundial llevó a cabo una evaluación del cumplimiento del uso de la IA, se enteró de que una de sus mayores lagunas era la falta de un marco coherente de gobernanza de la IA.
• 2. Desarrollar una política formal de uso de IA y los medios para aplicarla: La gobernanza es el ancla para permitir un uso seguro, sostenible, responsable y transparente de la IA. Si bien la creación de un marco de gobernanza de la IA puede ser útil, éstas suelen aplicarse de manera voluntaria o incoherente. Un enfoque más constructivo es desarrollar una política formal y aplicable de uso de la IA, acompañada de los medios adecuados para aplicarla y supervisarla. La política debe prestar especial atención a la definición de los principios éticos de IA para la organización; establecer directrices para respetar los derechos, la seguridad y la privacidad de las personas; garantizar la equidad, exactitud y fiabilidad de los resultados de la IA; y proteger la seguridad de los datos y modelos subyacentes.
• 3. Ensamblete a un equipo de operaciones cruzadas: Para que una política de uso de IA sea más eficaz, múltiples partes interesadas en toda la organización (IT, privacidad e seguridad de la información, cumplimiento, legislación, innovación, finanzas y funciones de auditoría interna) deben trabajar juntos para evaluar los casos de uso de IA, riesgos asociados y baralas apropiadas. Las organizaciones deben establecer un comité de gobernanza para garantizar que los diversos aspectos de los riesgos de IA sean propiedad de los equipos pertinentes y tengan consecuencias para los diferentes casos de uso. Fuera del comité de gobernanza, el equipo multifuncional puede supervisar la aplicación coherente del enfoque de gobernanza y gestión de riesgos en toda la organización. Cada equipo juega un papel diferente en la gestión del ciclo de vida y uso de IA. Sólo trabajando juntos los riesgos pertinentes de IA se pueden gestionar eficazmente de extremo a extremo a extremo.
• 4. Crear un plan de respuesta regulatoria y litigante para la IA: Un plan de respuesta regulatoria y litigante para la IA es la siguiente etapa de planificación de la gobernanza. Con los entornos legales y regulatorios volviéndose más difíciles, especialmente en lo que respecta a la IA, las organizaciones deberían prepararse con un plan de respuesta para gestionar este tipo de crisis. Esto es especialmente importante en el caso de una demanda de IA desgarro de IA o de lavación de IA contra su organización. En caso de que se plante, el uso de la IA por parte de la organización será muy examinado. Las organizaciones necesitan saber quién necesita involucrarse, dónde vive los datos y quién es responsable de ello. Tendrán que pasar por un programa de respuesta completa para recoger los artefactos relevantes y demostrar desde una perspectiva técnica cómo la organización está utilizando IA. Es un proceso costoso que implica contratar abogados, revisar modelos y registros, y poder presentar todos estos registros al regulador. Es importante reconocer que no se trata de una petición de citación tradicional. En las citaciones tradicionales, las organizaciones pueden necesitar poder producir correos electrónicos. En litigios de IA, necesitan ser capaces de producir algoritmos.
• 5. Optimizar la gobernanza y los procesos de los datos: En el Informe Global de Integridad 2024 de EY, los ejecutivos citaron datos inconsistentes o incompletos en los modelos de IA como su desafío número uno en el despliegue de IA dentro de la función de cumplimiento. Para los profesionales legales y de cumplimiento y, posiblemente, la fuerza de trabajo en general para confiar en los datos, las organizaciones necesitan tener una comprensión clara y completa de sus datos. Esto debe incluir la cartografía de datos y el linaje para saber de dónde viene, así como su nivel de calidad y limitaciones.
• 6. Construir un inventario de todas las herramientas de IA en uso: Las organizaciones deben tener o construir un inventario de todas las herramientas de IA y de aprendizaje automático (ML) en uso. A medida que las capacidades de la organización IA maduran, puede centrarse en la construcción de una infraestructura escalable, flexible y segura que pueda gestionar de forma segura una cartera de algoritmos de IA.

 

La velocidad a la que avanza la IA sólo se está acelerando. Habida cuenta de todos los conceptos y componentes que las organizaciones deben considerar no sólo para aplicar la IA sino también infundir confianza en ella, las organizaciones deben elaborar un enfoque coherente de la IA en la integridad. Los esfuerzos especiales para perseguir riesgos y desafíos después del hecho no serán suficientes.

 

Una sólida estrategia de uso de AI establecida en un marco de gobernanza sólida con políticas y procedimientos claramente definidos, controles que se ajusten a los protocolos de gobernanza, gobernanza de datos y procesos, y un equipo multifuncional que no sólo pueda impulsar el despliegue de la IA, sino también promover una cultura de integridad en torno a la IA contribuirá a una agenda de inteligencia y de inteligencia que aproveche todo el potencial de la IA y mitiga el riesgo.

 

Más información en https://www.ey.com

Autor original: Todd Marlin

 

 

---

Volver al listado