Estos son los desafíos legales y éticos de la Inteligencia Artificial que todos debemos saber

En la actualidad, la Inteligencia Artificial (IA) se ha convertido en una herramienta poderosa que transforma industrias, mejora la eficiencia de procesos y facilita la vida de las personas. En el caso de Colombia, un estudio de Microsoft señala que el 59% de las organizaciones implementaron soluciones de IA en menos de seis meses, superando el promedio global del 48%. Sin embargo, la multinacional de ciberseguridad, defensa ciberinteligencia S2GRUPO, nos invita a reflexionar sobre una serie de desafíos legales y éticos que afectan a la sociedad en general, debido a este crecimiento acelerado de la IA.

Uno de los principales retos legales de la IA es la responsabilidad en caso de errores o daños causados por sistemas autónomos. Por ejemplo, ¿quién responde si un algoritmo toma una decisión errónea con consecuencias negativas? Este es un tema que aún se debate en los marcos regulatorios de muchos países. En Colombia, el 39% de las empresas considera que la ausencia de regulación en IA es una oportunidad de mejora, lo que pone de manifiesto la necesidad de un marco legal más claro y específico.

Desde el punto de vista ético, la IA también plantea dilemas importantes. “Por ejemplo, la toma de decisiones automatizadas puede generar sesgos y discriminación si los datos utilizados para entrenar los modelos no son representativos o contienen prejuicios, lo que pone en evidencia la necesidad de mejorar la equidad en estos sistemas”, explica Enrique Fenollosa, LATAM General Manager de S2GRUPO.

Tasas de error por género

En ese sentido, cabe recordar que un estudio de 2018, realizado por la investigadora Joy Buolamwini del MIT Media Lab, en colaboración con Timnit Gebru de la Universidad de Stanford, analizó tres programas comerciales de análisis facial y encontró que, al clasificar el género, las tasas de error para hombres de piel clara eran de aproximadamente 0,8%, mientras que para mujeres de piel oscura las tasas de error aumentaban hasta el 34,7%.

El impacto de la automatización en el empleo es otra realidad que debe abordarse con estrategias que equilibren el avance tecnológico y la protección de los trabajadores. Un estudio de McKinsey estima que para 2030, hasta 800 millones de empleos podrían ser automatizados a nivel mundial, lo que resalta la urgencia de medidas de reentrenamiento y educación.

En Colombia, el Ministerio de Ciencia Tecnología e Innovación publicó, en febrero de 2024, la ‘Hoja de Ruta para la Adopción Ética y Sostenible de la IA’, un documento que según el propio Ministerio “guiará el desarrollo de políticas, acciones y decisiones del Gobierno Nacional, hacia un futuro impulsado por la tecnología, pero siempre arraigado en principios éticos y sostenibles”.

Además, vale la pena recordar que en el Government AI Readiness Index de 2022, Colombia ocupa el puesto 47 entre 181 naciones, en un escalafón que mide la disposición de los países para aplicar IA en la prestación de servicios públicos.

“La IA ofrece oportunidades sin precedentes, pero ante estos desafíos es fundamental que gobiernos, empresas y ciudadanos trabajemos en conjunto para establecer regulaciones claras que promuevan su desarrollo de manera responsable. Además, la educación y el conocimiento sobre estas tecnologías también juegan un papel crucial para que las personas comprendan su impacto y exijan un uso ético y transparente.”, indica Enrique Fenollosa, LATAM General Manager de S2GRUPO.

En ese sentido, se recomienda seguir estos cinco consejos para abordar los desafíos de la IA

1.     Desarrollar regulaciones claras y específicas: es crucial que los gobiernos establezcan normativas que definan la responsabilidad en el uso de la IA y protejan los derechos de los ciudadanos.

2.     Fomentar la educación en IA: se deben implementar programas de formación en colegios y universidades para mejorar la comprensión y el uso ético de esta tecnología.

3.     Reducir el sesgo en los algoritmos: las empresas deben garantizar que los datos utilizados sean diversos e inclusivos para evitar la discriminación en la toma de decisiones automatizadas.

4.     Promover la transparencia en el uso de IA: es fundamental que las organizaciones comuniquen de manera clara cómo se utilizan los sistemas de IA y qué impacto pueden tener en la sociedad.

5.     Crear estrategias para mitigar el impacto en el empleo: se deben diseñar políticas de reentrenamiento y actualización laboral para ayudar a los trabajadores a adaptarse a la transformación digital.