Ética en la Experiencia del Cliente

En el marco de su presentación en el XDay Ecuador 2024, Juan Carlos Solines, abogado y uno de los referentes en materia de Gobernanza, Internet y nuevas tecnologías, analizó las dinámicas de la legislación en Ecuador frente a los desafíos digitales, la ética y nuevos modelos de negocio.

Mencionó que el país, ha sido lento y errático en la adopción de regulaciones y normas legales para enfrentar los desafíos digitales, sin encontrar en la legislación un estímulo eficaz. La ley de protección de datos personales llegó con un retraso de 20 años, en un contexto donde la privacidad ha evolucionado. Las nuevas generaciones, por ejemplo, muestran una disposición a compartir sus datos, incluidos los biométricos, para utilizar aplicaciones de salud o servicios como Uber Eats, que no solo proporcionan un servicio sino que también recolectan y analizan datos de consumo para entender y predecir comportamientos.

Este cambio en la percepción sobre la privacidad muestra cómo las empresas han transformado sus modelos de negocio para centrarse en la recolección de datos de usuarios, generando modelos que influyen directamente en el consumo. Asimismo, los gobiernos están utilizando tecnologías no solo para combatir el crimen organizado, sino también para implementar vigilancia ciudadana de manera efectiva.

En este proceso de transformación digital, es esencial abordar cómo las empresas recopilan y utilizan datos de todo tipo, enfatizando la importancia de una gestión ética en el manejo de esta información. Hizo referencia al caso de Amazon y el uso del asistente virtual Alexa que almacenaba injustificadamente comando y datos de niños para sus estrategias de marketing más enfocado en esos nichos. Resaltó que permanentemente se hace un uso abusivo de datos personales, de manera que la ética juega un rol importante, al igual que en el desarrollo de algoritmos de IA. Destacó que todos estamos deslumbrados por lo que hace la IA pero no nos fijamos en el proceso que hay detrás, la escritura de los códigos la hace un ser humano y se ve que hay sesgos en el desarrollo de algoritmos y esos sesgos son de distinta naturaleza etarios, estrato económico, etc.

En un mundo altamente tecnificado, la globalización es distinta. Mientras que en el siglo pasado esa globalización buscaba aspectos comerciales, el flujo de personas y bienes, ahora se vive una globalización donde todos estamos interconectados. Y consideró que hay que volver los ojos a lo local, a nuestra manera de hacer las cosas, siempre en el marco al respeto de valores y derechos humanos.

Juan Carlos Solines, se refirió también a que existe un error conceptual en el tema de derechos humanos que comúnmente ha sido identificado con aspectos progresivos de izquierda, sin embargo, los derechos humanos existen para proteger a los ciudadanos frente al Estado. Cuando hablamos de ética en el desarrollo de la IA no estamos hablando de derechos humanos, a menos que sea el Estado que se encuentre desarrollando un protocolo con algoritmos, de lo contrario no hay derechos humanos involucrados. Si una empresa discrimina en su código estamos frente a otro tipo de situación o escenario, dijo.