Daphné Repain, Gerente del Centro de Experiencia del Banco Pichincha, abordó diversos temas relacionados con la inteligencia artificial, IA, en un contexto empresarial. Discutió cómo la IA afecta la experiencia del cliente, los desafíos asociados con los sesgos en los datos, la importancia de la interacción humana en el uso de productos y cómo la evolución de estas interacciones impacta en el diseño de servicios y productos. Además, reflexionó sobre los marcos de diseño y las consideraciones éticas que influyen en la aplicación práctica de la IA.
Uno de los principales debates sociales actuales es si la IA debería reemplazar o colaborar con los humanos. Este dilema abarca aspectos tanto prácticos como éticos que influyen en cómo diseñamos y aplicamos estas tecnologías. El diseño de la experiencia del usuario ha cambiado debido a la evolución de las interfaces de Interfaces Gráficas de Usuario centradas en la interacción visual y la navegación a Interfaces de Usuario Conversacionales, donde el diseño debe adaptarse para enfocarse más en el contexto y la intención detrás de lo que los usuarios expresan verbalmente. Repain destacó que la “IA está transformando las interacciones entre humanos, máquinas y sus diseños”.
La IA se presenta como una herramienta que puede colaborar efectivamente con los humanos, mejorando sus capacidades sin comprometer la equidad ni la ética. Además, explorar cómo la colaboración entre humanos y máquinas puede crear oportunidades.
Durante su conferencia Repain realizó un ejercicio de búsqueda en internet con los asistentes para demostrar cómo los sesgos en los datos pueden afectar los resultados de la búsqueda de información.
Además, planteó la cuestión de cómo podemos asegurar que los resultados proporcionados por la IA sean precisos y equitativos, por ejemplo, en términos de género. Subrayó que es esencial evitar o al menos minimizar el sesgo de género en el desarrollo de algoritmos, en los extensos conjuntos de datos utilizados para su aprendizaje y en la toma de decisiones basadas en IA.
En general la presentación enfatizó la necesidad de una gestión adecuada de la IA, buscando un equilibrio entre los beneficios económicos y sociales y los riesgos potenciales, como el aumento de conflictos, la propagación de desinformación y los sesgos. El objetivo es asegurar que los avances sean beneficiosos para la sociedad sin comprometer la calidad de vida de las personas, orientando los esfuerzos hacia una gobernanza de la IA que fomente el progreso tecnológico mientras protege y mejora el bienestar social.
