Los sistemas desarrollados con inteligencia artificial, cada vez ejecutan tareas más robustas. De modo que ayudan a profesionistas en ejecutar más eficientemente sus labores. Mientras otros sistemas sirven a la población en general en tareas un tanto cotidianas. Empelando complejos algoritmos.
Sin embargo, una tecnología con dicha magnitud, requiere de regulaciones y tratados de información igual de eficientes. Una labor que, como hemos visto en los últimos años, no ha sido sencilla de ejecutar. Además, que se requiere la implementación de metodologías y procesos que evite sesgos en la inteligencia artificial y consiga resultados distintos a los esperados.
El sistema inteligente responsable
Ante esto, dos empresas españolas han decidido tomar cartas en el asunto, al diseñar un sistema inteligente que se apegue a los estándares denominados como alto impacto. Es decir, salud, empleo, educación, seguridad, servicios sociales o justicia. Las compañías detrás de este desarrollo son Éticas, especializada en la auditoria de algoritmos y Sngular, una desarrolladora de software.
El trabajo conjunto de estas empresas es el desarrollar una metodología pionera en su tipo, que ralentizará los tiempos de entrega. Esto, con la finalidad de revisar y pulir posibles efectos negativos que tenga el sistema, antes de que este sea lanzado y produzca resultados más limpios en inteligencia artificial.
La auditoría de algoritmos
La implementación de esta metodología, partirá con ampliar la visión que tiene un ingeniero, quien, al integrarse a un equipo multidisciplinario, logran entender el contexto de la aplicación que tendrá alguna herramienta con impacto social, mediante el uso de la inteligencia artificial.
Así que, para evitar los sesgos en estas tecnologías, el ingeniero debe trabajar en conjunto con especialistas en el sector. Como, por ejemplo, trabajadores sociales, jurista, filósofos, etc. La idea, es que albos perfiles logren complementarse entre sí, y consigan un desarrollo más ético y responsable, que amplíe sus visiones y evite los sesgos que podrían tener.
Por ello, la intención de Ética y Sngular es desarrollar un algoritmo partiendo desde cero, que cumpla con los estándares que exigen este tipo de tecnologías. En su ejecución, combinarán una auditoría en el diseño técnico.
Gemma Galdon, consejera delegada de Ética explica que al realizar una auditoria algorítmica, analizan todo el ciclo de vida del algoritmo. De forma que, tienen hasta 20 puntos que les permiten identificar sesgos e ineficiencias, mientras efectúan pruebas en cada uno de ellos y evitar que se ejecuten.
El camino hacia algoritmos éticos
Si bien, por el momento no existe una metodología o proceso definido para el desarrollo de esta tecnología, Galdon, considera que su desarrollo debe pasar por algunas fases clave. Primero, antes de iniciar, se debe abordar y entender cuál es el problema que se pretende resolver. Luego, entender cuáles son los puntos de datos que servirán para conseguir un óptimo desarrollo.
