Inicio | Noticias | «Queremos una IA responsable sin sesgos algorítmicos»
"Queremos una IA responsable sin sesgos algorítmicos"
Noticia, 
Idoia Salazar, presidenta y codirectora del Área de Ética y Responsabilidad de OdiseIA

«Queremos una IA responsable sin sesgos algorítmicos»

ProtagonistasREDEWI

La ética en la Inteligencia Artificial (IA) es algo que a todos nos preocupa. No hace falta imaginarse un futuro distópico en el que el mundo sea dominado por máquinas, sino simplemente pensar en cómo actuará un chatbot con información sesgada o, por ejemplo, el coche autónomo ante una posible colisión. Con este perfil futurista hablamos con Idoia Salazar, presidenta y codirectora del Área de Ética y Responsabilidad de OdiseIA, el Observatorio del impacto social y ético de la inteligencia artificial.

“La idea del observatorio surgió porque, aunque yo llevaba muchos años investigando sobre ética e Inteligencia Artificial, veía que había mucha teoría, incluso a nivel mundial y en foros internacionales, pero poca práctica que implementar en la realidad”, reconoce la experta. Recuerda que cuando lo lanzaron allá por 2019, “se debatía sobre la responsabilidad ética de la inteligencia artificial; pero, no había medidas reales para implementarla en las empresas y organizaciones que ya la usaban”.

Así vio la luz OdiseIA: “Yo quería bajar a la práctica toda esa teoría que se le daba al uso de la IA. Qué fueran unas medidas realistas para que, al final no hubiera trabas al impulso que se le tiene que dar a esta tecnología”, recuerda Salazar. “Normalmente -añade- la ética y las leyes limitan el uso de la tecnología y ralentiza su desarrollo; por eso, el gran reto es minimizar ese exceso de regulación. Es decir, seguir dándole el gran impulso a la IA porque es beneficioso para las empresas y para las personas, pero sin perder esa visión ética”.

“Buscamos una IA responsable. El estado actual de IA depende del ser humano y tenemos que ser éticos a la hora de usar esa tecnología. El gran problema es que hay de discriminación algorítmica, por propios sesgos y cuestiones inconscientes del ser humano”.

Una IA con el humano en el centro

Con este reto por delante, explica Idoia, se juntaron un grupo de especialistas de distintas disciplinas. Entre ellos: Richard Benjamins, Mar Cabra, Nuria Oliver, Jesús Avezuela… “Queríamos tocar todas las áreas del conocimiento, por eso tenía que reunir a distintas personas con distintas perspectivas y de áreas diferentes”, remarca.
“De esta forma hora tenemos algunos de los mayores expertos, no solo técnicos, sino humanistas para poder dar respuesta a esta pregunta: ¿Cómo podemos impulsar la IA pero siempre desde el punto de vista responsable y con el humano como centro?”, puntualiza la experta.

Para contestar esta pregunta una de las patas del Observatorio es el proyecto Guía. “Hemos logrado aunar a los responsables de Microsoft, Google, Telefónica, entre otros, para todos juntos crear, con los distintos expertos, unas Guías Practicas sectoriales sobre la ética de IA», explica la presidenta de OdiseIA. El objetivo es ir sacando “guías vivas y responsables para cada sector. No es lo mismo el sector seguros, que el de leyes o el de salud. Queremos ser lo más realistas posibles y eso se consigue analizando los sectores por separado y con la idiosincrasia de cada uno”.

“Esperamos que estas guías, así como nuestros trabajos de asesoría o herramientas específicas, ayuden mucho tanto a las empresas como a las organizaciones que usan la IA a hacerlo bien y de manera responsable, para que de esta forma reforzar la confianza del consumidor”, añade.

Para la experta el fin del Observatorio es buscar un impacto positivo de la IA para “no centrarnos en el mal uso de nuestros datos, en la pérdida de la privacidad, ni en temas relativos a la discriminación, por ejemplo”.

«La ética y las leyes limitan el uso de la tecnología y ralentiza su desarrollo, por eso, el gran reto es minimizar ese exceso de regulación. Es decir, seguir dándole el gran impulso a la IA, porque es beneficios para las empresas y para las personas, pero sin perder esa visión ética»

«El futuro depende de las decisiones que tomemos en el presente»

Una de las claves de OdiseIA es la calidad y el criterio en sí: “No criticamos de manera destructiva, intentamos aportar una visión constructiva para ayudar a la empresa o a quien nos haga la consulta”. “Nosotros tenemos una opinión fundamentada por nuestros expertos de calidad, no tenemos ánimo de criticar por criticar”, remarca.
Para terminar, es interesante conocer su percepción sobre cómo será el futuro de esta tecnología : “Dependerá de las decisiones que tomemos los humanos en el presente; si aceptamos y de verdad nos encaminamos hacia una IA sin normas, ni ética y llena de sesgos tendremos un futuro apocalíptico. Si actuamos de una manera consecuente, tendremos al humano como centro”. “Podemos abrir un camino que no podemos ni imaginar, pero si lo hacemos mal, sin supervisión, fomentaremos ese futuro distópico”.

Desde su visión positiva, en ese futuro tampoco augura una destrucción de empleo masiva con la llegada de la IA, sino todo l contrario: “No creo que se produzca una situación diferente a la que se produjo con internet, se destruyeron algunos puestos de trabajo, pero se han creado mil nuevos. Es la propia evolución”.

Si actuamos de una manera consecuente, tendremos al humano como centro”. “Podemos abrir un camino que no podemos ni imaginar, pero si lo hacemos mal, sin supervisión, fomentaremos ese futuro distópico”.

Ciencia sin género

Para Idoia reconoce que es cierto que no hay muchas mujeres en este sector, por eso hace un llamamiento a todas las mujeres interesadas en Ciencias para que se «acerquen a este tipo de tecnología». La experta considera que esa falta de talento femenino «no es un problema de sexo, sino que hay personas más afines a estas disciplinas que otras. No veo que se esté poniendo trabas desde el sector para que la mujer forme parte de él. Sino que eligen por diversas cuestiones otros perfiles u otros segmentos. Por ello, quizás mostrar más perfiles y roles models ayude “a visibilizar el sector tecnológico como un gran lugar para trabajar independientemente del sexo».

OdiseIA en datos…

Actualmente OdiseIA tiene más de 200 socios particulares y grandes socios institucionales, como Price WaterHouse Coopers, Deloitte o la Mutalidad de la Abogacía, entre otros. «Continuamos trabajando mucho en la asesoría y concienciación empresarial en materia de uso responsable de la IA. En concreto, estamos elaborando, con el apoyo de PwC y la Secretaría de Estado de Digitalización e IA, unas Guías prácticas sectoriales en el uso responsable de la IA (Proyecto GuIA de OdiseIA)».

Una de las primeras Guías que saldrá será la del sector Seguros. Estas guías están basadas en casos de uso reales que aportarán una visión práctica, explica.

Artículo elaborado para #RedEWI -Empower Women in Insurance-. Hazte miembro de la Red de Mujeres Líderes del Sector Asegurador aquí.