{"id":2665,"date":"2021-07-07T13:32:10","date_gmt":"2021-07-07T12:32:10","guid":{"rendered":"https:\/\/telecomkh.info\/?p=2665"},"modified":"2021-07-07T13:32:10","modified_gmt":"2021-07-07T12:32:10","slug":"sesgo-algoritmico-como-evitar-que-la-inteligencia-artificial-adquiera-los-sesgos-de-las-personas","status":"publish","type":"post","link":"https:\/\/telecomkh.info\/?p=2665","title":{"rendered":"Sesgo algor\u00edtmico: c\u00f3mo evitar que la Inteligencia Artificial adquiera los sesgos de las personas"},"content":{"rendered":"

Contar con un equipo diverso y multidisciplinar, alimentar a la IA con datos no sesgados y formar a los desarrolladores acerca del impacto de sus sesgos inconscientes, son algunas de las claves de Aiwin para construir algoritmos libres de discriminaci\u00f3n<\/strong><\/p>\n

Desde smartphones hasta electrodom\u00e9sticos, pasando por buscadores o asistentes virtuales, son muchos los softwares y dispositivos que dependen de la Inteligencia Artificial, una herramienta que tiene un gran potencial para las empresas y la sociedad pero que desde el punto de vista \u00e9tico ha levantado un debate: \u00bfpuede la Inteligencia Artificial replicar todos los aspectos de la mente humana, hasta sus sesgos inconscientes? La respuesta es s\u00ed.
\nPr\u00e1cticamente desde la implantaci\u00f3n de la IA en la vida cotidiana se han registrado casos de sistemas y dispositivos con actitudes y funcionamientos que podr\u00edan calificarse perfectamente de sesgados e incluso discriminatorios. Uno de los sucesos m\u00e1s reconocidos, que aparece en el documental de Netflix \u2018Sesgo codificado\u2019, se dio cuando la investigadora afroamericana del MIT, Joy Boulamnwini, tuvo que ponerse una m\u00e1scara blanca para que un sistema de reconocimiento facial reconociese su cara. Y es que los dise\u00f1adores de esa soluci\u00f3n solo hab\u00edan tenido en cuenta principalmente los rostros blancos a la hora de desarrollar la herramienta.
\nEn este sentido, el sesgo algor\u00edtmico se ha convertido en uno de los principales desaf\u00edos para las empresas productoras de soluciones IA, y prueba de ello es que el 65% de los directivos afirma ser consciente de estas tendencias discriminatorias en la Inteligencia Artificial, seg\u00fan un estudio de Capgemini.
\nEl reto principal de estas empresas a corto plazo es desarrollar algoritmos y sistemas que no hereden las visiones y pensamientos enjuiciados y sesgados de sus desarrolladores. Algo que se presenta como un objetivo dif\u00edcil si no se trabaja en mostrarles que tienen sesgos que influyen de forma r\u00e1pida y directa en su trabajo. Es decir, la IA no es neutral, sino que aprende de todos los datos y la informaci\u00f3n que se le proporcionan, y eso hoy genera una desconfianza entre la poblaci\u00f3n ante la falta de transparencia que frecuentemente la envuelve.<\/p>\n

Para hacer frente a esta situaci\u00f3n, desde Aiwin -servicio en la nube de videojuegos corporativos- han analizado las claves que influyen en la adopci\u00f3n de comportamientos discriminatorios por parte de la IA, definiendo las 5 posibles soluciones para afrontar este problema:<\/p>\n

1. Contar con equipos diversos<\/strong>. Una de las principales razones por las que la IA no reconoce rostros de personas no blancas, como sucede con el ejemplo de Joy Boulamnwini, es que la mayor\u00eda de los equipos que hacen algoritmos son mayoritariamente hombres blancos que inconscientemente crean los programas a partir de los par\u00e1metros que conocen sin darse cuenta de a qui\u00e9n dejan fuera. Para hacer algoritmos que no caigan en estos errores es necesario contar con un equipo diverso y multidisciplinar, que sepa manejar y programar la tecnolog\u00eda siendo consciente de incluir todo el entorno social. La clave, en este sentido, es que estos desarrolladores sean conscientes de que la tecnolog\u00eda que desarrollar\u00e1n no solo la van a usar personas que se parezcan a ellos f\u00edsica e intelectualmente. Lo que parece una obviedad, no es siempre tan sencillo de tener en cuenta.<\/p>\n

2. Uso de datos no sesgados para formar a la IA<\/strong>. Otro ejemplo muy sonado de discriminaci\u00f3n por parte de la Inteligencia Artificial se dio con Amazon, que hace unos a\u00f1os tuvo que retirar un software de reclutamiento de trabajadores por discriminar de sus ofertas en puestos t\u00e9cnicos a las mujeres. La raz\u00f3n de este comportamiento se deb\u00eda simplemente a que el sistema de IA aprendi\u00f3 de los perfiles de solicitantes de empleo en los \u00faltimos a\u00f1os, que eran predominantemente masculinos. Tambi\u00e9n es fundamental contar con una base de datos actualizada, representativa de todos los perfiles y que no est\u00e9 sesgada, pues de ella se alimentar\u00e1 y aprender\u00e1 la Inteligencia Artificial.<\/p>\n

3. Revisi\u00f3n peri\u00f3dica de los algoritmos<\/strong>. Al igual que es clave tener una base de datos actualizada y sin sesgos, tambi\u00e9n es muy importante monitorizar y analizar con cierta frecuencia la actividad de la IA para revisar que no est\u00e1 cayendo en posibles sesgos contra personas y\/o colectivos concretos. Es decir, es m\u00e1s beneficioso que las personas tengan un control sobre los algoritmos a que la tecnolog\u00eda se regule a s\u00ed misma.<\/p>\n

4. Mayor entendimiento de lo que implica la Inteligencia Artificial<\/strong>. Los principales expertos en IA consideran que el p\u00fablico general no tiene la suficiente confianza en esta tecnolog\u00eda, no solo por el efecto que pueden tener los sesgos en ella sino por el desconocimiento. Y es que las propias empresas y sus empleados no son realmente conscientes de sus beneficios y de sus riesgos. Por ello es clave revertir esta situaci\u00f3n, y con una mayor comprensi\u00f3n del funcionamiento de la Inteligencia Artificial entre los altos directivos se promover\u00e1 un mejor entendimiento de las ventajas, de c\u00f3mo aplicarla m\u00e1s efectiva y productivamente en el d\u00eda a d\u00eda, y las implicaciones morales de esta tecnolog\u00eda y c\u00f3mo aplicarla efectiva y productivamente en el d\u00eda a d\u00eda.<\/p>\n

5. Formaci\u00f3n en sesgos inconscientes<\/strong>. Los dise\u00f1adores, desarrolladores y programadores codifican la realidad que perciben para crear las soluciones de Inteligencia Artificial. Y si su perspectiva est\u00e1 fuertemente influenciada por sus propios sesgos inconscientes, la herramienta tambi\u00e9n estar\u00e1 sesgada. Esta situaci\u00f3n hace que la formaci\u00f3n y sensibilizaci\u00f3n en sesgos de estos trabajadores sea cada vez m\u00e1s necesaria. Solo podr\u00e1n desarrollar una IA confiable que no discrimine a nadie si son capaces de identificar y dominar sus sesgos inconscientes.<\/p>\n

En esta l\u00ednea, Sergio Jim\u00e9nez, CEO de Aiwin, argumenta que \u201cel desarrollo de productos y servicios digitales libres de sesgos y prejuicios se ha convertido en una prioridad para las empresas tecnol\u00f3gicas y digitales, y la formaci\u00f3n y sensibilizaci\u00f3n en este tema resulta urgente para evitar situaciones de discriminaci\u00f3n a trav\u00e9s de la tecnolog\u00eda. Para ayudar en ese camino, desde Aiwin hemos desarrollado SHE, una soluci\u00f3n de concienciaci\u00f3n y formaci\u00f3n en sesgos inconscientes en formato videojuego, con la que los empleados que desarrollan esos productos y servicios digitales pueden tomar consciencia de sus propios sesgos inconscientes y c\u00f3mo estos afectan en su d\u00eda a d\u00eda\u201d.<\/p>\n

Arriba, imagen cortes\u00eda de Aiwin<\/em><\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

Contar con un equipo diverso y multidisciplinar, alimentar a la IA con datos no sesgados y formar a los desarrolladores acerca del impacto de sus sesgos inconscientes, son algunas de las claves de Aiwin para construir algoritmos libres de discriminaci\u00f3n Desde smartphones hasta electrodom\u00e9sticos, pasando por buscadores o asistentes virtuales, son muchos los softwares y … <\/p>\n

Continue reading \u00abSesgo algor\u00edtmico: c\u00f3mo evitar que la Inteligencia Artificial adquiera los sesgos de las personas\u00bb<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":2666,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[9],"tags":[],"_links":{"self":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts\/2665"}],"collection":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=2665"}],"version-history":[{"count":1,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts\/2665\/revisions"}],"predecessor-version":[{"id":2667,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts\/2665\/revisions\/2667"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/media\/2666"}],"wp:attachment":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=2665"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=2665"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=2665"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}