{"id":7914,"date":"2022-07-05T13:03:03","date_gmt":"2022-07-05T12:03:03","guid":{"rendered":"https:\/\/telecomkh.info\/?p=7914"},"modified":"2022-07-05T13:03:03","modified_gmt":"2022-07-05T12:03:03","slug":"microsoft-impulsa-el-desarrollo-responsable-de-soluciones-de-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/telecomkh.info\/?p=7914","title":{"rendered":"Microsoft impulsa el desarrollo responsable de soluciones de Inteligencia Artificial"},"content":{"rendered":"

La compa\u00f1\u00eda propone una serie de recomendaciones para que los equipos que crean sistemas de Inteligencia Artificial desarrollen soluciones en las que los usuarios puedan confiar plenamente<\/strong><\/p>\n

Microsoft ha anunciado una evoluci\u00f3n de su marco de desarrollo responsable para soluciones de Inteligencia Artificial y ha compartido con la comunidad una serie de recomendaciones para impulsar la creaci\u00f3n de una Inteligencia Artificial (IA) comprometida, segura y equitativa: Est\u00e1ndar de IA Responsable.
\nSe trata de un marco de trabajo que sirve de gu\u00eda pr\u00e1ctica y espec\u00edfica para los equipos de desarrollo, que va m\u00e1s all\u00e1 de los principios generales que han dominado el panorama de la IA hasta la fecha y busca la creaci\u00f3n de soluciones de este tipo en las que los usuarios puedan confiar.
\nEn el transcurso de un a\u00f1o, un grupo multidisciplinario de investigadores, ingenieros y expertos en regulaci\u00f3n, elabor\u00f3 este Est\u00e1ndar de IA Responsable, que toma como base los primeros trabajos de la compa\u00f1\u00eda en este sentido. En esta gu\u00eda, Microsoft ha compartido lecciones aprendidas de sus propias experiencias e invita abiertamente a hacer comentarios y a contribuir al debate sobre la creaci\u00f3n de mejores normas y pr\u00e1cticas en torno a la IA.
\nLas soluciones de Inteligencia Artificial son el fruto de m\u00faltiples decisiones de quienes las desarrollan e implementan. Microsoft opta por guiar de manera proactiva todo este proceso, desde su concepci\u00f3n, hasta el modo en que la gente interact\u00faa con ella. Por tanto, es necesario mantener a las personas en el centro del dise\u00f1o de esta tecnolog\u00eda y respetar valores como la equidad, la confiabilidad, la seguridad, la privacidad, la inclusi\u00f3n, la transparencia y la responsabilidad.
\nEl Est\u00e1ndar de Microsoft incluye objetivos o resultados concretos que los equipos que desarrollan sistemas de IA deben esforzarse por conseguir. Cada uno de ellos requiere un conjunto de pasos que los profesionales deben seguir para garantizar su cumplimiento a lo largo de todo el ciclo de vida del sistema y, por \u00faltimo, se proporcionan herramientas y pr\u00e1cticas que facilitan su implementaci\u00f3n.
\nLa necesidad de este tipo de orientaci\u00f3n pr\u00e1ctica es cada vez mayor. Microsoft, como empresa tecnol\u00f3gica, reconoce su responsabilidad a la hora de actuar y trabajar para garantizar que los sistemas de IA sean responsables por dise\u00f1o.<\/p>\n

Equidad en la tecnolog\u00eda de voz a texto<\/strong>
\nEl potencial de los sistemas de IA para provocar sesgos y desigualdades sociales es uno de los riesgos que m\u00e1s frecuentemente se asocia a estas soluciones. En marzo de 2020, un estudio acad\u00e9mico revel\u00f3 que la tecnolog\u00eda de voz a texto en todo el sector de TI produc\u00eda tasas de error que eran casi el doble para los miembros de algunas comunidades negras y afroamericanas, en comparaci\u00f3n a las registradas para usuarios blancos.
\nPor ello, y tras lo aprendido, Microsoft comparte en su Est\u00e1ndar de IA Responsable su experiencia y el patr\u00f3n que sigui\u00f3 para mejorar su tecnolog\u00eda de voz a texto con el fin de mantener los principios de equidad y evitar este tipo de sesgos.<\/p>\n

Controles de uso apropiado para el reconocimiento facial y de voz sint\u00e9tica<\/strong>
\nCustom Neural Voice de Azure AI es una innovadora tecnolog\u00eda de voz de Microsoft que permite la creaci\u00f3n de una voz sint\u00e9tica que suena casi id\u00e9ntica a la fuente original y que ya ha sido empleada por compa\u00f1\u00edas como AT&T o Progressive. Esta tecnolog\u00eda tiene un enorme potencial en sectores como la educaci\u00f3n, la accesibilidad y el entretenimiento, pero tambi\u00e9n hay que tener en cuenta sus riesgos. Para paliarlos, Microsoft ha adoptado un marco de control en base a las experiencias y lo aprendido en este sentido y ha anunciado que aplicar\u00e1 controles similares en sus servicios de reconocimiento facial. La compa\u00f1\u00eda dejar\u00e1 de dar acceso a las APIs de detecci\u00f3n de emociones mediante la tecnolog\u00eda que puede escanear los rostros de las personas y sus estados emocionales, en funci\u00f3n de sus expresiones faciales y atributos de identidad como g\u00e9nero, edad, sonrisa, vello facial, cabello y maquillaje, o movimientos.
\nA partir de ahora, la detecci\u00f3n de estos atributos ya no estar\u00e1 disponible para nuevos clientes, que deben solicitar acceso para usar las capacidades de reconocimiento facial en Azure Face API, Computer Vision y Video Indexer. Aquellos que ya se encuentren suscritos, tendr\u00e1n un a\u00f1o -hasta el 30 de junio de 2023- para solicitar y recibir aprobaci\u00f3n para acceder a los servicios de reconocimiento facial.
\nCon este acceso limitado, Microsoft agrega una capa adicional de seguridad para garantizar que el uso de estos servicios se encuentre alineado con su Est\u00e1ndar de IA Responsable y contribuya a un beneficio social para el usuario final. Por ejemplo, estas capacidades pueden ser valiosas cuando se usan en escenarios de mejora de la accesibilidad. Por ello, Microsoft seguir\u00e1 dando soporte con esta tecnolog\u00eda a personas con discapacidades, integr\u00e1ndolas en aplicaciones como Seeing AI, muy \u00fatil para personas ciegas o con dificultades visuales, al integrar algoritmos de Inteligencia Artificial y procesamiento cognitivo para permitir al sistema \u201cver\u201d aquello que tiene delante, interpretarlo y describirlo mediante voz.<\/p>\n

Desarrollo responsable: mejorar el desempe\u00f1o para una IA inclusiva<\/strong>
\nMicrosoft proporciona orientaci\u00f3n y herramientas que capacitan a sus clientes para implementar esta tecnolog\u00eda de forma responsable. Los clientes de Azure Cognitive Services ahora pueden utilizar el paquete Fairlearn de c\u00f3digo abierto y el Fairness Dashboard de Microsoft para medir la imparcialidad de los algoritmos de verificaci\u00f3n facial de Microsoft en sus propios datos. De esta forma, pueden identificar y abordar posibles problemas de imparcialidad y sesgos antes de desplegar su tecnolog\u00eda.
\nAsimismo, Microsoft ha actualizado la documentaci\u00f3n de transparencia para ayudar a sus clientes a mejorar la precisi\u00f3n y equidad de sus sistemas, mediante la incorporaci\u00f3n de una revisi\u00f3n humana que ayude a detectar y resolver casos de identificaci\u00f3n err\u00f3nea u otros fallos.
\nAl trabajar con clientes que ya usaban su servicio Face, la compa\u00f1\u00eda tambi\u00e9n se dio cuenta de que algunos errores que originalmente se atribu\u00edan a problemas de imparcialidad se deb\u00edan a una mala calidad de imagen. Si la imagen que alguien env\u00eda es demasiado oscura o borrosa, es posible que el modelo no pueda igualarla correctamente y puede perjudicar, injustamente y de forma especial, a determinados grupos demogr\u00e1ficos.
\nPor ello, Microsoft ofrece a los clientes una nueva API de calidad de reconocimiento que indica problemas de iluminaci\u00f3n, desenfoque, oclusiones o \u00e1ngulo de la cabeza en im\u00e1genes enviadas para verificaci\u00f3n facial. La compa\u00f1\u00eda tambi\u00e9n proporciona una aplicaci\u00f3n de referencia que aporta sugerencias en tiempo real para ayudar a los usuarios a capturar im\u00e1genes de mayor calidad.<\/p>\n

Arriba, imagen cortes\u00eda de Microsoft<\/em><\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

La compa\u00f1\u00eda propone una serie de recomendaciones para que los equipos que crean sistemas de Inteligencia Artificial desarrollen soluciones en las que los usuarios puedan confiar plenamente Microsoft ha anunciado una evoluci\u00f3n de su marco de desarrollo responsable para soluciones de Inteligencia Artificial y ha compartido con la comunidad una serie de recomendaciones para impulsar … <\/p>\n

Continue reading \u00abMicrosoft impulsa el desarrollo responsable de soluciones de Inteligencia Artificial\u00bb<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":7915,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[9],"tags":[],"_links":{"self":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts\/7914"}],"collection":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=7914"}],"version-history":[{"count":1,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts\/7914\/revisions"}],"predecessor-version":[{"id":7916,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts\/7914\/revisions\/7916"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/media\/7915"}],"wp:attachment":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=7914"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=7914"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=7914"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}