{"id":19341,"date":"2024-11-19T17:45:40","date_gmt":"2024-11-19T16:45:40","guid":{"rendered":"https:\/\/telecomkh.info\/?p=19341"},"modified":"2024-11-19T17:45:40","modified_gmt":"2024-11-19T16:45:40","slug":"4-claves-para-entender-la-ley-de-inteligencia-artificial-de-la-ue","status":"publish","type":"post","link":"https:\/\/telecomkh.info\/?p=19341","title":{"rendered":"4 claves para entender la Ley de Inteligencia Artificial de la UE"},"content":{"rendered":"

En la \u00faltima d\u00e9cada, la Inteligencia Artificial ha dejado de ser una promesa tecnol\u00f3gica para convertirse en una realidad tangible. Desde las plataformas de streaming con sus recomendaciones hasta asistentes virtuales y atenci\u00f3n al cliente, la IA est\u00e1 en todas partes. Sin embargo, su crecimiento y adopci\u00f3n masiva tambi\u00e9n ha planteado una serie de preocupaciones \u00e9ticas, sociales y de seguridad, jugando un papel fundamental las regulaciones<\/strong><\/p>\n

 <\/p>\n

Por Julio Campoy, Vice President Broad Markets de Appian en Iberia & Latam<\/em><\/span><\/p>\n

La reciente Ley de Inteligencia Artificial de la Uni\u00f3n Europea, aprobada en marzo de 2024, ha sido clave y abre un nuevo camino en torno a la creaci\u00f3n de los marcos regulatorios de esta herramienta para mitigar riesgos y garantizar un uso responsable de la IA. Adem\u00e1s de esta ley, tambi\u00e9n est\u00e1n surgiendo otras regulaciones importantes como la emitida a finales de 2023 por la Casa Blanca para regular el desarrollo de la IA. Tambi\u00e9n en abril de 2024 EE.UU. anunci\u00f3 la colaboraci\u00f3n con Reino Unido para probar la seguridad de los sistemas avanzados de IA.
\nComo vemos, este avance legislativo marca un antes y un despu\u00e9s en la manera en que las empresas deben abordar la IA en sus actividades. Y no s\u00f3lo para las organizaciones que operan dentro de la UE, sino que tambi\u00e9n esta ley europea se aplica a cualquier organizaci\u00f3n que tenga alg\u00fan impacto dentro de la UE, por lo que el cumplimiento de esta normativa no es opcional. La Ley establece una serie de directrices y controles que buscan proteger a los usuarios de los riesgos que una IA mal gestionada puede generar.
\nEn Appian apoyamos la introducci\u00f3n de normas m\u00e1s estrictas para la privacidad de los datos y la protecci\u00f3n de la propiedad intelectual y ofrecemos asesoramiento sobre la industria de la IA, especialmente en el contenido del dominio de las grandes tecnol\u00f3gicas en relaci\u00f3n con la regulaci\u00f3n de la IA y su uso liberal de los datos para entrenar modelos de IA. La Ley de IA de la UE no es un punto final, es un comienzo que indica que vendr\u00e1n m\u00e1s cambios. Puede hablar sobre c\u00f3mo est\u00e1 evolucionando la regulaci\u00f3n de la IA y sobre otras medidas, como la IA privada de propiedad empresarial, que marcar\u00e1n la pauta para el futuro de la IA segura.<\/p>\n

El papel de la ley frente a los riesgos de la IA<\/strong>
\nLa IA lleva muchos a\u00f1os utiliz\u00e1ndose de diferentes maneras. Sin embargo, en los \u00faltimos a\u00f1os, su crecimiento exponencial, impulsado adem\u00e1s por el auge de la IA generativa como ChatGPT, ha despertado una gran preocupaci\u00f3n por sus posibles riesgos. Algunos de los m\u00e1s evidentes que encontramos son la creaci\u00f3n de contenido falso o da\u00f1ino, las llamadas \u00abalucinaciones\u00bb, respuestas err\u00f3neas o incorrectas generadas por la IA, y la falta de transparencia, lo que dificulta entender c\u00f3mo y por qu\u00e9 la IA toma determinadas decisiones.
\nLa nueva Ley de IA de la UE aborda directamente estos problemas. Entre sus principales objetivos est\u00e1n la necesidad de transparencia, as\u00ed como la validaci\u00f3n y supervisi\u00f3n humana en los sistemas de alto riesgo, los cuales pueden tener un impacto profundo en \u00e1reas como el empleo, la justicia, la biometr\u00eda o las infraestructuras cr\u00edticas.<\/p>\n

La transparencia, validaci\u00f3n y supervisi\u00f3n humana: claves para la ley<\/strong>
\nComo he comentado, la transparencia es fundamental dentro de la nueva ley. Los usuarios deben estar plenamente informados cuando est\u00e1n interactuando con IA, ya sea en una aplicaci\u00f3n conversacional o en un sistema m\u00e1s complejo que afecte a su vida diaria, como una solicitud de pr\u00e9stamo o un proceso de contrataci\u00f3n. Esto no solo protege a los consumidores, sino que tambi\u00e9n genera confianza en la tecnolog\u00eda, lo cual es esencial para su adopci\u00f3n a largo plazo.
\nPor otro lado, tanto la validaci\u00f3n como supervisi\u00f3n humana son otros pilares clave de la regulaci\u00f3n. La ley establece que las decisiones cr\u00edticas no pueden ser tomadas de forma completamente aut\u00f3noma por IA, sino que deben estar sujetas a revisi\u00f3n y validaci\u00f3n humana, asegurando que los errores puedan ser evitados, lo que la ley pretende reducir. Los humanos deben estar al tanto de todo con un control adicional a los sistemas de IA. Si algo sale mal, est\u00e1n a tiempo de corregir los errores gracias a su criterio garantizando as\u00ed decisiones adecuadas.
\nEsta combinaci\u00f3n de IA y supervisi\u00f3n humana crea lo que denominamos \u00abautonom\u00eda mixta\u00bb, un concepto que ya hemos implementado con \u00e9xito en Appian para maximizar las fortalezas de ambos actores. Esto se debe a que la IA no tiene criterio humano. Puede proponer ideas, pero debe contar con supervisi\u00f3n humana, formando la IA parte de un equipo.<\/p>\n

Categor\u00edas de riesgo y requisitos normativos<\/strong>
\nLa Ley de IA clasifica los sistemas en cuatro categor\u00edas de riesgo: inaceptable, alto, limitado y m\u00ednimo. Aquellos que presentan riesgos inaceptables, como la manipulaci\u00f3n o puntuaci\u00f3n social basada en datos personales, est\u00e1n prohibidos. Por otro lado, los sistemas de alto riesgo, que incluyen desde dispositivos m\u00e9dicos hasta sistemas de reclutamiento, deben cumplir estrictos requisitos de evaluaci\u00f3n y validaci\u00f3n.
\nEn este contexto, las empresas deben estar preparadas para registrar sus sistemas, someterlos a auditor\u00edas de conformidad y garantizar que cumplen con los niveles exigidos de seguridad, precisi\u00f3n y supervisi\u00f3n humana. Un sistema de gesti\u00f3n de riesgos es imprescindible, as\u00ed como una gobernanza de datos que asegure que los conjuntos de datos utilizados para entrenar a las IA son representativos y no contienen sesgos.<\/p>\n

IA privada, segura y responsable<\/strong>
\nAppian lleva mucho tiempo presionando para que haya m\u00e1s control y regulaci\u00f3n en torno a la IA. Con ese fin, hemos creado nuestros sistemas utilizando una filosof\u00eda de IA segura y privada que permite a las organizaciones aprovechar los beneficios de la IA sin dejar de cumplir con las normativas.
\nLas regulaciones de IA tienen como objetivo crear una IA segura y responsable. Por ello, es fundamental utilizar servicios que prioricen una filosof\u00eda de IA privada lo que se traduce en no compartir los datos con terceros, permaneciendo dentro de los l\u00edmites del cumplimiento y seguridad. En Appian, incluso cuando utilizamos un modelo de terceros, toda la informaci\u00f3n permanece dentro de nuestros l\u00edmites y bajo la seguridad de la plataforma.
\nMuchos de los principales servicios de IA p\u00fablicos crean y refinan algoritmos de IA basados en datos de clientes. Esto ayuda a afinar los algoritmos y crear IA basadas en datos del mundo real, pero hay una desventaja obvia: no es posible saber c\u00f3mo se utilizar\u00e1n esos datos una vez incorporados a su modelo de IA. De esta manera, no se puede documentar a d\u00f3nde van estos datos o si habr\u00e1 sesgo o incluso m\u00e1s \u201calucinaciones\u201d. En nuestra plataforma, es posible crear modelos propios que no se usar\u00e1n para entrenar ning\u00fan otro modelo. Adem\u00e1s, gracias a nuestra estrecha colaboraci\u00f3n con Amazon Web Services (AWS) Bedrock, brindamos acceso a grandes modelos de lenguaje para proporcionar respuestas conversacionales. Esto significa que los datos permanecen siempre dentro del l\u00edmite de cumplimiento y nunca se utilizan para modificar o entrenar otro LLM, ofreciendo mayor tranquilidad.
\nPor \u00faltimo, es importante que los datos permanezcan bajo control en todo momento. Una buena plataforma de automatizaci\u00f3n de procesos garantiza que los datos nunca salgan del l\u00edmite de cumplimiento. Por ejemplo, la skill de creaci\u00f3n de indicaciones de IA de Appian permite agregar una indicaci\u00f3n de IA generativa a un proceso determinado y hacer que devuelva una respuesta espec\u00edfica con herramientas que permiten proteger la informaci\u00f3n. Este procesamiento se realiza siempre dentro de los l\u00edmites de cumplimiento de seguridad de Appian por lo que los datos nunca est\u00e1n en el exterior y siempre permanecen bajo control.
\nEn Appian hemos adoptado un enfoque empresarial de IA que prioriza la seguridad, la transparencia y la privacidad. Esto no solo nos permite cumplir con la normativa, sino que tambi\u00e9n genera confianza en nuestros clientes y usuarios. Al integrar IA en nuestros procesos mediante automatizaci\u00f3n y orquestaci\u00f3n, logramos incorporar supervisi\u00f3n humana de manera eficiente y efectiva, minimizando riesgos.<\/p>\n

Arriba, en la foto,<\/em> Julio Campoy, Vice President Broad Markets de Appian en Iberia & Latam<\/em><\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

En la \u00faltima d\u00e9cada, la Inteligencia Artificial ha dejado de ser una promesa tecnol\u00f3gica para convertirse en una realidad tangible. Desde las plataformas de streaming con sus recomendaciones hasta asistentes virtuales y atenci\u00f3n al cliente, la IA est\u00e1 en todas partes. Sin embargo, su crecimiento y adopci\u00f3n masiva tambi\u00e9n ha planteado una serie de preocupaciones … <\/p>\n

Continue reading \u00ab4 claves para entender la Ley de Inteligencia Artificial de la UE\u00bb<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":19342,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[15,9],"tags":[],"_links":{"self":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts\/19341"}],"collection":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=19341"}],"version-history":[{"count":1,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts\/19341\/revisions"}],"predecessor-version":[{"id":19343,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts\/19341\/revisions\/19343"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/media\/19342"}],"wp:attachment":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=19341"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=19341"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=19341"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}