{"id":18445,"date":"2024-09-09T15:10:20","date_gmt":"2024-09-09T14:10:20","guid":{"rendered":"https:\/\/telecomkh.info\/?p=18445"},"modified":"2024-09-09T15:10:20","modified_gmt":"2024-09-09T14:10:20","slug":"proteger-al-publico-de-los-contenidos-abusivos-generados-por-la-ia","status":"publish","type":"post","link":"https:\/\/telecomkh.info\/?p=18445","title":{"rendered":"Proteger al p\u00fablico de los contenidos abusivos generados por la IA"},"content":{"rendered":"

Los deepfakes generados por IA son realistas, f\u00e1ciles de hacer para casi cualquier persona y se utilizan cada vez m\u00e1s para actividades de fraude, abuso y manipulaci\u00f3n, especialmente para dirigirse a ni\u00f1os y personas mayores. Si bien el sector tecnol\u00f3gico y los grupos sin fines de lucro han tomado medidas recientes para abordar este problema, se ha hecho evidente que nuestras leyes tambi\u00e9n deben evolucionar para combatir el fraude de los deepfakes. En resumen, necesitamos nuevas leyes que ayuden a evitar que los malos actores utilicen deepfakes para estafar a las personas mayores o abusar de los ni\u00f1os<\/strong><\/p>\n

 <\/p>\n

Por Brad Smith, vicepresidente y presidente de Microsoft<\/em><\/span><\/p>\n

Los deepfakes generados por IA son realistas, f\u00e1ciles de hacer para casi cualquier persona y se utilizan cada vez m\u00e1s para actividades de fraude, abuso y manipulaci\u00f3n, especialmente para dirigirse a ni\u00f1os y personas mayores. Si bien el sector tecnol\u00f3gico y los grupos sin fines de lucro han tomado medidas recientes para abordar este problema, se ha hecho evidente que nuestras leyes tambi\u00e9n deben evolucionar para combatir el fraude de los deepfakes. En resumen, necesitamos nuevas leyes que ayuden a evitar que los malos actores utilicen deepfakes para estafar a las personas mayores o abusar de los ni\u00f1os.
\nAunque nosotros y otros nos hemos centrado, de forma correcta, en los deepfakes utilizados para interferir en las elecciones, el amplio papel que desempe\u00f1an en otros tipos de delitos y abusos necesita la misma atenci\u00f3n. Afortunadamente, los miembros del Congreso de EE. UU. han propuesto una serie de leyes que contribuir\u00edan en gran medida a abordar el problema, la Administraci\u00f3n se centra en el problema, grupos como AARP y NCMEC est\u00e1n profundamente involucrados en este tema, y la industria ha trabajado en conjunto y ha construido una base s\u00f3lida en \u00e1reas adyacentes que pueden aplicarse aqu\u00ed.<\/p>\n

\u2022 Una de las cosas m\u00e1s importantes que puede hacer EE. UU. es aprobar un estatuto integral de fraude de deepfakes para evitar que los ciberdelincuentes utilicen esta tecnolog\u00eda para robar a los estadounidenses de a pie.
\nNo tenemos todas las soluciones, ni son las perfectas, sin embargo, queremos contribuir y fomentar la acci\u00f3n. Por ello, hoy publicamos 42 p\u00e1ginas sobre lo que nos ha llevado a comprender el desaf\u00edo, as\u00ed como un conjunto completo de ideas, que incluyen el respaldo al arduo trabajo y las pol\u00edticas de otros. A continuaci\u00f3n se muestra el pr\u00f3logo que he escrito en lo que estamos publicando.
\n\u00abEl mayor riesgo no es que el mundo haga demasiado para resolver estos problemas. Es que el mundo har\u00e1 muy poco. Y no es que los gobiernos vayan a moverse demasiado r\u00e1pido. Es que ser\u00e1n demasiado lentos\u00bb.
\nCon esas frases concluye el libro del que fui coautor en 2019 titulado \u201cTools and Weapons\u201d \u2013\u201cHerramientas y armas\u201d-. Como sugiere el t\u00edtulo, el libro explora c\u00f3mo la innovaci\u00f3n tecnol\u00f3gica puede servir como una herramienta para el avance de la sociedad y, a la vez, ser un arma poderosa. En el panorama digital actual, que evoluciona r\u00e1pidamente, el auge de la inteligencia artificial (IA) presenta oportunidades sin precedentes y desaf\u00edos significativos. La IA est\u00e1 transformando las peque\u00f1as empresas, la educaci\u00f3n y la investigaci\u00f3n cient\u00edfica; est\u00e1 ayudando a los m\u00e9dicos e investigadores de la salud a diagnosticar y descubrir curas para enfermedades; y est\u00e1 potenciando la capacidad de los creadores para expresar nuevas ideas. Sin embargo, esta misma tecnolog\u00eda tambi\u00e9n est\u00e1 produciendo un aumento en el contenido abusivo generado por la IA, o como discutiremos en este art\u00edculo, contenido \u00absint\u00e9tico\u00bb abusivo.
\nCinco a\u00f1os despu\u00e9s, nos encontramos en un momento de la historia en el que cualquier persona con acceso a Internet puede utilizar herramientas de IA para crear una pieza muy realista de medios sint\u00e9ticos que puede utilizarse para enga\u00f1ar: un clon de la voz de un miembro de la familia, una imagen deepfake de un candidato pol\u00edtico, o incluso un documento gubernamental manipulado. La IA ha hecho que la manipulaci\u00f3n de medios sea significativamente m\u00e1s f\u00e1cil: m\u00e1s r\u00e1pida, m\u00e1s accesible y que no requiera de mucha habilidad para lograrlo. Con la misma rapidez con la que la tecnolog\u00eda de IA se ha convertido en una herramienta, tambi\u00e9n lo ha hecho en un arma. Cuando este documento se envi\u00f3 a imprenta, el gobierno de EE. UU. anunci\u00f3 que hab\u00eda interrumpido con \u00e9xito una operaci\u00f3n de desinformaci\u00f3n mejorada por IA y patrocinada por un estado-naci\u00f3n. El director del FBI, Christopher Wray, dijo en su declaraci\u00f3n: \u00abRusia ten\u00eda la intenci\u00f3n de utilizar esta granja de bots para difundir desinformaci\u00f3n extranjera generada por IA, ampliando su trabajo con la ayuda de la IA para socavar a nuestros socios en Ucrania e influir en las narrativas geopol\u00edticas favorables al gobierno ruso\u00bb. Aunque debemos felicitar a las fuerzas del orden p\u00fablico de los EE. UU. por trabajar de manera cooperativa y exitosa con una plataforma tecnol\u00f3gica para llevar a cabo esta operaci\u00f3n, tambi\u00e9n debemos reconocer que este tipo de trabajo solo acaba de comenzar.
\nEl prop\u00f3sito de este libro blanco es fomentar que se lleve a cabo una acci\u00f3n m\u00e1s r\u00e1pida contra el contenido abusivo generado por IA por parte de los responsables pol\u00edticos, los l\u00edderes de la sociedad civil y la industria tecnol\u00f3gica. A medida que navegamos por este complejo terreno, es imperativo que los sectores p\u00fablico y privado se unan para abordar este problema de frente. El gobierno desempe\u00f1a un papel crucial en el establecimiento de marcos regulatorios y pol\u00edticas que promuevan el desarrollo y el uso responsable de la IA. En todo el mundo, los gobiernos est\u00e1n tomando medidas para mejorar la seguridad online y abordar el contenido ilegal y da\u00f1ino.
\nEl sector privado tiene la responsabilidad de innovar e implementar defensas que eviten el uso indebido de la IA. Las empresas tecnol\u00f3gicas deben dar prioridad a las consideraciones \u00e9ticas en sus procesos de investigaci\u00f3n y desarrollo de IA. Al invertir en t\u00e9cnicas avanzadas de an\u00e1lisis, divulgaci\u00f3n y mitigaci\u00f3n, el sector privado puede desempe\u00f1ar un papel fundamental para frenar la creaci\u00f3n y difusi\u00f3n de contenidos nocivos generados por la IA, manteniendo as\u00ed la confianza en el ecosistema de la informaci\u00f3n.
\nLa sociedad civil desempe\u00f1a un papel importante a la hora de garantizar que tanto la regulaci\u00f3n gubernamental, como la acci\u00f3n voluntaria de la industria defiendan los derechos humanos fundamentales, como son la libertad de expresi\u00f3n y la privacidad. Al fomentar la transparencia y la rendici\u00f3n de cuentas, podemos generar confianza p\u00fablica en las tecnolog\u00edas de IA.
\nLas siguientes p\u00e1ginas hacen tres cosas espec\u00edficas: 1) ilustrar y analizar los da\u00f1os derivados del contenido abusivo generado por IA, 2) explicar cu\u00e1l es el enfoque de Microsoft y 3) ofrecer recomendaciones de pol\u00edticas para comenzar a combatir estos problemas. En \u00faltima instancia, abordar los desaf\u00edos que surgen del contenido abusivo generado por IA requiere un frente unido. Al aprovechar las fortalezas y la experiencia de los sectores p\u00fablico, privado y de las ONG, podemos crear un entorno digital m\u00e1s seguro y confiable para todos. Juntos, podemos liberar el poder de la IA para el bien, al tiempo que nos protegemos de sus peligros potenciales.<\/p>\n

La responsabilidad de Microsoft de combatir el contenido abusivo generado por IA<\/strong>
\nA principios de este a\u00f1o, esbozamos un enfoque integral para combatir el contenido abusivo generado por IA y proteger a las personas y las comunidades, basado en seis \u00e1reas:<\/p>\n

1. Una s\u00f3lida arquitectura de seguridad.
\n2. Procedencia de medios y marcas de agua duraderas.
\n3. Proteger nuestros servicios de contenido y conductas abusivas.
\n4. S\u00f3lida colaboraci\u00f3n entre la industria y con los gobiernos y la sociedad civil.
\n5. Legislaci\u00f3n actualizada para proteger a las personas del abuso de la tecnolog\u00eda.
\n6. Sensibilizaci\u00f3n y educaci\u00f3n p\u00fablica.<\/p>\n

Algo com\u00fan en estas seis cuestiones es nuestra responsabilidad de ayudar a abordar el uso abusivo de la tecnolog\u00eda. Creemos que es imperativo que el sector tecnol\u00f3gico contin\u00fae tomando medidas proactivas para abordar los da\u00f1os que estamos viendo en todos los servicios y plataformas. Hemos tomado medidas concretas, entre ellas:
\n\u2022 Implementaci\u00f3n de una arquitectura de seguridad que incluya an\u00e1lisis de \u201cred team\u201d, clasificadores de prevenci\u00f3n, bloqueo de avisos abusivos, pruebas automatizadas y prohibiciones r\u00e1pidas de usuarios que abusan del sistema.
\n\u2022 Adjuntar autom\u00e1ticamente metadatos de procedencia a im\u00e1genes generadas con el modelo DALL-E 3 de OpenAI en Azure OpenAI Service, Microsoft Designer y Microsoft Paint.
\n\u2022 Desarrollar est\u00e1ndares para la procedencia y autenticaci\u00f3n del contenido a trav\u00e9s de la Coalici\u00f3n para la Procedencia y Autenticidad del Contenido (C2PA) e implementar el est\u00e1ndar C2PA para que el contenido que lleva la tecnolog\u00eda se etiquete autom\u00e1ticamente en LinkedIn.
\n\u2022 Tomar medidas continuas para proteger a los usuarios de los da\u00f1os online, incluso uni\u00e9ndose al programa Lantern de Tech Coalition y ampliando la disponibilidad de PhotoDNA.
\n\u2022 Lanzamiento de nuevas herramientas de detecci\u00f3n como Azure Operator Call Protection para que nuestros clientes detecten posibles estafas telef\u00f3nicas mediante IA.
\n\u2022 Cumplir nuestros compromisos con el nuevo Acuerdo Tecnol\u00f3gico -Tech Accord- para combatir el uso enga\u00f1oso de la IA en las elecciones.<\/p>\n

Proteger a los estadounidenses a trav\u00e9s de nuevas medidas legislativas y pol\u00edticas<\/strong>
\nEn febrero de este a\u00f1o, Microsoft y LinkedIn se unieron a otras empresas tecnol\u00f3gicas para lanzar el Acuerdo Tecnol\u00f3gico para Combatir el Uso Enga\u00f1oso de la IA en las Elecciones de 2024 en la Conferencia de Seguridad de M\u00fanich. El Acuerdo insta a la acci\u00f3n en tres pilares clave que utilizamos para inspirar el trabajo adicional que se encuentra en este documento t\u00e9cnico: abordar la creaci\u00f3n de deepfakes, detectar y responder ellos, y promover la transparencia y la resiliencia.
\nAdem\u00e1s de combatir los deepfakes de IA en nuestras elecciones, es importante que los legisladores y los responsables pol\u00edticos tomen medidas para ampliar nuestras capacidades colectivas para (1) promover la autenticidad del contenido, (2) detectar y responder a los deepfakes abusivos, y (3) dar al p\u00fablico las herramientas para aprender sobre los da\u00f1os sint\u00e9ticos de la IA. Hemos identificado nuevas recomendaciones de pol\u00edticas para los responsables de la formulaci\u00f3n de pol\u00edticas en los EE. UU. Al pensar en estas ideas complejas, tambi\u00e9n debemos recordar pensar en este trabajo en t\u00e9rminos sencillos. Estas recomendaciones tienen como objetivo:<\/p>\n

\u2022 Proteger nuestras elecciones.
\n\u2022 Proteger a las personas mayores y a los consumidores del fraude online.
\n\u2022 Proteger a las mujeres y los ni\u00f1os de la explotaci\u00f3n en la red.
\nEn ese sentido, vale la pena mencionar tres ideas que pueden tener un impacto descomunal en la lucha contra el contenido enga\u00f1oso y abusivo generado por IA.
\n\u2022 En primer lugar, el Congreso deber\u00eda promulgar un nuevo \u00abestatuto federal de fraude de deepfakes\u00ab. Necesitamos dar a los funcionarios encargados de hacer cumplir la ley, incluidos los fiscales generales de los estados, un marco legal independiente para enjuiciar el fraude y las estafas generadas por IA a medida que proliferan en velocidad y complejidad.
\n\u2022 En segundo lugar, el Congreso deber\u00eda exigir a los proveedores de sistemas de IA que utilicen herramientas de procedencia de \u00faltima generaci\u00f3n para etiquetar el contenido sint\u00e9tico. Esto es esencial para generar confianza en el ecosistema de la informaci\u00f3n y ayudar\u00e1 al p\u00fablico a comprender mejor si el contenido es generado o est\u00e1 manipulado por IA.
\n\u2022 En tercer lugar, debemos asegurarnos de que nuestras leyes federales y estatales sobre la explotaci\u00f3n y el abuso sexual infantil y las im\u00e1genes \u00edntimas no consentidas se actualicen para incluir contenido generado por IA. Las sanciones por la creaci\u00f3n y distribuci\u00f3n de CSAM -contenido de abuso sexual infantil- y NCII -im\u00e1genes \u00edntimas sin consentimiento- (ya sean sint\u00e9ticos o no) son de sentido com\u00fan y muy necesarias si queremos mitigar las acciones de los malos actores que utilizan herramientas de IA para la explotaci\u00f3n sexual, especialmente cuando las v\u00edctimas suelen ser mujeres y ni\u00f1os.<\/p>\n

No se trata necesariamente de ideas nuevas. La buena noticia es que algunas de ellas, de una forma u otra, ya est\u00e1n empezando a echar ra\u00edces en el Congreso y las legislaturas estatales. Destacamos piezas espec\u00edficas de legislaci\u00f3n que se ajustan a nuestras recomendaciones en este documento, y alentamos su pronta consideraci\u00f3n por parte de nuestros funcionarios electos estatales y federales.
\nMicrosoft ofrece estas recomendaciones para contribuir al tan necesario di\u00e1logo sobre los da\u00f1os de los medios sint\u00e9ticos de la IA. La puesta en pr\u00e1ctica de cualquiera de estas propuestas requerir\u00e1 fundamentalmente un enfoque por parte de toda la sociedad. Si bien es imperativo que la industria tecnol\u00f3gica tenga un papel aqu\u00ed, debe hacerlo con humildad y para promover la acci\u00f3n. Microsoft da la bienvenida a ideas adicionales de las partes interesadas en todo el ecosistema digital para abordar los da\u00f1os del contenido sint\u00e9tico. En \u00faltima instancia, el peligro no es que nos movamos demasiado r\u00e1pido, sino que nos movemos demasiado lento o no lo hacemos en absoluto.<\/p>\n

Arriba, en la foto,<\/em> Brad Smith, vicepresidente y presidente de Microsoft<\/em><\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

Los deepfakes generados por IA son realistas, f\u00e1ciles de hacer para casi cualquier persona y se utilizan cada vez m\u00e1s para actividades de fraude, abuso y manipulaci\u00f3n, especialmente para dirigirse a ni\u00f1os y personas mayores. Si bien el sector tecnol\u00f3gico y los grupos sin fines de lucro han tomado medidas recientes para abordar este problema, … <\/p>\n

Continue reading \u00abProteger al p\u00fablico de los contenidos abusivos generados por la IA\u00bb<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":18446,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[15,9],"tags":[],"_links":{"self":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts\/18445"}],"collection":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=18445"}],"version-history":[{"count":1,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts\/18445\/revisions"}],"predecessor-version":[{"id":18447,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts\/18445\/revisions\/18447"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/media\/18446"}],"wp:attachment":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=18445"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=18445"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=18445"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}