{"id":15993,"date":"2024-03-13T16:53:08","date_gmt":"2024-03-13T15:53:08","guid":{"rendered":"https:\/\/telecomkh.info\/?p=15993"},"modified":"2024-03-13T16:53:08","modified_gmt":"2024-03-13T15:53:08","slug":"investigacion-de-mozilla-las-marcas-de-agua-y-las-etiquetas-de-contenido-no-consiguen-identificar-de-forma-eficaz-el-contenido-generado-por-ia","status":"publish","type":"post","link":"https:\/\/telecomkh.info\/?p=15993","title":{"rendered":"Investigaci\u00f3n de Mozilla: Las marcas de agua y las etiquetas de contenido no consiguen identificar de forma eficaz el contenido generado por IA"},"content":{"rendered":"

Los m\u00e9todos populares empleados para revelar contenido sint\u00e9tico obtienen resultados de tan solo \u00abBajo\u00bb o \u00abSuficiente\u00bb en el an\u00e1lisis de Mozilla. Persisten deficiencias en el contexto de un a\u00f1o, 2024, en que se celebrar\u00e1 un m\u00e1ximo hist\u00f3rico de elecciones<\/strong><\/p>\n

 <\/p>\n

Por Mozilla<\/em><\/span><\/p>\n

A medida que el contenido generado por IA de presidentes y estrellas del pop se propaga por Internet, las formas m\u00e1s populares de detecci\u00f3n y divulgaci\u00f3n presentan un rendimiento \u00abBajo\u00bb o, en el mejor de los casos, \u00abSuficiente\u00bb, seg\u00fan un nuevo an\u00e1lisis de Mozilla.
\nLa investigaci\u00f3n, \u00abIn Transparency We Trust? Evaluating the Effectiveness of Watermarking and Labeling AI-Generated Content\u00bb (\u00bfConfiar nuestra salvaci\u00f3n en la transparencia? Evaluaci\u00f3n de la eficacia de las marcas de agua y el etiquetado para el contenido generado por IA), constat\u00f3 que las estrategias y tecnolog\u00edas para ayudar a los usuarios de Internet a distinguir el contenido sint\u00e9tico, como las marcas de agua y el etiquetado, se enfrentan a desaf\u00edos importantes. Por medio de un control de adecuaci\u00f3n, los investigadores evaluaron siete m\u00e9todos diferentes legibles por m\u00e1quina y orientados al ser humano, ninguno de los cuales obtuvo un resultado de \u00abBueno\u00bb.
\nLa falta de protecciones efectivas es especialmente urgente, ya que m\u00e1s de la mitad de la poblaci\u00f3n mundial se prepara para votar en elecciones este a\u00f1o, incluidos los EE. UU., India, Rusia, Sud\u00e1frica y M\u00e9xico. Miles de millones de personas acudir\u00e1n a las urnas en el contexto de una proliferaci\u00f3n de chatbots de IA, generadores de texto e im\u00e1genes y plataformas de clonaci\u00f3n de voz de f\u00e1cil acceso. Estas herramientas y el contenido que producen ya est\u00e1n socavando la integridad de las elecciones en Argentina, Eslovaquia, India y otros lugares.
\nLa investigaci\u00f3n de Mozilla ofrece recomendaciones para fortalecer la detecci\u00f3n y la divulgaci\u00f3n. Por ejemplo, priorizar los m\u00e9todos legibles por m\u00e1quina acompa\u00f1ados por mecanismos de detecci\u00f3n fiables en el punto de distribuci\u00f3n. Adem\u00e1s, nuevos enfoques de gobernanza, como los espacios reglamentarios controlados centrados en el ser humano, permitir\u00edan a los responsables pol\u00edticos poner a prueba nuevas regulaciones para determinar su impacto.
\nEn palabras de Ramak Molavi Vasse’i, l\u00edder de investigaci\u00f3n de Mozilla en transparencia de la IA y coautora del informe: \u00abA la hora de identificar contenido sint\u00e9tico, estamos en un momento de \u00abvaso medio lleno, vaso medio vac\u00edo\u00bb. Las actuales tecnolog\u00edas de marca de agua y de etiquetado son prometedoras e ingeniosas, en especial cuando se usan de forma combinada. Sin embargo, no bastan para contrarrestar de manera eficaz los peligros del contenido sint\u00e9tico no divulgado, en particular de cara a docenas de elecciones en todo el mundo\u00bb.
\nMolavi Vasse’i a\u00f1ade: \u00abEmpresas como OpenAI han publicado normas para las elecciones con el fin de evitar un uso abusivo de sus productos, pero los requisitos voluntarios no bastan. Y aunque empresas como Meta han propuesto esfuerzos a escala sectorial para etiquetar el contenido generado por IA, resulta fundamental que las normas abiertas se elaboren con la participaci\u00f3n de todas las partes interesadas, en especial de los posibles afectados. Adem\u00e1s, se debe evitar que una coalici\u00f3n de agentes poderosos, como Meta, Google y Adobe, se erija en guardi\u00e1n de la integridad del contenido\u00bb.<\/p>\n

CONCLUSIONES PRINCIPALES<\/strong><\/p>\n

Los m\u00e9todos de divulgaci\u00f3n orientados al ser humano no resultan eficaces<\/strong>
\nLas etiquetas visibles y las advertencias audibles dependen en gran medida de la percepci\u00f3n del destinatario. Adem\u00e1s, son vulnerables frente a manipulaciones y pueden no prevenir o abordar con eficacia el da\u00f1o una vez se ha producido. Si bien estos m\u00e9todos tienen por objetivo informar, pueden conducir a una sobrecarga de informaci\u00f3n, aumentando la desconfianza p\u00fablica y la polarizaci\u00f3n social.
\nAdecuaci\u00f3n general: BAJA<\/em><\/p>\n

Los m\u00e9todos legibles por m\u00e1quina pueden ser eficaces cuando se combinan con mecanismos de detecci\u00f3n s\u00f3lidos<\/strong>
\nLas marcas de agua invisibles incrustadas durante la creaci\u00f3n y distribuci\u00f3n de contenido ofrecen una relativa seguridad frente a la manipulaci\u00f3n por parte de agentes malintencionados. A\u00fan as\u00ed, su efectividad general se ve comprometida sin herramientas de detecci\u00f3n fiables y neutras.
\nAdecuaci\u00f3n general: SUFICIENTE<\/em><\/p>\n

Necesidad de un enfoque de gobernanza hol\u00edstico<\/strong>
\nNi los m\u00e9todos orientados al ser humano ni los legibles por m\u00e1quina proporcionan por s\u00ed solos una soluci\u00f3n integral. Se debe adoptar un enfoque polifac\u00e9tico que combine medidas tecnol\u00f3gicas, regulatorias y educativas para mitigar de manera eficaz los da\u00f1os del contenido generado por IA no divulgado.<\/p>\n

DEFINICIONES<\/strong><\/p>\n

(M\u00e9todos legibles por m\u00e1quina)<\/em>
\nMarca de agua criptogr\u00e1fica<\/strong>: la informaci\u00f3n secreta se codifica en las funciones criptogr\u00e1ficas (o circuitos) del contenido, que en adelante solo se pueden detectar, eliminar o cambiar mediante un proceso de cifrado\/descifrado.
\nMarca de agua de componentes de frecuencia<\/strong>: el contenido se descompone en diferentes componentes de frecuencia y a continuaci\u00f3n se inserta una marca de agua en bandas de baja frecuencia que son menos vulnerables a ataques y alteraciones.
\nMarca de agua de metadatos<\/strong>: se incrusta una descripci\u00f3n de la informaci\u00f3n del autor, las marcas de tiempo, el historial de edici\u00f3n y el software utilizado en el contenido.
\nMarca de agua estad\u00edstica<\/strong>: la informaci\u00f3n se inserta en los patrones estad\u00edsticos de la estructura de datos del contenido. Por lo general, esto implica alterar p\u00edxeles, marcos de color, componentes de sonido u otros valores de una manera imperceptible.<\/p>\n

(M\u00e9todos orientados al ser humano)
\nEtiquetas de audio<\/strong>: elementos audibles colocados directamente sobre el contenido que revelan su origen.
\nDivulgaciones y descripciones<\/strong>: se utiliza la informaci\u00f3n escrita como pies, r\u00f3tulos, descripciones o etiquetas para informar a los usuarios sobre el contenido.
\nEtiquetas visuales<\/strong>: elementos escritos o gr\u00e1ficos, como etiquetas o iconos nutricionales, colocados directamente sobre el contenido para divulgar su origen.<\/p>\n

Arriba, imagen cortes\u00eda de Mozilla<\/em><\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

Los m\u00e9todos populares empleados para revelar contenido sint\u00e9tico obtienen resultados de tan solo \u00abBajo\u00bb o \u00abSuficiente\u00bb en el an\u00e1lisis de Mozilla. Persisten deficiencias en el contexto de un a\u00f1o, 2024, en que se celebrar\u00e1 un m\u00e1ximo hist\u00f3rico de elecciones   Por Mozilla A medida que el contenido generado por IA de presidentes y estrellas del … <\/p>\n

Continue reading \u00abInvestigaci\u00f3n de Mozilla: Las marcas de agua y las etiquetas de contenido no consiguen identificar de forma eficaz el contenido generado por IA\u00bb<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":15994,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[9],"tags":[],"_links":{"self":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts\/15993"}],"collection":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=15993"}],"version-history":[{"count":1,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts\/15993\/revisions"}],"predecessor-version":[{"id":15995,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts\/15993\/revisions\/15995"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/media\/15994"}],"wp:attachment":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=15993"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=15993"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=15993"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}