{"id":12896,"date":"2023-07-14T12:34:45","date_gmt":"2023-07-14T11:34:45","guid":{"rendered":"https:\/\/telecomkh.info\/?p=12896"},"modified":"2023-07-14T12:34:45","modified_gmt":"2023-07-14T11:34:45","slug":"2-de-cada-3-expertos-en-inteligencia-artificial-partidarios-de-una-regulacion-inmediata-para-el-desarrollo-de-los-grandes-modelos-de-lenguaje","status":"publish","type":"post","link":"https:\/\/telecomkh.info\/?p=12896","title":{"rendered":"2 de cada 3 expertos en Inteligencia Artificial, partidarios de una regulaci\u00f3n inmediata para el desarrollo de los grandes modelos de lenguaje"},"content":{"rendered":"

La IA generativa y los grandes modelos ling\u00fc\u00edsticos como GPT, BERT o T5 son tendencia clara, pero presentan importantes desaf\u00edos relacionados, en su mayor\u00eda, con la seguridad y el cumplimiento normativo<\/strong><\/p>\n

Dos de cada 3 expertos en Inteligencia Artificial (IA) son partidarios de una regulaci\u00f3n gubernamental inmediata para el desarrollo de los grandes modelos ling\u00fc\u00edsticos (LLM), si bien en su mayor\u00eda no consideran necesaria una moratoria para seguir desarrollando esta tecnolog\u00eda. As\u00ed lo refleja el \u00faltimo informe de expert.ai, multinacional l\u00edder en inteligencia artificial (IA) para la comprensi\u00f3n del lenguaje natural.
\nEl informe, titulado \u201cLarge Language Models: Opportunity, Risk and Paths Forward\u201d, muestra los resultados de una encuesta realizada el pasado mes de abril entre m\u00e1s de 300 expertos en IA de empresas, proveedores tecnol\u00f3gicos y personal acad\u00e9mico para identificar los riesgos asociados a la implantaci\u00f3n de los LLM en las compa\u00f1\u00edas en materia de sostenibilidad, responsabilidad social y gobernanza (ESG, por sus siglas en ingl\u00e9s)..
\n\u201cEn los \u00faltimos a\u00f1os, modelos LLM como GPT, BERT o T5 han demostrado capacidades inimaginables hasta ahora\u201d, explica Elisa Mart\u00ednez Frade, vicepresidenta de Ventas de expert.ai para Iberia y Latinoam\u00e9rica. \u201cSin embargo, tambi\u00e9n existen desaf\u00edos, muchos de ellos directamente relacionados con la gobernanza y el cumplimiento\u201d.
\nEn marzo de 2023, l\u00edderes de la industria, investigadores y otros expertos en IA firmaron una carta abierta en la que ped\u00edan una \u00abpausa\u00bb de seis meses en el desarrollo de IA a gran escala m\u00e1s all\u00e1 del GPT-4. argumentando que el uso de IA deber\u00eda ser \u00abtransparente, explicable y emp\u00edricamente s\u00f3lido, fomentando la responsabilidad\u00bb, y que GPT-4 \u00abno cumple ninguno de estos requisitos, ya que es parcial, enga\u00f1oso y un riesgo para la privacidad y la seguridad p\u00fablica\u00bb.
\nPreguntados sobre esto, m\u00e1s de la mitad de los participantes (52,2%) afirm\u00f3 que no es necesaria la moratoria de 6 meses en el desarrollo de los LLM, pero m\u00e1s del 70% est\u00e1n a favor de una regulaci\u00f3n gubernamental inmediata para lidiar con el uso malicioso de la IA generativa y promover su adopci\u00f3n en las organizaciones.<\/p>\n

Principales desaf\u00edos<\/strong>
\nEl informe de expert.ai incluye una pregunta espec\u00edfica en cuanto a los principales h\u00e1ndicaps y desaf\u00edos que se encuentran actualmente a la hora de explotar los LLM. Los encuestados consideran aspectos como la falta de veracidad, los sesgos en la interpretaci\u00f3n y el manejo de propiedad intelectual como los principales retos a los que se enfrentan a la hora de evolucionar.<\/p>\n

\u2022 La principal preocupaci\u00f3n entre los profesionales es la falta de veracidad (69,8%). Un buen ejemplo son las alucinaciones, proceso por el cual el LLM genera texto sin basarse en conocimientos o experiencias del mundo real, lo que le lleva a inventar o fabricar respuestas ficticias o imposibles.
\n\u2022 En segundo lugar, los encuestados se\u00f1alan que los modelos de IA generativa como GPT a menudo presentan una gran falta de precisi\u00f3n, e incluso pueden llegar a presentar como hechos informaciones falsas o sesgadas (67,3%). Forrester Research llama a esto \u201csinsentidos coherentes\u201d.
\n\u2022 Por detr\u00e1s se coloca la lucha contra las ciberamenazas (phishing, fraude, ingenier\u00eda social\u2026), factor se\u00f1alado por el 61,1% de los encuestados.
\n\u2022 Un 59,3% cit\u00f3 como riesgo el hecho de que muchos LLM est\u00e1n formados en base a grandes franjas de informaci\u00f3n protegida por derechos de autor, lo cual puede dar lugar a filtraciones.<\/p>\n

Otra de las cuestiones clave planteadas en la encuesta es la forma en que el uso de LLMs impactar\u00e1 en la pol\u00edtica de gobernanza de la organizaci\u00f3n, y c\u00f3mo debe trasladarse a los empleados por lo que respecta a su utilizaci\u00f3n. La respuesta mayoritaria entre los profesionales de la IA (38,8%) fue que se debe controlar su uso, pero aplicando un cierto grado adicional de libertad, mientras que un 24% indic\u00f3 que se deben implementar restricciones.<\/p>\n

Arriba, infograf\u00eda cortes\u00eda de expert.ai<\/em><\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

La IA generativa y los grandes modelos ling\u00fc\u00edsticos como GPT, BERT o T5 son tendencia clara, pero presentan importantes desaf\u00edos relacionados, en su mayor\u00eda, con la seguridad y el cumplimiento normativo Dos de cada 3 expertos en Inteligencia Artificial (IA) son partidarios de una regulaci\u00f3n gubernamental inmediata para el desarrollo de los grandes modelos ling\u00fc\u00edsticos … <\/p>\n

Continue reading \u00ab2 de cada 3 expertos en Inteligencia Artificial, partidarios de una regulaci\u00f3n inmediata para el desarrollo de los grandes modelos de lenguaje\u00bb<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":12897,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[9],"tags":[],"_links":{"self":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts\/12896"}],"collection":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=12896"}],"version-history":[{"count":1,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts\/12896\/revisions"}],"predecessor-version":[{"id":12898,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/posts\/12896\/revisions\/12898"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=\/wp\/v2\/media\/12897"}],"wp:attachment":[{"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=12896"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=12896"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/telecomkh.info\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=12896"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}