A trav\u00e9s del sitio\u00a0futureoflife.org<\/em>, los firmantes piden que se establezcan sistemas de seguridad con nuevas autoridades reguladoras, t\u00e9cnicas que ayuden a distinguir entre lo real y lo artificial, instituciones capaces de hacer frente a la “dram\u00e1tica perturbaci\u00f3n econ\u00f3mica y pol\u00edtica (especialmente para la democracia) que causar\u00e1 la IA<\/strong>” y vigilancia de los sistemas que la conforman.<\/p>\n Incluso el creador del ChatGPT,\u00a0Sam Altman<\/strong>, expres\u00f3 que su empresa \u201cnecesita tiempo\u201d para adaptarse a la nueva tecnolog\u00eda y plante\u00f3 tener “un poco de miedo” por la “desinformaci\u00f3n a gran escala o ciberataques” que pueden generarse a partir de los experimentos con IA.<\/p>\n En el pedido firmado por expertos como\u00a0Elon Musk<\/strong>, due\u00f1o de Twitter y Space X, el cofundador de Apple, Steve Wozniak, miembros del laboratorio de AI DeepMind de Google, el director de Stability AI, Emad Mostaque, ingenieros ejecutivos de Microsoft y el historiador Yuval Noah Harari, entre otros, se pone la lupa en la capacidad de poder que puede tener la IA.<\/p>\n <\/p>\n “En los \u00faltimos meses hemos visto c\u00f3mo los laboratorios de IA se han lanzado a una carrera descontrolada para desarrollar y desplegar cerebros digitales cada vez m\u00e1s potentes que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera fiable”, expresan en un fragmento.<\/p>\n Tambi\u00e9n explicaron que ese tipo de sistemas \u201cdeben desarrollarse solo una vez que estemos seguros de que sus efectos ser\u00e1n positivos y sus riesgos ser\u00e1n manejables\u201d.<\/p>\n Adem\u00e1s de pedir que la pausa por varios meses sea \u201cp\u00fablica y verificable\u201d, refirieron que en otros momentos de la historia \u201cotras tecnolog\u00edas con efectos potencialmente catastr\u00f3ficos en la sociedad\u201d tambi\u00e9n frenaron su desarrollo.<\/p>\n Pausar experimentos gigantes de IA: una carta abierta<\/em><\/strong><\/p>\n Hacemos un llamado a todos los laboratorios de IA para que pausen inmediatamente durante al menos 6 meses el entrenamiento de los sistemas de IA m\u00e1s potentes que GPT-4.<\/em><\/p>\n Los sistemas de IA con inteligencia humana-competitiva pueden plantear riesgos profundos para la sociedad y la humanidad, como lo demuestra una extensa investigaci\u00f3n [1] y reconocido por los principales laboratorios de IA. [2] Como se establece en los Principios de IA de Asilomar ampliamente respaldados , la IA avanzada podr\u00eda representar un cambio profundo en la historia de la vida en la Tierra, y debe planificarse y administrarse con el cuidado y los recursos correspondientes.<\/em><\/p>\n Desafortunadamente, este nivel de planificaci\u00f3n y gesti\u00f3n no est\u00e1 ocurriendo, a pesar de que en los \u00faltimos meses los laboratorios de IA han entrado en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez m\u00e1s poderosas que nadie, ni siquiera sus creadores, pueden entender. predecir o controlar de forma fiable.<\/em><\/p>\n Los sistemas de IA contempor\u00e1neos ahora se est\u00e1n volviendo competitivos para los humanos en tareas generales, [3] y debemos preguntarnos: \u00bfDeber\u00edamos dejar que las m\u00e1quinas inunden nuestros canales de informaci\u00f3n con propaganda y falsedad? \u00bfDeber\u00edamos automatizar todos los trabajos, incluidos los de cumplimiento? \u00bfDeber\u00edamos desarrollar mentes no humanas que eventualmente podr\u00edan superarnos en n\u00famero, ser m\u00e1s inteligentes, obsoletas y reemplazarnos? \u00bf Deber\u00edamos arriesgarnos a perder el control de nuestra civilizaci\u00f3n? Tales decisiones no deben delegarse en l\u00edderes tecnol\u00f3gicos no elegidos.<\/em><\/p>\n <\/p>\n Los sistemas potentes de IA deben desarrollarse solo una vez que estemos seguros de que sus efectos ser\u00e1n positivos y sus riesgos ser\u00e1n manejables. Esta confianza debe estar bien justificada y aumentar con la magnitud de los efectos potenciales de un sistema. La declaraci\u00f3n reciente de OpenAI con respecto a la inteligencia general artificial establece que “en alg\u00fan momento, puede ser importante obtener una revisi\u00f3n independiente antes de comenzar a entrenar sistemas futuros, y para los esfuerzos m\u00e1s avanzados para acordar limitar la tasa de crecimiento de la computaci\u00f3n utilizada para crear nuevos modelos”. Estamos de acuerdo. Ese punto es ahora.<\/em><\/p>\n Por lo tanto, hacemos un llamado a todos los laboratorios de IA para que pausen de inmediato durante al menos 6 meses el entrenamiento de los sistemas de IA m\u00e1s potentes que GPT-4 . Esta pausa debe ser p\u00fablica y verificable, e incluir a todos los actores clave. Si tal pausa no se puede promulgar r\u00e1pidamente, los gobiernos deber\u00edan intervenir e instituir una moratoria.<\/em><\/p>\n Los laboratorios de IA y los expertos independientes deber\u00edan aprovechar esta pausa para desarrollar e implementar conjuntamente un conjunto de protocolos de seguridad compartidos para el dise\u00f1o y desarrollo avanzados de IA que son rigurosamente auditados y supervisados \u200b\u200bpor expertos externos independientes. Estos protocolos deben garantizar que los sistemas que se adhieren a ellos sean seguros m\u00e1s all\u00e1 de toda duda razonable. [4] Esto no significa una pausa en el desarrollo de la IA en general, simplemente un paso atr\u00e1s de la carrera peligrosa hacia modelos de caja negra impredecibles cada vez m\u00e1s grandes con capacidades emergentes.<\/em><\/p>\n La investigaci\u00f3n y el desarrollo de IA deben reenfocarse en hacer que los sistemas potentes y de \u00faltima generaci\u00f3n de hoy en d\u00eda sean m\u00e1s precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales.<\/em><\/p>\n Paralelamente, los desarrolladores de IA deben trabajar con los legisladores para acelerar dr\u00e1sticamente el desarrollo de sistemas s\u00f3lidos de gobierno de IA. Estos deben incluir como m\u00ednimo: autoridades reguladoras nuevas y capaces dedicadas a la IA; supervisi\u00f3n y seguimiento de sistemas de IA de alta capacidad y grandes conjuntos de capacidad computacional; sistemas de procedencia y marcas de agua para ayudar a distinguir las fugas reales de las sint\u00e9ticas y rastrear modelos; un s\u00f3lido ecosistema de auditor\u00eda y certificaci\u00f3n; responsabilidad por da\u00f1os causados \u200b\u200bpor IA; financiaci\u00f3n p\u00fablica s\u00f3lida para la investigaci\u00f3n t\u00e9cnica de seguridad de la IA; e instituciones bien dotadas para hacer frente a las dram\u00e1ticas perturbaciones econ\u00f3micas y pol\u00edticas (especialmente en la democracia) que provocar\u00e1 la IA.<\/em><\/p>\n La humanidad puede disfrutar de un futuro floreciente con la IA. Habiendo tenido \u00e9xito en la creaci\u00f3n de poderosos sistemas de IA, ahora podemos disfrutar de un “verano de IA” en el que cosechamos las recompensas, dise\u00f1amos estos sistemas para el claro beneficio de todos y le damos a la sociedad la oportunidad de adaptarse. La sociedad ha hecho una pausa en otras tecnolog\u00edas con efectos potencialmente catastr\u00f3ficos en la sociedad. [5] Podemos hacerlo aqu\u00ed. Disfrutemos de un largo verano de IA, no nos apresuremos a caer sin estar preparados.<\/em><\/p>\n","protected":false},"excerpt":{"rendered":" El creador del chat dijo tener “un poco de miedo” por la “desinformaci\u00f3n a gran escala o ciberataques” que pueden generarse a partir de los experimentos con IA. En medio del furor por el ChatGPT 4\u00a0y el poder de la inteligencia artificial alrededor del mundo un grupo de expertos de distintas ramas realiz\u00f3 un […]<\/p>\n","protected":false},"author":4,"featured_media":11679,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[140],"tags":[],"_links":{"self":[{"href":"https:\/\/fm22.com.ar\/index.php\/wp-json\/wp\/v2\/posts\/11678"}],"collection":[{"href":"https:\/\/fm22.com.ar\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/fm22.com.ar\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/fm22.com.ar\/index.php\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/fm22.com.ar\/index.php\/wp-json\/wp\/v2\/comments?post=11678"}],"version-history":[{"count":1,"href":"https:\/\/fm22.com.ar\/index.php\/wp-json\/wp\/v2\/posts\/11678\/revisions"}],"predecessor-version":[{"id":11682,"href":"https:\/\/fm22.com.ar\/index.php\/wp-json\/wp\/v2\/posts\/11678\/revisions\/11682"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/fm22.com.ar\/index.php\/wp-json\/wp\/v2\/media\/11679"}],"wp:attachment":[{"href":"https:\/\/fm22.com.ar\/index.php\/wp-json\/wp\/v2\/media?parent=11678"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/fm22.com.ar\/index.php\/wp-json\/wp\/v2\/categories?post=11678"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/fm22.com.ar\/index.php\/wp-json\/wp\/v2\/tags?post=11678"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}![\"\"](\"https:\/\/fm22.com.ar\/wp-content\/uploads\/2023\/04\/LB5WAFSGPBOBOMALRF5GUOPW6E-300x200.jpg\")
Qu\u00e9 dice la carta completa contra la inteligencia artificial<\/strong><\/h3>\n
![\"\"](\"https:\/\/fm22.com.ar\/wp-content\/uploads\/2023\/04\/128987093_gettyimages-1248236133-300x169.jpg\")
Las capacidades de GPT-4 est\u00e1n directamente relacionadas al lenguaje y a su esencia multimodal. Se espera que sea capaz de realizar con asombrosa precisi\u00f3n tareas como generaci\u00f3n de texto, res\u00famenes, traducci\u00f3n, respuestas a preguntas complejas y mucho m\u00e1s.<\/figcaption><\/figure>\n