![\"\"](\"https:\/\/zidrave.net\/wp-content\/uploads\/2024\/09\/image-1-1024x576.png\")
<\/figure>\n\n\n\nEl lanzamiento de ChatGPT y una serie de servicios similares que pueden crear texto e im\u00e1genes a pedido han demostrado que la IA est\u00e1 avanzando de manera poderosa. La carrera por comercializar la tecnolog\u00eda la ha llevado r\u00e1pidamente de los m\u00e1rgenes de la ciencia a los tel\u00e9fonos inteligentes, los autom\u00f3viles y las aulas, y los gobiernos, desde Washington hasta Pek\u00edn, se han visto obligados a encontrar la manera de regularla y aprovecharla.<\/p>\n\n\n\n
En una declaraci\u00f3n del lunes, un grupo de influyentes cient\u00edficos de inteligencia artificial expres\u00f3 su preocupaci\u00f3n por la posibilidad de que la tecnolog\u00eda que ayudaron a crear pudiera causar graves da\u00f1os. Advirtieron que la tecnolog\u00eda de inteligencia artificial podr\u00eda, en cuesti\u00f3n de a\u00f1os, superar las capacidades de sus creadores y que \u201cla p\u00e9rdida del control humano o el uso malintencionado de estos sistemas de inteligencia artificial podr\u00edan conducir a resultados catastr\u00f3ficos para toda la humanidad\u201d.<\/p>\n\n\n\n
Si los sistemas de IA en cualquier parte del mundo desarrollaran hoy estas capacidades, no hay ning\u00fan plan sobre c\u00f3mo controlarlas, dijo Gillian Hadfield, jurista y profesora de inform\u00e1tica y gobierno en la Universidad Johns Hopkins.<\/p>\n\n\n\n
\u201cSi sucediera alg\u00fan tipo de cat\u00e1strofe dentro de seis meses y detect\u00e1ramos que hay modelos que est\u00e1n empezando a mejorar de manera aut\u00f3noma, \u00bfa qui\u00e9n llamar\u00edamos?\u201d, dijo Hadfield.<\/p>\n\n\n\n
Del 5 al 8 de septiembre, el Dr. Hadfield se reuni\u00f3 con cient\u00edficos de todo el mundo en Venecia para hablar sobre dicho plan. Fue la tercera reuni\u00f3n de los Di\u00e1logos internacionales sobre seguridad de la IA, organizados por el Safe AI Forum, un proyecto de un grupo de investigaci\u00f3n sin fines de lucro en los Estados Unidos llamado Far.AI.<\/p>\n\n\n\n
Los gobiernos necesitan saber qu\u00e9 est\u00e1 pasando en los laboratorios de investigaci\u00f3n y las empresas que trabajan en sistemas de IA en sus pa\u00edses, afirm\u00f3 el grupo en su declaraci\u00f3n. Y necesitan una forma de comunicar sobre los riesgos potenciales que no requiera que las empresas o los investigadores compartan informaci\u00f3n confidencial con los competidores.<\/p>\n\n\n\n
El grupo propuso que los pa\u00edses establezcan autoridades de seguridad de la IA para registrar los sistemas de IA dentro de sus fronteras. Esas autoridades trabajar\u00edan juntas para acordar un conjunto de l\u00edneas rojas y se\u00f1ales de advertencia, como por ejemplo si un sistema de IA podr\u00eda copiarse a s\u00ed mismo o enga\u00f1ar intencionalmente a sus creadores. Todo esto estar\u00eda coordinado por un organismo internacional.<\/p>\n\n\n\n
Cient\u00edficos de Estados Unidos, China, Gran Breta\u00f1a, Singapur, Canad\u00e1 y otros lugares firmaron la declaraci\u00f3n.<\/p>\n\n\n\n
Entre los firmantes se encontraba Yoshua Bengio, cuyo trabajo se cita con tanta frecuencia que se le considera uno de los padrinos de este campo. Tambi\u00e9n estaba Andrew Yao, cuyo curso en la Universidad Tsinghua de Pek\u00edn ha formado a los fundadores de muchas de las principales empresas tecnol\u00f3gicas de China. Geoffrey Hinton , un cient\u00edfico pionero que pas\u00f3 una d\u00e9cada en Google, particip\u00f3 de forma remota. Los tres son ganadores del Premio Turing , el equivalente al Premio Nobel de la inform\u00e1tica.<\/p>\n\n\n\n
El grupo tambi\u00e9n incluy\u00f3 a cient\u00edficos de varias de las principales instituciones de investigaci\u00f3n en inteligencia artificial de China, algunas de las cuales est\u00e1n financiadas por el Estado y asesoran al gobierno. Algunos ex funcionarios del gobierno se unieron, entre ellos Fu Ying, que hab\u00eda sido funcionaria y diplom\u00e1tica del Ministerio de Asuntos Exteriores chino, y Mary Robinson, ex presidenta de Irlanda. A principios de este a\u00f1o, el grupo se reuni\u00f3 en Pek\u00edn, donde informaron a altos funcionarios del gobierno chino sobre su discusi\u00f3n.<\/p>\n\n\n\n
La \u00faltima reuni\u00f3n en Venecia tuvo lugar en un edificio propiedad del fil\u00e1ntropo multimillonario Nicolas Berggruen. La presidenta del instituto de investigaci\u00f3n Berggruen, Dawn Nakagawa, particip\u00f3 en la reuni\u00f3n y firm\u00f3 la declaraci\u00f3n publicada el lunes.<\/p>\n\n\n\n
Las reuniones son un espacio poco com\u00fan para el di\u00e1logo entre cient\u00edficos chinos y occidentales en un momento en que Estados Unidos y China est\u00e1n enfrascados en una tensa competencia por la primac\u00eda tecnol\u00f3gica.<\/p>\n\n\n\n
En los \u00faltimos meses, las empresas chinas han presentado tecnolog\u00eda que rivaliza con los principales sistemas de inteligencia artificial estadounidenses.<\/p>\n\n\n\n
Los funcionarios gubernamentales de China y Estados Unidos han hecho de la inteligencia artificial una prioridad durante el \u00faltimo a\u00f1o. En julio, un c\u00f3nclave del Partido Comunista Chino que se lleva a cabo cada cinco a\u00f1os pidi\u00f3 un sistema para regular la seguridad de la IA. La semana pasada, un influyente grupo de est\u00e1ndares t\u00e9cnicos de China public\u00f3 un marco de seguridad de la IA .<\/p>\n\n\n\n
En octubre pasado, el presidente Biden firm\u00f3 una orden ejecutiva que requer\u00eda que las empresas informaran al gobierno federal sobre los riesgos que sus sistemas de IA podr\u00edan representar, como su capacidad para crear armas de destrucci\u00f3n masiva o su potencial uso por terroristas.<\/p>\n\n\n\n
El presidente Biden y el l\u00edder chino, Xi Jinping, acordaron, cuando se reunieron el a\u00f1o pasado, que los funcionarios de ambos pa\u00edses deb\u00edan mantener conversaciones sobre la seguridad de la IA. La primera tuvo lugar en Ginebra en mayo.<\/p>\n\n\n\n
En una iniciativa gubernamental m\u00e1s amplia, representantes de 28 pa\u00edses firmaron una declaraci\u00f3n en Gran Breta\u00f1a en noviembre pasado, acordando cooperar en la evaluaci\u00f3n de los riesgos de la inteligencia artificial. Se reunieron nuevamente en Se\u00fal en mayo. Pero estas reuniones no llegaron a establecer objetivos de pol\u00edticas espec\u00edficos.<\/p>\n\n\n\n
La desconfianza entre Estados Unidos y China aumenta la dificultad de lograr un alineamiento.<\/p>\n\n\n\n
\u201cAmbos pa\u00edses desconf\u00edan enormemente de las intenciones del otro\u201d, dijo Matt Sheehan, miembro del Carnegie Endowment for International Peace, que no particip\u00f3 en el di\u00e1logo. \u201cLes preocupa que si frenan por cuestiones de seguridad, eso permitir\u00e1 que el otro avance a toda velocidad\u201d, dijo Sheehan. \u201cEsa sospecha simplemente se va a arraigar\u201d.<\/p>\n\n\n\n
Los cient\u00edficos que se reunieron en Venecia este mes dijeron que sus conversaciones eran importantes porque el intercambio cient\u00edfico se est\u00e1 reduciendo en medio de la competencia entre las dos superpotencias geopol\u00edticas.<\/p>\n\n\n\n
En una entrevista, el Dr. Bengio, uno de los miembros fundadores del grupo, cit\u00f3 conversaciones entre cient\u00edficos estadounidenses y sovi\u00e9ticos en el apogeo de la Guerra Fr\u00eda que ayudaron a coordinar la acci\u00f3n para evitar una cat\u00e1strofe nuclear. En ambos casos, los cient\u00edficos involucrados sintieron la obligaci\u00f3n de ayudar a cerrar la caja de Pandora abierta con sus investigaciones.<\/p>\n\n\n\n
La tecnolog\u00eda est\u00e1 cambiando tan r\u00e1pidamente que es dif\u00edcil para las empresas individuales y los gobiernos decidir c\u00f3mo abordarla, y la colaboraci\u00f3n es crucial, dijo Fu Hongyu, director de gobernanza de IA en el instituto de investigaci\u00f3n de Alibaba, AliResearch, quien no particip\u00f3 en el di\u00e1logo.<\/p>\n\n\n\n
\u201cNo se trata de regular una tecnolog\u00eda madura\u201d, dijo Fu. \u201cNadie sabe c\u00f3mo ser\u00e1 el futuro de la IA\u201d.<\/p>\n","protected":false},"excerpt":{"rendered":"
Cient\u00edficos de Estados Unidos, China y otras naciones pidieron una<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"ngg_post_thumbnail":0,"footnotes":""},"categories":[2411],"tags":[6132,6120,6129,6130,6134,3878,6126,6131,6125,6119,1002,6127,6123,6118,6128,6133,6122,6124,6121,5371],"class_list":["post-2485","post","type-post","status-publish","format-standard","hentry","category-inteligencia-artificial","tag-ai-governance","tag-amenazas-ia","tag-consecuencias-ia","tag-control-ia","tag-debates-ia","tag-desarrollo-ia","tag-etica-ia","tag-expertos-ia","tag-futuros-inciertos","tag-impacto-global-ia","tag-inteligencia-artificial-avanzada","tag-lideres-tecnologia","tag-pioneros-ia","tag-proteccion-ia","tag-regulacion-ia","tag-responsabilidad-tecnologica","tag-riesgos-catastroficos","tag-riesgos-ia","tag-seguridad-ia","tag-tecnologia-ia-2"],"_links":{"self":[{"href":"https:\/\/zidrave.net\/index.php\/wp-json\/wp\/v2\/posts\/2485","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/zidrave.net\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/zidrave.net\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/zidrave.net\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/zidrave.net\/index.php\/wp-json\/wp\/v2\/comments?post=2485"}],"version-history":[{"count":1,"href":"https:\/\/zidrave.net\/index.php\/wp-json\/wp\/v2\/posts\/2485\/revisions"}],"predecessor-version":[{"id":2486,"href":"https:\/\/zidrave.net\/index.php\/wp-json\/wp\/v2\/posts\/2485\/revisions\/2486"}],"wp:attachment":[{"href":"https:\/\/zidrave.net\/index.php\/wp-json\/wp\/v2\/media?parent=2485"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/zidrave.net\/index.php\/wp-json\/wp\/v2\/categories?post=2485"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/zidrave.net\/index.php\/wp-json\/wp\/v2\/tags?post=2485"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}