{"id":132752,"date":"2023-03-29T11:33:03","date_gmt":"2023-03-29T18:33:03","guid":{"rendered":"https:\/\/www.feeling.com.mx\/site\/?p=132752"},"modified":"2023-03-29T11:33:03","modified_gmt":"2023-03-29T18:33:03","slug":"miedo-ante-el-desarrollo-de-la-ia-musk-y-varios-expertos-hablan-de-riesgos-potenciales-para-la-humanidad","status":"publish","type":"post","link":"https:\/\/www.feeling.com.mx\/site\/132752\/miedo-ante-el-desarrollo-de-la-ia-musk-y-varios-expertos-hablan-de-riesgos-potenciales-para-la-humanidad.html","title":{"rendered":"Miedo ante el desarrollo de la IA: Musk y varios expertos hablan de riesgos potenciales para la humanidad"},"content":{"rendered":"<p><a href=\"http:\/\/www.feeling.com.mx\/img\/2023\/01\/elon-musk-el-universal.jpeg\"><img loading=\"lazy\" src=\"http:\/\/www.feeling.com.mx\/img\/2023\/01\/elon-musk-el-universal.jpeg\" alt=\"Elon Musk - el universal\" class=\"aligncenter size-full wp-image-128197 img-responsive \" srcset=\"https:\/\/www.feeling.com.mx\/img\/2023\/01\/elon-musk-el-universal.jpeg 1200w, https:\/\/www.feeling.com.mx\/img\/2023\/01\/elon-musk-el-universal-511x315.jpeg 511w, https:\/\/www.feeling.com.mx\/img\/2023\/01\/elon-musk-el-universal-300x185.jpeg 300w, https:\/\/www.feeling.com.mx\/img\/2023\/01\/elon-musk-el-universal-1024x631.jpeg 1024w\" sizes=\"(max-width: 1200px) 100vw, 1200px\" \/><\/a><\/p>\n<p><strong>29 mar (Reuters) &#8211; Elon Musk y un grupo de expertos en inteligencia artificial y ejecutivos del sector piden una pausa de seis meses en el entrenamiento de sistemas m\u00e1s potentes que el reci\u00e9n lanzado modelo GPT-4 de OpenAI, seg\u00fan afirman en una carta abierta, en la que aluden a riesgos potenciales para la sociedad y la humanidad.<br \/>\n<\/strong><\/p>\n<p>La carta \u2014publicada por la organizaci\u00f3n sin \u00e1nimo de lucro Future of Life Institute y firmada por m\u00e1s de 1.000 personas, entre ellas Musk, el director ejecutivo de Stability AI, Emad Mostaque, investigadores de DeepMind, propiedad de Alphabet, as\u00ed como los pesos pesados de la IA Yoshua Bengio y Stuart Russell\u2014 pide una pausa en el desarrollo de inteligencia artificial (IA) avanzada hasta que se desarrollen y apliquen protocolos de seguridad compartidos para tales dise\u00f1os y auditados por expertos independientes.<\/p>\n<blockquote><p>\u00abLos potentes sistemas de IA solo deber\u00edan desarrollarse cuando estemos seguros de que sus efectos ser\u00e1n positivos y sus riesgos controlables\u00bb, afirma la carta.\n<\/p><\/blockquote>\n<p><strong>Una preocupaci\u00f3n cada vez m\u00e1s extendida<br \/>\n<\/strong><\/p>\n<p>La carta tambi\u00e9n detalla los riesgos potenciales para la sociedad y la civilizaci\u00f3n que presentan los sistemas de IA competitivos con humanos en forma de trastornos econ\u00f3micos y pol\u00edticos, y pide a los desarrolladores que colaboren con los responsables en materia de gobernanza y autoridades reguladoras.<\/p>\n<p>La carta llega despu\u00e9s de que Europol, la fuerza policial de la UE, se uniera el lunes a un coro de entidades que han expresado preocupaciones \u00e9ticas y legales sobre la IA avanzada como ChatGPT, y advierten sobre el posible uso indebido del sistema en intentos de \u00abphishing\u00bb, desinformaci\u00f3n y ciberdelincuencia. Musk, cuyo fabricante de autom\u00f3viles Tesla est\u00e1 utilizando la IA para un sistema de piloto autom\u00e1tico, ha manifestado abiertamente su preocupaci\u00f3n por esta tecnolog\u00eda.<\/p>\n<p>Desde su lanzamiento el a\u00f1o pasado, ChatGPT de OpenAI, respaldada por Microsoft, ha llevado a sus competidores a acelerar el desarrollo de grandes modelos ling\u00fc\u00edsticos similares y a las empresas a integrar modelos generativos de IA en sus productos.<\/p>\n<p>Sam Altman, director ejecutivo de OpenAI, no ha firmado la carta, seg\u00fan dijo a Reuters un portavoz de Future of Life. OpenAI no respondi\u00f3 inmediatamente a una petici\u00f3n de comentarios enviada por Reuters.<\/p>\n<p>\u00abLa carta no es perfecta, pero la intenci\u00f3n es la correcta: tenemos que frenar hasta que entendamos mejor las ramificaciones\u00bb, dijo Gary Marcus, un profesor em\u00e9rito de la Universidad de Nueva York que firm\u00f3 la carta.<\/p>\n<blockquote><p>\u00abPueden causar graves da\u00f1os&#8230; los grandes actores son cada vez m\u00e1s reservados sobre lo que hacen, lo que dificulta que la sociedad se defienda contra cualquier da\u00f1o que pueda materializarse\u00bb, a\u00f1adi\u00f3.\n<\/p><\/blockquote>\n<p>Fuente: <a href=\"https:\/\/es-us.finanzas.yahoo.com\/noticias\/musk-expertos-piden-pausar-entrenamiento-074055258.html\" title=\"Ver en la fuente\" rel=\"noopener\" target=\"_blank\">Yahoo.com<\/a><\/p>\n<blockquote class=\"twitter-tweet\">\n<p lang=\"es\" dir=\"ltr\">Elon Musk y expertos piden pausar el desarrollo de modelos de IA m\u00e1s potentes que GPT-4 <a href=\"https:\/\/t.co\/ZEgQfymI5a\" target=\"_blank\">https:\/\/t.co\/ZEgQfymI5a<\/a><\/p>\n<p>&mdash; Ricardo G. Effio (@gomezeffio14) <a href=\"https:\/\/twitter.com\/gomezeffio14\/status\/1641140721179557901?ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener\">March 29, 2023<\/a><\/p><\/blockquote>\n<p> <script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<blockquote class=\"twitter-tweet\">\n<p lang=\"es\" dir=\"ltr\">Elon Musk se une a m\u00e1s de 1000 expertos que piden una pausa en el desarrollo avanzado de IA <a href=\"https:\/\/t.co\/B3taBDZcX2\" target=\"_blank\">https:\/\/t.co\/B3taBDZcX2<\/a> v\u00eda <a href=\"https:\/\/twitter.com\/EpochTimesEs?ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener\">@EpochTimesEs<\/a><\/p>\n<p>&mdash; Mar\u00eda Laura Claverie (@MLClaverie) <a href=\"https:\/\/twitter.com\/MLClaverie\/status\/1641139946529357832?ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener\">March 29, 2023<\/a><\/p><\/blockquote>\n<p> <script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n","protected":false},"excerpt":{"rendered":"<p>29 mar (Reuters) &#8211; Elon Musk y un grupo de expertos en inteligencia artificial y ejecutivos del sector piden una pausa de seis meses en el entrenamiento de sistemas m\u00e1s potentes que el reci\u00e9n lanzado modelo GPT-4 de OpenAI, seg\u00fan afirman en una carta abierta, en la que aluden a riesgos potenciales para la sociedad y la humanidad. La carta \u2014publicada por la organizaci\u00f3n sin \u00e1nimo de lucro Future of&#8230;<\/p>\n","protected":false},"author":13,"featured_media":128197,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[29,23],"tags":[39360,14881,8614,13394,38430,41790],"views":155,"_links":{"self":[{"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/posts\/132752"}],"collection":[{"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/users\/13"}],"replies":[{"embeddable":true,"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/comments?post=132752"}],"version-history":[{"count":0,"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/posts\/132752\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/media\/128197"}],"wp:attachment":[{"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/media?parent=132752"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/categories?post=132752"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/tags?post=132752"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}