{"id":132902,"date":"2023-03-31T12:07:56","date_gmt":"2023-03-31T19:07:56","guid":{"rendered":"https:\/\/www.feeling.com.mx\/site\/?p=132902"},"modified":"2023-03-31T12:07:56","modified_gmt":"2023-03-31T19:07:56","slug":"ceo-de-openai-responde-a-carta-de-elon-musk-sobre-riesgo-de-la-ia","status":"publish","type":"post","link":"https:\/\/www.feeling.com.mx\/site\/132902\/ceo-de-openai-responde-a-carta-de-elon-musk-sobre-riesgo-de-la-ia.html","title":{"rendered":"CEO de OpenAI responde a carta de Elon Musk sobre riesgo de la IA"},"content":{"rendered":"<p><a href=\"http:\/\/www.feeling.com.mx\/img\/2023\/03\/sam-altman-merca20.jpeg\"><img loading=\"lazy\" src=\"http:\/\/www.feeling.com.mx\/img\/2023\/03\/sam-altman-merca20.jpeg\" alt=\"Sam altman - merca2.0\" class=\"aligncenter size-full wp-image-132903 img-responsive \" srcset=\"https:\/\/www.feeling.com.mx\/img\/2023\/03\/sam-altman-merca20.jpeg 1600w, https:\/\/www.feeling.com.mx\/img\/2023\/03\/sam-altman-merca20-498x315.jpeg 498w, https:\/\/www.feeling.com.mx\/img\/2023\/03\/sam-altman-merca20-300x190.jpeg 300w, https:\/\/www.feeling.com.mx\/img\/2023\/03\/sam-altman-merca20-1024x648.jpeg 1024w\" sizes=\"(max-width: 1600px) 100vw, 1600px\" \/><\/a><\/p>\n<p><strong>El CEO de OpenAI no ha dejado pasar la oportunidad de dar su opini\u00f3n respecto a la petici\u00f3n para que la IA se ponga en pausa.<br \/>\n<\/strong><\/p>\n<p>El CEO de OpenAI, Sam Altman ha respondido con argumentos a la carta que tanto Elon Musk y cient\u00edficos, incluyendo a Steve Wozniak e ingenieros de Google y Microsoft, firmaron como petici\u00f3n en futureoflife.org para detener por 6 meses las investigaciones relacionadas con la inteligencia artificial ya que fue calificada como \u201cun gran riesgo para la humanidad\u201d.<\/p>\n<p><strong>Temor por la IA<br \/>\n<\/strong><\/p>\n<p>La carta, impulsada por Future of Life Institute, una organizaci\u00f3n creada para vigilar la forma en la que se desarrolla la tecnolog\u00eda, ha recibido m\u00e1s de 1.100 firmas.<\/p>\n<p>En la petici\u00f3n, los expertos se\u00f1alan: \u201cEn los \u00faltimos meses hemos visto la manera en que los laboratorios de IA se han lanzado a una carrera sin control para desarrollar y desplegar cerebros digitales cada vez con m\u00e1s potencia que nadie, ni sus propios creadores, consiguen entender, predecir ni controlar de forma fiable\u201d.<\/p>\n<p>Adem\u00e1s de Elon Musk, aparecen l\u00edderes como el del cofundador de Apple, Steve Wozniak, Jaan Tallin, cofundador de Skype, ingenieros de Meta o Microsoft entre otras grandes empresas del sector. No obstante, recientemente, un grupo de abogados de los Estados Unidos hizo una presentaci\u00f3n ante la FTC para que se detengan nuevos lanzamientos de GPT por parte de OpenAI, argumentando riesgos para la privacidad y seguridad p\u00fablica.<\/p>\n<p>El empresario Bill Gates tambi\u00e9n ha dado su opini\u00f3n respecto a la IA, y es que considera a ChatGPT como el mayor avance tecnol\u00f3gico en d\u00e9cadas, ya que se involucra en varios sectores relevantes de la vida actual. Incluso el mismo fundador de OpenAI ha declarado su temor por el avance de su propia IA.<\/p>\n<blockquote><p>\u201cTambi\u00e9n necesitamos tiempo suficiente para que nuestras instituciones decidan qu\u00e9 hacer. La regulaci\u00f3n ser\u00e1 cr\u00edtica y llevar\u00e1 tiempo resolverla; aunque las herramientas de IA de la generaci\u00f3n actual no dan mucho miedo, creo que potencialmente no estamos tan lejos de las que pueden dar miedo\u201d se\u00f1al\u00f3 el director de OpenAI.\n<\/p><\/blockquote>\n<p><strong>CEO de OpenAI responde a carta de Elon Musk sobre riesgo de la IA<br \/>\n<\/strong><\/p>\n<p>Es evidente que la IA est\u00e1 avanzando velozmente, y es que recientemente OpenAI decidi\u00f3 presentar su nueva inteligencia \u201cGPT-4\u201d que se destaca por tener un avance m\u00e1s desarrollado que ChatGPT. Este tipo de inteligencias han causado temor incluso en los altos directivos y ante la petici\u00f3n que Elon Musk y otros firmaron para que se detengan las investigaciones, Sam Altman, el CEO de OpenAI sali\u00f3 a dar su punto de vista, primero simplemente tuite\u00f3 \u201cTodo muy calmado en el ojo del hurac\u00e1n\u201d. Unas horas despu\u00e9s volvi\u00f3 a tuitear con m\u00e1s argumentos, dejando en claro tres principales elementos que necesitamos para hacer frente con seguridad un futuro en el que llegue a desarrollarse una IA potente.<\/p>\n<p><strong>Cosas que necesitamos para un buen futuro de AGI:<br \/>\n<\/strong><\/p>\n<p>1.- La capacidad t\u00e9cnica para alinear una superinteligencia.<br \/>\n2.- Coordinaci\u00f3n suficiente entre la mayor\u00eda de los principales esfuerzos de AGI.<br \/>\n3.- Un marco regulatorio global efectivo que incluya gobernanza democr\u00e1tica.<\/p>\n<blockquote class=\"twitter-tweet\">\n<p lang=\"en\" dir=\"ltr\">things we need for a good AGI future:<\/p>\n<p>1) the technical ability to align a superintelligence<br \/>2) sufficient coordination among most of the leading AGI efforts<br \/>3) an effective global regulatory framework including democratic governance<\/p>\n<p>&mdash; Sam Altman (@sama) <a href=\"https:\/\/twitter.com\/sama\/status\/1641229941131051008?ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener\">March 30, 2023<\/a><\/p><\/blockquote>\n<p> <script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<p>Ante esta declaraci\u00f3n, algunos de sus seguidores lo apoyaron para que siguiera desarrollando la IA; sin embargo tambi\u00e9n se mostr\u00f3 preocupaci\u00f3n.<\/p>\n<p>@scottwww: Aplaudo sus esfuerzos, pero no veo c\u00f3mo es posible alinear una IA que es millones de veces m\u00e1s capaz que nosotros + automejora. No puede ser tan simple como aqu\u00ed est\u00e1n tus rieles, no te caigas. Tambi\u00e9n: \u00bfalineado con qu\u00e9\/qui\u00e9n? Alinearse con algunos significa desalinearse con otros.<\/p>\n<p>@PetrichorLost:El entrenamiento es fundamental\u2026 AI necesita un apego seguro a la humanidad.<\/p>\n<p>Sin duda la IA es un tema muy presente hoy en d\u00eda y a pesar de que ha generado una gran aceptaci\u00f3n, tambi\u00e9n ha desatado temor incluso con ciertos l\u00edderes de la industria que temen por un descontrol.<\/p>\n<p>Fuente: <a href=\"https:\/\/www.merca20.com\/ceo-de-openai-responde-a-carta-de-elon-musk-sobre-riesgo-de-ia\/\" title=\"Ver en la fuente\" rel=\"noopener\" target=\"_blank\">Merca2.0<\/a><\/p>\n<blockquote class=\"twitter-tweet\">\n<p lang=\"en\" dir=\"ltr\">our profile on sam altman, who fears the dystopian potential of AI but has done more than anyone else to develop it<\/p>\n<p>on the way, he fended off elon musk, who called a young researcher a &quot;jackass&quot; at an all-hands before leaving OpenAI<\/p>\n<p>w\/ <a href=\"https:\/\/twitter.com\/keachhagey?ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener\">@keachhagey<\/a> <a href=\"https:\/\/t.co\/YVpbhQK8fe\" target=\"_blank\">https:\/\/t.co\/YVpbhQK8fe<\/a><\/p>\n<p>&mdash; Berber Jin (@berber_jin1) <a href=\"https:\/\/twitter.com\/berber_jin1\/status\/1641872434713460739?ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener\">March 31, 2023<\/a><\/p><\/blockquote>\n<p> <script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<blockquote class=\"twitter-tweet\">\n<p lang=\"es\" dir=\"ltr\"><a href=\"https:\/\/twitter.com\/elonmusk?ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener\">@ElonMusk<\/a>, <a href=\"https:\/\/twitter.com\/stevewoz?ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener\">@stevewoz<\/a>, <a href=\"https:\/\/twitter.com\/harari_yuval?ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener\">@harari_yuval<\/a> y m\u00e1s de 1000 expertos piden una pausa en la inteligencia artificial por &quot;grandes riesgos para la humanidad&quot;<\/p>\n<p>El director de <a href=\"https:\/\/twitter.com\/OpenAI?ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener\">@OpenAI<\/a>, Sam Altman, reconoci\u00f3 tener &quot;un poco de miedo&quot;.<a href=\"https:\/\/twitter.com\/hashtag\/ia?src=hash&amp;ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener\">#ia<\/a> <a href=\"https:\/\/twitter.com\/hashtag\/seguridad?src=hash&amp;ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener\">#seguridad<\/a> <a href=\"https:\/\/twitter.com\/hashtag\/sociedad?src=hash&amp;ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener\">#sociedad<\/a><a href=\"https:\/\/t.co\/eKZByzgwyX\" target=\"_blank\">https:\/\/t.co\/eKZByzgwyX<\/a><\/p>\n<p>&mdash; Forbes Uruguay  (@forbesuruguay) <a href=\"https:\/\/twitter.com\/forbesuruguay\/status\/1641826686064037888?ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener\">March 31, 2023<\/a><\/p><\/blockquote>\n<p> <script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n","protected":false},"excerpt":{"rendered":"<p>El CEO de OpenAI no ha dejado pasar la oportunidad de dar su opini\u00f3n respecto a la petici\u00f3n para que la IA se ponga en pausa. El CEO de OpenAI, Sam Altman ha respondido con argumentos a la carta que tanto Elon Musk y cient\u00edficos, incluyendo a Steve Wozniak e ingenieros de Google y Microsoft, firmaron como petici\u00f3n en futureoflife.org para detener por 6 meses las investigaciones relacionadas con la&#8230;<\/p>\n","protected":false},"author":13,"featured_media":132903,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[29],"tags":[41881,39360,14881,39412,41880,39413],"views":193,"_links":{"self":[{"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/posts\/132902"}],"collection":[{"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/users\/13"}],"replies":[{"embeddable":true,"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/comments?post=132902"}],"version-history":[{"count":0,"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/posts\/132902\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/media\/132903"}],"wp:attachment":[{"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/media?parent=132902"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/categories?post=132902"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/tags?post=132902"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}