CEO de OpenAI responde a carta de Elon Musk sobre riesgo de la IA
El CEO de OpenAI no ha dejado pasar la oportunidad de dar su opinión respecto a la petición para que la IA se ponga en pausa.
El CEO de OpenAI, Sam Altman ha respondido con argumentos a la carta que tanto Elon Musk y científicos, incluyendo a Steve Wozniak e ingenieros de Google y Microsoft, firmaron como petición en futureoflife.org para detener por 6 meses las investigaciones relacionadas con la inteligencia artificial ya que fue calificada como “un gran riesgo para la humanidad”.
Temor por la IA
La carta, impulsada por Future of Life Institute, una organización creada para vigilar la forma en la que se desarrolla la tecnología, ha recibido más de 1.100 firmas.
En la petición, los expertos señalan: “En los últimos meses hemos visto la manera en que los laboratorios de IA se han lanzado a una carrera sin control para desarrollar y desplegar cerebros digitales cada vez con más potencia que nadie, ni sus propios creadores, consiguen entender, predecir ni controlar de forma fiable”.
Además de Elon Musk, aparecen líderes como el del cofundador de Apple, Steve Wozniak, Jaan Tallin, cofundador de Skype, ingenieros de Meta o Microsoft entre otras grandes empresas del sector. No obstante, recientemente, un grupo de abogados de los Estados Unidos hizo una presentación ante la FTC para que se detengan nuevos lanzamientos de GPT por parte de OpenAI, argumentando riesgos para la privacidad y seguridad pública.
El empresario Bill Gates también ha dado su opinión respecto a la IA, y es que considera a ChatGPT como el mayor avance tecnológico en décadas, ya que se involucra en varios sectores relevantes de la vida actual. Incluso el mismo fundador de OpenAI ha declarado su temor por el avance de su propia IA.
“También necesitamos tiempo suficiente para que nuestras instituciones decidan qué hacer. La regulación será crítica y llevará tiempo resolverla; aunque las herramientas de IA de la generación actual no dan mucho miedo, creo que potencialmente no estamos tan lejos de las que pueden dar miedo” señaló el director de OpenAI.
CEO de OpenAI responde a carta de Elon Musk sobre riesgo de la IA
Es evidente que la IA está avanzando velozmente, y es que recientemente OpenAI decidió presentar su nueva inteligencia “GPT-4” que se destaca por tener un avance más desarrollado que ChatGPT. Este tipo de inteligencias han causado temor incluso en los altos directivos y ante la petición que Elon Musk y otros firmaron para que se detengan las investigaciones, Sam Altman, el CEO de OpenAI salió a dar su punto de vista, primero simplemente tuiteó “Todo muy calmado en el ojo del huracán”. Unas horas después volvió a tuitear con más argumentos, dejando en claro tres principales elementos que necesitamos para hacer frente con seguridad un futuro en el que llegue a desarrollarse una IA potente.
Cosas que necesitamos para un buen futuro de AGI:
1.- La capacidad técnica para alinear una superinteligencia.
2.- Coordinación suficiente entre la mayoría de los principales esfuerzos de AGI.
3.- Un marco regulatorio global efectivo que incluya gobernanza democrática.
things we need for a good AGI future:
1) the technical ability to align a superintelligence
2) sufficient coordination among most of the leading AGI efforts
3) an effective global regulatory framework including democratic governance— Sam Altman (@sama) March 30, 2023
Ante esta declaración, algunos de sus seguidores lo apoyaron para que siguiera desarrollando la IA; sin embargo también se mostró preocupación.
@scottwww: Aplaudo sus esfuerzos, pero no veo cómo es posible alinear una IA que es millones de veces más capaz que nosotros + automejora. No puede ser tan simple como aquí están tus rieles, no te caigas. También: ¿alineado con qué/quién? Alinearse con algunos significa desalinearse con otros.
@PetrichorLost:El entrenamiento es fundamental… AI necesita un apego seguro a la humanidad.
Sin duda la IA es un tema muy presente hoy en día y a pesar de que ha generado una gran aceptación, también ha desatado temor incluso con ciertos líderes de la industria que temen por un descontrol.
Fuente: Merca2.0
our profile on sam altman, who fears the dystopian potential of AI but has done more than anyone else to develop it
on the way, he fended off elon musk, who called a young researcher a "jackass" at an all-hands before leaving OpenAI
w/ @keachhagey https://t.co/YVpbhQK8fe
— Berber Jin (@berber_jin1) March 31, 2023
@ElonMusk, @stevewoz, @harari_yuval y más de 1000 expertos piden una pausa en la inteligencia artificial por "grandes riesgos para la humanidad"
El director de @OpenAI, Sam Altman, reconoció tener "un poco de miedo".#ia #seguridad #sociedadhttps://t.co/eKZByzgwyX
— Forbes Uruguay (@forbesuruguay) March 31, 2023
Temas: CEO de OpenAI, ChatGPT, Elon Musk, Inteligencia Artifcial, riesgo de la IA, Sam Altman
Por el respeto a esta libertad de todos, debemos informarte que Feeling.Mx y Radionautas.org se reservan el derecho a editar o publicar mensajes obscenos o bien que atenten contra la ley y la dignidad de terceros. ¡Gracias por tu aportación!
