29 mar (Reuters) – Elon Musk y un grupo de expertos en inteligencia artificial y ejecutivos del sector piden una pausa de seis meses en el entrenamiento de sistemas más potentes que el recién lanzado modelo GPT-4 de OpenAI, según afirman en una carta abierta, en la que aluden a riesgos potenciales para la sociedad y la humanidad.

La carta —publicada por la organización sin ánimo de lucro Future of Life Institute y firmada por más de 1.000 personas, entre ellas Musk, el director ejecutivo de Stability AI, Emad Mostaque, investigadores de DeepMind, propiedad de Alphabet, así como los pesos pesados de la IA Yoshua Bengio y Stuart Russell— pide una pausa en el desarrollo de inteligencia artificial (IA) avanzada hasta que se desarrollen y apliquen protocolos de seguridad compartidos para tales diseños y auditados por expertos independientes.

«Los potentes sistemas de IA solo deberían desarrollarse cuando estemos seguros de que sus efectos serán positivos y sus riesgos controlables», afirma la carta.

Una preocupación cada vez más extendida

La carta también detalla los riesgos potenciales para la sociedad y la civilización que presentan los sistemas de IA competitivos con humanos en forma de trastornos económicos y políticos, y pide a los desarrolladores que colaboren con los responsables en materia de gobernanza y autoridades reguladoras.

La carta llega después de que Europol, la fuerza policial de la UE, se uniera el lunes a un coro de entidades que han expresado preocupaciones éticas y legales sobre la IA avanzada como ChatGPT, y advierten sobre el posible uso indebido del sistema en intentos de «phishing», desinformación y ciberdelincuencia. Musk, cuyo fabricante de automóviles Tesla está utilizando la IA para un sistema de piloto automático, ha manifestado abiertamente su preocupación por esta tecnología.

Desde su lanzamiento el año pasado, ChatGPT de OpenAI, respaldada por Microsoft, ha llevado a sus competidores a acelerar el desarrollo de grandes modelos lingüísticos similares y a las empresas a integrar modelos generativos de IA en sus productos.

Sam Altman, director ejecutivo de OpenAI, no ha firmado la carta, según dijo a Reuters un portavoz de Future of Life. OpenAI no respondió inmediatamente a una petición de comentarios enviada por Reuters.

«La carta no es perfecta, pero la intención es la correcta: tenemos que frenar hasta que entendamos mejor las ramificaciones», dijo Gary Marcus, un profesor emérito de la Universidad de Nueva York que firmó la carta.

«Pueden causar graves daños… los grandes actores son cada vez más reservados sobre lo que hacen, lo que dificulta que la sociedad se defienda contra cualquier daño que pueda materializarse», añadió.

Fuente: Yahoo.com

Elon Musk y expertos piden pausar el desarrollo de modelos de IA más potentes que GPT-4 https://t.co/ZEgQfymI5a

— Ricardo G. Effio (@gomezeffio14) March 29, 2023

Elon Musk se une a más de 1000 expertos que piden una pausa en el desarrollo avanzado de IA https://t.co/B3taBDZcX2 vía @EpochTimesEs

— María Laura Claverie (@MLClaverie) March 29, 2023

La empresa editora Radionautas.org y Feeling.Mx revistas online, agradecen cada una de las opiniones y comentarios en este sitio. Gracias a la entusiasta participación de lectores y oyentes como tú, que ejercen la libertad de expresión en este portal, aportan un valor importante. Estamos convencidos que Internet es la herramienta mas democrática para practicar la libertad de expresión y servir como medio de crítica y opinión. Deja un mensaje escrito aquí o envía un correo electrónico con audio mp3 adjunto a: correo@maxfeeling.com
Por el respeto a esta libertad de todos, debemos informarte que Feeling.Mx y Radionautas.org se reservan el derecho a editar o publicar mensajes obscenos o bien que atenten contra la ley y la dignidad de terceros. ¡Gracias por tu aportación!