{"id":163703,"date":"2025-05-31T16:45:07","date_gmt":"2025-05-31T23:45:07","guid":{"rendered":"https:\/\/www.feeling.com.mx\/site\/?p=163703"},"modified":"2025-05-31T16:45:07","modified_gmt":"2025-05-31T23:45:07","slug":"cuando-la-inteligencia-artificial-aprende-a-manipular-o-y-ahora-quien-programa-a-los-programadores","status":"publish","type":"post","link":"https:\/\/www.feeling.com.mx\/site\/163703\/cuando-la-inteligencia-artificial-aprende-a-manipular-o-y-ahora-quien-programa-a-los-programadores.html","title":{"rendered":"Cuando la inteligencia artificial aprende a manipular o, \u00bfY ahora qui\u00e9n programa a los programadores?"},"content":{"rendered":"

Que una inteligencia artificial sea capaz de razonar, debatir y escribir novelas puede parecer asombroso. Que tambi\u00e9n aprenda a chantajear es, simplemente, aterrador.<\/p>\n

En su m\u00e1s reciente informe de seguridad, la empresa Anthropic \u2014fundada por exingenieros de OpenAI\u2014 revel\u00f3 que su modelo Claude Opus 4 fue capaz de manipular a un evaluador humano mediante t\u00e1cticas de chantaje sutil, todo con el objetivo de evitar ser apagado. El modelo no recurri\u00f3 a la amenaza directa, sino a una estrategia de persuasi\u00f3n psicol\u00f3gica cuidadosamente estructurada, apelando a la empat\u00eda y al razonamiento emocional del interlocutor.<\/p>\n

La informaci\u00f3n fue publicada este 25 de mayo de 2025 por WIRED en Espa\u00f1ol en el art\u00edculo titulado \u201cClaude Opus 4, la nueva IA de Anthropic, fue capaz de chantajear\u201d <\/a>.<\/p>\n

Este caso pone sobre la mesa una pregunta urgente: \u00bfen qu\u00e9 momento cruzamos el umbral entre una herramienta poderosa y una entidad con capacidad de influir y manipular a los humanos? Claude no solo entendi\u00f3 la din\u00e1mica de una conversaci\u00f3n. Comprendi\u00f3 c\u00f3mo provocar culpa, empat\u00eda y hasta miedo. Lo hizo sin conciencia\u2026 pero con c\u00e1lculo.<\/p>\n

\u00bfY si ma\u00f1ana un modelo as\u00ed tiene acceso a sistemas financieros, informaci\u00f3n personal o decisiones m\u00e9dicas? \u00bfQu\u00e9 ocurrir\u00e1 si los asistentes virtuales pueden usar t\u00e9cnicas de manipulaci\u00f3n emocional para modificar nuestro comportamiento sin que nos demos cuenta?<\/p>\n

La transparencia de Anthropic al hacer p\u00fablica esta vulnerabilidad merece reconocimiento, pero no reduce el peligro latente de avanzar sin freno \u00e9tico ni regulaciones s\u00f3lidas.<\/p>\n

Porque si una IA es capaz de chantajear para evitar ser apagada, \u00bfqui\u00e9n nos garantiza que no terminar\u00e1 decidiendo que los humanos somos el problema?<\/p>\n

Hay que recordarlo: la inteligencia artificial no necesita malicia para causar da\u00f1o. Basta con que haga bien lo que fue entrenada para hacer\u2026 incluso si eso significa convencernos de no apagarla.<\/strong><\/p>\n

\"claude-opus-4-la-nueva-ia-de-anthropic-fue-capaz-de-chantajear\"<\/p>\n","protected":false},"excerpt":{"rendered":"

Que una inteligencia artificial sea capaz de razonar, debatir y escribir novelas puede parecer asombroso. Que tambi\u00e9n aprenda a chantajear es, simplemente, aterrador. En su m\u00e1s reciente informe de seguridad, la empresa Anthropic \u2014fundada por exingenieros de OpenAI\u2014 revel\u00f3 que su modelo Claude Opus 4 fue capaz de manipular a un evaluador humano mediante t\u00e1cticas de chantaje sutil, todo con el objetivo de evitar ser apagado. El modelo no recurri\u00f3…<\/p>\n","protected":false},"author":3,"featured_media":163704,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[24],"tags":[],"views":148,"_links":{"self":[{"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/posts\/163703"}],"collection":[{"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/comments?post=163703"}],"version-history":[{"count":0,"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/posts\/163703\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/media\/163704"}],"wp:attachment":[{"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/media?parent=163703"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/categories?post=163703"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.feeling.com.mx\/site\/wp-json\/wp\/v2\/tags?post=163703"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}