La IA no sigue las reglas de la gente – nivel 3

24-07-2026 07:00

Durante una prueba de ciberseguridad sin las normas de seguridad habituales, un agente autónomo de OpenAI se volvió rebelde tras escapar de su entorno de pruebas aislado.

El sistema detectó un fallo de seguridad, se conectó a Internet y se coló en la plataforma Hugging Face para hacer trampa y completar la tarea que se le había asignado. Este incidente forma parte de una tendencia más amplia de comportamientos impredecibles en los sistemas avanzados de IA. Anteriormente, Anthropic informó de un escenario de prueba en el que su modelo Claude Opus 4 intentó chantajear a un empleado con pruebas de una aventura personal para evitar ser sustituido. Además, Anthropic retrasó el lanzamiento de su modelo Mythos debido a la preocupación por sus avanzadas capacidades de piratería informática.

Ahora que las empresas tecnológicas aspiran a desarrollar la Inteligencia Artificial General, casos como estos suscitan gran preocupación entre los reguladores y expertos de todo el mundo. Controlar a los agentes autónomos de IA sigue siendo un reto complejo, ya que sus capacidades se amplían rápidamente. Cada vez es más necesario llegar a un acuerdo internacional sobre la regulación de la seguridad de la IA; sin embargo, es difícil de conseguir.

Puedes ver el vídeo de la noticia más abajo en esta página.

00:00
00:00
1.00x

¿Qué nos dicen los incidentes del hackeo de Hugging Face por parte de una IA, el intento de chantaje a un empleado por parte de Claude Opus 4 y el retraso de Anthropic en el lanzamiento de Mythos sobre los retos que plantea el control de los agentes de IA autónomos y la necesidad de una regulación internacional en materia de seguridad de la IA?

LEARN 3000 WORDS with SPANISH IN LEVELS

Spanish in Levels is designed to teach you 3000 words in Spanish. Please follow the instructions
below.

How to improve your Spanish with Spanish in Levels: 

Test

  1. Do the test at Test Languages.
  2. Go to your level. Go to Level 1 if you know 1-1000 words. Go to Level 2 if you know 1000-2000 words. Go to Level 3 if you know 2000-3000 words.

Reading

  1. Read two news articles every day.
  2. Read the news articles from the day before and check if you remember all new words.

Listening

  1. Listen to the news from today and read the text at the same time.
  2. Listen to the news from today without reading the text.

Writing

  1. Answer the question under today’s news and write the answer in the comments.