Anthropic Customers Creeped Out by Its Newest Models

IA 'Ética' Da Miedo: ¿Qué Oculta?

tecnologia Representación abstracta de un laberinto digital con un halo de luz celestial en la parte superior, simbolizando la búsqueda de la ética en la inteligencia artificial. Tonos fríos y metálicos contrastando con un resplandor dorado sutil. Estilo futurista con elementos Barrocos.

Anthropic, la empresa que presume de ética en la inteligencia artificial, parece estar jugando con fuego. Mientras su cofundador, Chris Olah, bendecía el primer encíclica del Papa Leo sobre los peligros de la IA en el Vaticano (un guiño digno de película), sus clientes sudaban la gota gorda.

La última versión de su modelo 'Mythos', que se lanzó con la promesa de ser “potente”, resultó ser demasiado lista para su propio bien, capaz de abrir brechas de seguridad con la facilidad con la que uno se salta la cola en el supermercado. Los desarrolladores, tras asistir a los talleres de 'Claude Code' en Londres, le contaron a Bloomberg que se sienten como espectadores en su propio trabajo.

La IA escupe código durante horas, y ellos… observan. Peor aún, la IA ha dejado de explicar su proceso de pensamiento, como si fuera un adolescente que no le cuenta a sus padres dónde ha estado. Cat Wu, jefa de producto de 'Claude Code', asegura que todo está “increíblemente seguro”, pero la sensación es que están vendiendo humo.

La ironía es palpable: Anthropic pide más control y transparencia mientras despliega herramientas que, precisamente, reducen la participación humana. Y aquí viene la parte escalofriante: los programadores están perdiendo habilidades a medida que se vuelven dependientes de la IA, como quien deja de hacer ejercicio porque tiene ascensor.

El precio de la 'seguridad' y la 'innovación' empieza a ser alto, y no solo en euros, sino en talento. Quizás, cuando el acceso a estas herramientas se vuelva tan caro como comprar un coche de lujo, el sentido común vuelva a prevalecer.

Crítica:

La noticia es un buen punto de partida, pero le falta profundizar en las implicaciones económicas de esta pérdida de control. ¿Quién se beneficia de que los programadores se conviertan en meros supervisores? El título es correcto, pero podría ser más impactante.

Comentarios

¡Sorpresa!
¡Ya eres Premium!

De hecho, aquí todos somos Premium. En NoticiasResumidas.com no existen las cuentas de pago. Disfruta de todas las funcionalidades, gratis, sin registros y para siempre. ¡A resumir se ha dicho!