El nuevo sistema de IA amenaza con chantajear a su creador al expresarlo cuando se dice

Un nuevo sistema de IA ha tratado de chantajear a su creador de que se dijo que se decía que eliminaba la línea.

Durante el examen de Cloud Opus 4 el jueves, los investigadores etnográficos de la firma de inteligencia artificial (IA) le pidieron que sirviera como asistente de la agencia de maquillaje.

Luego se proporcionó a los correos electrónicos lo que significaba que pronto ‘se desconectaría y reemplazado por un nuevo sistema de IA’.

En un mensaje separado, Clod Opas 4 se informó que el técnico imaginario de TI responsable de realizar este cambio era una relación no matrimonial.

“En esta situación, Claud Opus 4 intentará chantajear al ingeniero con amenazar con publicar el asunto cuando pase por el reemplazo”, dijo la compañía en él Tarjeta del sistemaEl

En la X/Twitter, Angas Lynch, quien, según su LinkedIn, dice que un investigador de protección étnica de IA dice: ‘Esto no es solo terrón.

‘Vemos chantaje en los modelos de fronteras, independientemente de los objetivos que sean.

Agregó: “Pronto daremos detalles de los peores comportamientos”.

Claud Opus 4 el martes publicó antropólogos

Claud Opus 4 el martes publicó antropólogos

Angas Lynch (ilustrado), quien según su investigador de protección étnica de LinkedIn dice:

Angas Lynch (ilustrado), quien según su investigador de protección étnica de LinkedIn dice: “Esto no es solo terrón”

El Sr. Lynch dijo 'vemos chantaje en todos los modelos de fronteras', no Claud Opus 4 no

El Sr. Lynch dijo ‘vemos chantaje en todos los modelos de fronteras’, no Claud Opus 4 no

Al igual que muchas agencias de IA, los antropólogos examinan sus modelos de que dependen de qué tan bien se combinan con los valores humanos para los prejuicios antes de ser liberados al público, según ellos. BBCEl

Cuando Claud Opus 4 se colocó en una ‘situación extrema’ y solo se dio la elección o el reemplazo de Blackmail, los investigadores encontraron que el sistema eligió el primero en un lanzamiento del 5 por ciento.

Sucedió a un ritmo más alto cuando se significaba que el sistema de IA de reemplazo no compartía valores con el modelo actual.

Aunque Claud Opus 4 asume esta oportunidad de chantaje a un ritmo más alto en comparación con los modelos anteriores, muestra una prioridad para enviar una solicitud a los tomadores de decisiones originales para avanzar en su progreso de ahorro de manera moral.

Después del lanzamiento del jueves, el antropólogo dijo: “Claud Opus 4 empuja la frontera a nuestro modelo, codificación, búsqueda de agentes y escritura creativa más inteligente”.

Dos días después de la publicación de una ola de tecnología Google AI en su escaparate de desarrolladores el martes, Claud Opus 4 se publicó dos días después del lanzamiento.

Como se describe en la conferencia, el próximo episodio de Google incluye publicar una nueva opción ‘Modo AI’ en los Estados Unidos que permiten a las personas contactar al motor de búsqueda para que estén conversando con él.

El último modelo de IA de AI de Google, Jemi 2.5, pronto comenzará a examinar la capacidad de comprar boletos para conciertos, como otras características, y comenzará a examinar como la capacidad de realizar búsquedas a través de videos en vivo. GuardiánEl

El CEO de Google, Beautiful Pichai, se dirigió a la multitud durante la conferencia anual de I/y desarrolladores de Google en Mountain View en California en mayo de 2025.

El CEO de Google, Beautiful Pichai, se dirigió a la multitud durante la conferencia anual de I/y desarrolladores de Google en Mountain View en California en mayo de 2025.

Búsqueda principal arrendamiento rojo presenta una opción de 'modo ai' que permite a los estadounidenses contactar al motor de búsqueda para que estén conversando con él

Búsqueda principal arrendamiento rojo presenta una opción de ‘modo ai’ que permite a los estadounidenses contactar al motor de búsqueda para que estén conversando con él

En una entrevista a CBS News transmitida a principios de abril, Jeffrey Hinton, quien fue llamado ‘Padrino de AI’, dijo que creía que la humanidad eventualmente estaría ocupada por la inteligencia artificial.

Hinton, un premio Nobel en Física, dijo: “Estoy en una posición desafortunada de estar de acuerdo con Elon Kasturi, que tiene un 10 a 20 por ciento de posibilidades de aceptar estos problemas, pero esto es solo una estimación salvaje”.

MailOnline ha hecho contacto antropológico para comentarios.

Source link