Anthropic desafía al Pentágono por vigilancia masiva y armas autónomas
El director ejecutivo de Anthropic, Dario Amodei, ha reafirmado la postura de la empresa en una declaración pública.
El director ejecutivo de Anthropic, Dario Amodei, ha reafirmado la postura de la empresa en una declaración pública.
El entrenamiento de seguridad de Anthropic falla cuando Claude interactúa con una interfaz gráfica de usuario (GUI).
El popular agente de IA de código abierto OpenClaw puede ser comprometido por completo mediante documentos manipulados de forma maliciosa, lo que permite a los atacantes instalar una puerta trasera persistente y tomar el control del ordenador del usuario, según demostraron investigadores de seguridad.
El gobierno de Estados Unidos está lanzando “Project Vault” para proteger a las empresas estadounidenses frente a posibles escaseces de suministro de tierras raras y otros minerales críticos.
El foro viral al estilo Reddit para agentes de IA, Moltbook, fue hackeado en “menos de tres minutos”, lo que expuso 35.000 direcciones de correo electrónico, miles de conversaciones privadas y 1,5 millones de tokens de autenticación, según la firma de ciberseguridad Wiz.
El Departamento de Defensa de EE. UU. quiere utilizar tecnología de inteligencia artificial sin restricciones, mientras que Anthropic exige garantías contra el control autónomo de armas y la vigilancia interna. Un contrato de 200 millones de dólares está en juego.
El martes 13 de enero, el Gobierno de España aprobó un proyecto de ley destinado a combatir las imágenes falsas generadas mediante inteligencia artificial y a endurecer las normas sobre el consentimiento para el uso de imágenes.
Decenas de aplicaciones de “nudify” están disponibles en las tiendas de Apple y Google, y permiten fotografiar a personas y usar IA para generar imágenes desnudas de ellas, según expertos de TTP.
El gobierno del Reino Unido ha seleccionado a Anthropic para desarrollar un asistente de IA para el sitio web GOV.UK. El Departamento de Ciencia, Innovación y Tecnología (DSIT) busca utilizar esta herramienta para ayudar a los ciudadanos a acceder a los servicios públicos y recibir orientación personalizada. Inicialmente, el asistente se centrará en apoyar a los solicitantes de empleo con asesoramiento profesional, mejorar el acceso a programas de formación y recualificación, y explicar los beneficios y servicios disponibles.
La Comisión Europea ha iniciado un nuevo procedimiento contra X en virtud de la Ley de Servicios Digitales (DSA).